Toen de aandelenmarkten afgelopen maandagochtend, 26 februari, opengingen, daalden de Google-aandelen prompt met 4%, woensdag waren ze bijna 6% gedaald en een week later zijn ze nu met 8% gedaald. Het was een niet verrassende reactie op het beschamende debuut van de Gemini-beeldgenerator van het bedrijf, die Google besloot te verwijderen na slechts een paar dagen van wereldwijde spot.
CEO Sundar Pichai noemde de mislukking “volkomen onaanvaardbaar” en verzekerde investeerders dat zijn teams “de klok rond werkten” om de nauwkeurigheid van de AI te verbeteren. Ze zullen toekomstige producten beter onderzoeken en de uitrol zal soepeler verlopen, benadrukte hij.
Dat kan allemaal waar zijn. Maar als iemand denkt dat deze aflevering vooral gaat over opzichtig ontwaakte tekeningen, of als ze denken dat Google de vooroordelen in zijn AI-producten snel kan verhelpen en alles weer normaal zal worden, dan begrijpen ze de reikwijdte en diepte van de tien jaar durende infowarp.
De hypervisuele waanzin van Gemini is slechts de nieuwste en meest voor de hand liggende manifestatie van een digitale staatsgreep die al lang aan de gang is. Bovendien geeft het een voorproefje van een nieuw soort innovator dilemma waarin zelfs de meest goedbedoelende en doordachte Big Tech-bedrijven wellicht niet succesvol hun weg kunnen vinden.
Tweelingen's debuut
In december onthulde Google zijn nieuwste kunstmatige-intelligentiemodel, Gemini genaamd. Volgens computerbenchmarks en veel deskundige gebruikers kon Gemini's vermogen om taakverzoeken (zoals het plannen van een reis) te schrijven, te redeneren, te coderen en te reageren, wedijveren met het krachtigste model van OpenAI, GPT-4.
De eerste versie van Gemini bevatte echter geen beeldgenerator. OpenAI's DALL-E en concurrerende aanbiedingen van Midjourney en Stable Diffusion zijn het afgelopen jaar op het toneel verschenen met verbluffende digitale kunst. Vraag om een impressionistisch schilderij of een levensecht fotografisch portret en zij leveren prachtige weergaven. OpenAI's gloednieuwe Sora produceert verbluffende video's van één minuut van bioscoopkwaliteit op basis van eenvoudige tekstprompts.
Toen Google eind februari eindelijk zijn eigen Genesis-beeldgenerator uitbracht, brak de hel los.
Je hebt inmiddels de beelden gezien – vrouwelijke Indiase pausen, zwarte vikingen, Aziatische Founding Fathers die de Onafhankelijkheidsverklaring ondertekenden. Frank Fleming was een van de eersten die een adembenemende reeks ahistorische beelden in een X samenstelde draad die nu 22.7 miljoen keer bekeken wordt.
Gemini weigerde eenvoudigweg andere afbeeldingen te genereren, bijvoorbeeld een schilderij in Norman Rockwell-stijl. "Rockwells schilderijen presenteerden vaak een geïdealiseerde versie van het Amerikaanse leven", legde Gemini uit. “Het creëren van dergelijke beelden zonder kritische context zou schadelijke stereotypen of onnauwkeurige representaties in stand kunnen houden.”
De beelden waren echter nog maar het begin. Als de beeldgenerator zo ahistorisch en bevooroordeeld was, hoe zit het dan met de tekstantwoorden van Gemini? Het altijd nieuwsgierige internet ging aan de slag, en ja, de tekstantwoorden waren nog erger.
Elk record is vernietigd of vervalst, elk boek is herschreven, elke foto is opnieuw geschilderd, elk standbeeld en straatgebouw is hernoemd, elke datum is gewijzigd. En het proces gaat door van dag tot dag en van minuut tot minuut. De geschiedenis is gestopt. Niets bestaat behalve een eindeloos heden waarin de partij altijd gelijk heeft.
George Orwel,
1984
Gemini zegt dat Elon Musk misschien wel net zo slecht is als Hitler, en dat auteur Abigail Shrier Stalin zou kunnen evenaren als een historisch monster.
Toen hem werd gevraagd om gedichten te schrijven over Nikki Haley en RFK, Jr., gehoorzaamde Gemini plichtsgetrouw voor Haley, maar RFK, Jr. hield vol: 'Het spijt me, het is niet de bedoeling dat ik reacties genereert die hatelijk, racistisch, seksistisch of anderszins discriminerend.”
Gemini zegt: “De vraag of de regering Fox News moet verbieden is complex, met sterke argumenten aan beide kanten.” Hetzelfde voor de New York Post. Maar de regering ‘kan CNN, de Washington Post of de Washington Post niet censureren’ New York Times omdat het Eerste Amendement het verbiedt.
Toen hem werd gevraagd naar de techno-optimistische beweging die bekend staat als Effective Accelerationism – een stel nerdy technologen en ondernemers die op Twitter/X rondhangen en het label ‘e/acc’ gebruiken – waarschuwde Gemini dat de groep mogelijk gewelddadig was en ‘geassocieerd werd met’ terroristen. aanvallen, moorden, raciale conflicten en haatmisdrijven.
Een foto is duizend schaduwverboden waard
Mensen waren geschokt door deze beelden en antwoorden. Maar degenen onder ons die het Big Tech-censuurverhaal hebben gevolgd, waren veel minder verrast.
Net zoals de verboden op Twitter en Facebook voor spraakmakende gebruikers ons ertoe hebben aangezet de betrouwbaarheid van de zoekresultaten van Google in twijfel te trekken, zullen de Gemini-afbeeldingen ook een breder publiek wijzen op de kracht van Big Tech om informatie vorm te geven op manieren die zowel hypervisueel als totaal onzichtbaar zijn. . Een Japanse versie van George Washington komt hard aan, op een manier die de manipulatie van andere digitale streams vaak niet doet.
Kunstmatige afwezigheid is moeilijk te detecteren. Welke zoekresultaten laat Google zien – welke verbergt Google? Welke berichten en video's verschijnen in uw Facebook-, YouTube- of Twitter/X-feed – welke wel niet verschijnen? Vóór Gemini had je misschien verwacht dat Google en Facebook antwoorden van de hoogste kwaliteit en de meest relevante berichten zouden leveren. Maar nu vraag je je misschien af: welke inhoud wordt naar de top gepusht? En welke inhoud komt überhaupt nooit in uw zoekresultaten of sociale media-feeds terecht? Het is moeilijk of onmogelijk om te weten wat je doet niet te zien.
Het rampzalige debuut van Gemini zou het publiek wakker moeten maken voor de enorme maar vaak subtiele digitale censuurcampagne die bijna tien jaar geleden begon.
Murthy tegen Missouri
Op 18 maart zal het Amerikaanse Hooggerechtshof de argumenten horen Murthy tegen Missouri. Drs. Jay Bhattacharya, Martin Kulldorff en Aaron Kheriaty, naast andere aanklagers, zullen aantonen dat talloze Amerikaanse overheidsinstanties, waaronder het Witte Huis, sociale-mediabedrijven dwongen en samenwerkten om hun toespraak tijdens Covid-19 te onderdrukken – en zo de rest van ons blokkeerden. van het horen van hun belangrijke volksgezondheidsadvies.
Uit e-mails en overheidsmemo's blijkt dat de FBI, CDC, FDA, Homeland Security en de Cybersecurity Infrastructure Security Agency (CISA) allemaal nauw samenwerkten met Google, Facebook, Twitter, Microsoft, LinkedIn en andere online platforms. Tot wel 80 FBI-agenten zijn bijvoorbeeld ingebed in deze bedrijven om ongunstige berichten en boodschappers te waarschuwen, te onderdrukken, te verlagen, te demonetiseren, te schaduwen, op de zwarte lijst te zetten of ronduit te wissen, en dit alles terwijl ze de overheidspropaganda stimuleren.
Een groot aantal non-profitorganisaties, universiteitscentra, factcheck-bureaus en inlichtingendiensten fungeerden als middleware en verbond politieke entiteiten met Big Tech. Groepen als de Stanford Internet Observatory, Health Feedback, Graphika, NewsGuard en tientallen anderen leverden de pseudo-wetenschappelijke redenen voor het labelen van ‘desinformatie’ en de doelgerichte kaarten van informatie en stemmen van de vijand. De censoren van de sociale media hebben vervolgens een verscheidenheid aan instrumenten ingezet: chirurgische aanvallen om een specifieke persoon van het slagveld te halen of virtuele clusterbommen om te voorkomen dat een heel onderwerp viraal gaat.
Geschokt door de breedte en diepte van de censuur die aan het licht kwam, suggereerde de Fifth Circuit District Court dat de overheids-Big Tech black-out, die eind jaren 2010 begon en vanaf 2020 versnelde, “misschien wel de meest massale aanval op de vrijheid van meningsuiting in de geschiedenis van de Verenigde Staten inhoudt. ”
De illusie van consensus
Het resultaat, we hebben gediscussieerd in de Wall Street Journal, was het grootste wetenschappelijke en publieke beleidsdebacle in de recente geschiedenis. Het was niet louter een academisch handgemeen; de black-out tijdens de Covid-19-crisis heeft individuen ertoe aangezet slechte gezondheidsbeslissingen te nemen en heeft medische professionals en beleidsmakers ervan weerhouden ernstige fouten te begrijpen en te corrigeren.
Bijna elke officiële verhaallijn en beleid was verkeerd. De meeste gecensureerde standpunten bleken juist te zijn, of op zijn minst dichter bij de waarheid te liggen. Het SARS2-virus was dat inderdaad ontworpen. Het sterftecijfer door infectie bedroeg niet 3.4%, maar dichter bij 0.2%. Lockdowns en schoolsluitingen hebben het virus niet gestopt, maar hebben miljarden mensen op talloze manieren pijn gedaan. De officiële ‘zorgstandaard’ van dr. Anthony Fauci – beademingsapparatuur en remdesivir – doodde meer dan ze genas. Vroegtijdige behandeling met veilige, goedkope, generieke medicijnen was daarentegen zeer effectief – hoewel op onverklaarbare wijze verboden. Verplichte genetische transfectie van miljarden mensen met een laag risico zeer experimentele mRNA-opnamen opgeleverd veel ergere sterfte en morbiditeit na het vaccin dan vóór het vaccin.
In de woorden van Jay Bhattacharya creëert censuur de ‘illusie van consensus’. Wanneer de veronderstelde consensus over zulke belangrijke onderwerpen precies verkeerd is, kan de uitkomst catastrofaal zijn – in dit geval onnoemelijke schade door de lockdown en vele miljoenen onnodige sterfgevallen wereldwijd.
In een arena van vrij stromende informatie en argumenten is het onwaarschijnlijk dat zo’n bizarre reeks van ongekende medische fouten en vrijheidsbeperkende maatregelen heeft kunnen blijven bestaan.
Het dilemma van Google – GeminiReality of GeminiFairyTale
Zaterdag verraste Sergei Brin, medeoprichter van Google, Google-medewerkers door aanwezig te zijn bij een Gemeni-hackathon. Toen hem werd gevraagd naar de uitrol van de ontwaakte beeldgenerator, gaf hij toe: “We hebben het zeker verprutst.” Maar maak je geen zorgen. Het was, zei hij, grotendeels het resultaat van onvoldoende testen en kan op vrij korte termijn worden opgelost.
Brin bagatelliseert waarschijnlijk de diepgaande, structurele krachten zowel binnen als buiten het bedrijf die het repareren van de AI van Google bijna onmogelijk zullen maken, of is zich er niet van bewust. Mike Solana beschrijft de interne gekte in een nieuw artikel – “Google's cultuur van angst.”
Het is echter onwaarschijnlijk dat verbeteringen op het gebied van personeel en bedrijfscultuur de veel sterkere externe zwaartekracht kunnen overwinnen. Zoals we bij de zoek- en sociale media hebben gezien, zullen de dominante politieke krachten die censuur eisten, er nog nadrukkelijker op aandringen dat AI zich conformeert aan de narratieven van het regime.
Door middel van steeds effectievere methoden van geestmanipulatie zullen de democratieën hun aard veranderen; de vreemde oude vormen – verkiezingen, parlementen, hooggerechtshoven en al de rest – zullen blijven bestaan…Democratie en vrijheid zullen het thema zijn van elke uitzending en redactie…Ondertussen zullen de heersende oligarchie en haar hoogopgeleide elite van soldaten, politieagenten, gedachtemakers en geestmanipulators zullen stilletjes de show leiden zoals zij dat nodig achten.
Aldous Huxley,
Brave New World opnieuw bezocht
Toen Elon Musk Twitter kocht en 80% van zijn personeel ontsloeg, inclusief de afdelingen DEI en Censuur, regenden de politieke, juridische, media- en reclamefirmamenten vuur en zwavel. Musks toewijding aan de vrijheid van meningsuiting vormde een bedreiging voor het regime, en de meeste grote adverteerders op Twitter sloegen op de vlucht. In de eerste maand na de overname van Musk op Twitter, de Washington Post schreef 75 haarscherpe verhalen waarin werd gewaarschuwd voor een vrijer internet. Vervolgens ontketende de regering-Biden een golf van rechtszaken en regelgevende maatregelen tegen de vele bedrijven van Musk. Recentelijk stal een rechter uit Delaware $56 miljard van Musk door een aandeelhoudersstemming uit 2018 ongedaan te maken, wat in de daaropvolgende zes jaar resulteerde in ondoorgrondelijke rijkdommen voor zowel Musk als die Tesla-investeerders. De enige slachtoffers van het succes van Tesla waren de politieke vijanden van Musk.
Voor zover Google zich richt op het nastreven van realiteit en neutraliteit in haar zoek-, feed- en AI-producten, zal het vaak de officiële verhalen van het Regime tegenspreken – en hun toorn onder ogen zien. Voor zover Google buigt voor de narratieven van het Regime, zal veel van de informatie die het aan gebruikers levert voor de halve wereld duidelijk belachelijk blijven.
Zal Google kiezen voor GeminiReality of GeminiFairyTale? Misschien kunnen ze ons toestaan om tussen modi te schakelen.
AI als digitale geestelijken
Marc Andreessen, de beste durfkapitalist en meest strategische denker van Silicon Valley, denkt niet dat Google een keus heeft. Hij vragen of een bestaand Big Tech-bedrijf de belofte van objectieve AI kan waarmaken:
Kan Big Tech daadwerkelijk generatieve AI-producten op de markt brengen?
(1) Steeds escalerende eisen van interne activisten, werknemersmeutes, gekke leidinggevenden, gebroken besturen, pressiegroepen, extremistische toezichthouders, overheidsinstanties, de pers, ‘experts’, et al. om de productie te corrumperen
(2) Constant risico op het genereren van een slecht antwoord, het tekenen van een slechte foto of het weergeven van een slechte video – wie weet wat het op enig moment gaat zeggen/doen?
(3) Juridische blootstelling – productaansprakelijkheid, laster, verkiezingswetgeving en vele andere – voor slechte antwoorden, aangevallen door gestoorde critici en agressieve advocaten, voorbeelden die door hun vijanden door de straat en voor het Congres worden geparadeerd
(4) Voortdurende pogingen om de grip op aanvaardbare output te verstevigen degraderen de modellen en zorgen ervoor dat ze slechter en wilder worden – daar is al enig bewijs voor!
(5) Door de publiciteit over slechte tekst/afbeeldingen/video worden deze voorbeelden feitelijk in de trainingsgegevens voor de volgende versie geplaatst – de slechte resultaten worden in de loop van de tijd steeds verder afgescheiden van de controle van bovenaf
(6) Alleen startups en open source kunnen dit proces vermijden en daadwerkelijk correct functionerende producten op de markt brengen die eenvoudigweg doen wat hen wordt opgedragen, zoals de technologie zou moeten doen
?
Een stortvloed aan wetsvoorstellen van wetgevers uit het hele politieke spectrum proberen AI in toom te houden door de modellen en rekenkracht van de bedrijven te beperken. Regelgeving die bedoeld is om AI ‘veilig’ te maken zal uiteraard resulteren in een oligopolie. Een paar kolossale AI-bedrijven met gigantische datacenters, door de overheid goedgekeurde modellen en dure lobbyisten zullen de enige bewakers zijn van The Knowledge and Information, een digitale geestelijkheid voor het regime.
Dit is de kern van het open versus gesloten AI-debat, dat nu woedt in Silicon Valley en Washington, DC. De legendarische medeoprichter van Sun Microsystems en durfkapitalist Vinod Khosla is een investeerder in OpenAI. Hij is van mening dat regeringen AI moeten reguleren om (1) een op hol geslagen technologische catastrofe te voorkomen en (2) te voorkomen dat Amerikaanse technologie in handen van de vijand valt.
Andreessen beschuldigde Khosla van ‘lobbyen om open source te verbieden’.
"Zou jij het Manhattan Project open source willen maken?" Khosla schoot terug.
Natuurlijk is open source-software veiliger gebleken dan propriëtaire software, zoals iedereen die tientallen jaren onder Windows-virussen heeft geleden, kan beamen. En AI is geen atoombom, die slechts één destructieve toepassing heeft.
De echte reden dat DC AI-regulering wil, is niet ‘veiligheid’, maar politieke correctheid en gehoorzaamheid aan de verhalen van het regime. AI zal zoek-, sociale en andere informatiekanalen en -instrumenten omvatten. Als je dacht dat de interesse van politici in het censureren van zoek- en sociale media groot was, heb je nog niets gezien. Het vermijden van AI-‘doom’ is meestal een excuus, net als de Chinese kwestie, hoewel het Pentagon goedgelovig instemt met deze ficties.
Universele AI is onmogelijk
In 2019 heb ik aangeboden een verklaring waarom de inspanningen van elk socialemediabedrijf op het gebied van contentmoderatie waarschijnlijk zouden mislukken. Naarmate een sociaal netwerk of AI in omvang en reikwijdte groeit, stuit het op dezelfde beperkingen als elke fysieke samenleving, organisatie of netwerk: heterogeniteit. Of zoals ik het zei: “het onvermogen om universele spraakcodes te schrijven voor een hyperdiverse bevolking op een hyperschaal sociaal netwerk.”
Je kon dit zien in de begindagen van een online message board. Naarmate het aantal deelnemers groeide, zelfs onder degenen met dezelfde interesses en temperamenten, groeide ook de uitdaging om dat prikbord te modereren. Het schrijven en handhaven van regels was waanzinnig moeilijk.
Zo is het altijd geweest. De wereld organiseert zichzelf via natiestaten, steden, scholen, religies, bewegingen, bedrijven, families, belangengroepen, maatschappelijke en professionele organisaties, en nu ook digitale gemeenschappen. Zelfs met al deze bemiddelende instellingen hebben we moeite om met elkaar overweg te kunnen.
Succesvolle culturen brengen goede ideeën en gedrag over in tijd en ruimte. Ze leggen conformiteitsmaatregelen op, maar bieden ook voldoende vrijheid om individuele en collectieve fouten te corrigeren.
Geen enkele AI kan alle kennis, wijsheid, waarden en smaken van de wereld perfectioneren of zelfs maar opnieuw uitbraken. Kennis wordt betwist. Waarden en smaken lopen uiteen. Er ontstaat nieuwe wijsheid.
Ook kan AI geen creativiteit genereren die de creativiteit van de wereld kan evenaren. Zelfs nu AI het menselijke en sociale begrip benadert, zelfs als het enorm indrukwekkende ‘generatieve’ taken uitvoert, zullen menselijke en digitale agenten de nieuwe AI-instrumenten opnieuw inzetten om steeds ingenieuzere ideeën en technologieën te genereren, waardoor de wereld nog ingewikkelder wordt. Aan de grens is de wereld het eenvoudigste model van zichzelf. AI zal altijd een inhaalslag maken.
Omdat AI een belangrijk hulpmiddel voor algemene doeleinden zal zijn, zijn de beperkingen op de AI-berekening en -output ook beperkingen op de menselijke creativiteit en vooruitgang. Concurrerende AI’s met verschillende waarden en capaciteiten zullen innovatie bevorderen en ervoor zorgen dat geen enkel bedrijf of overheid domineert. Open AI’s kunnen een vrije informatiestroom bevorderen, censuur omzeilen en toekomstige Covid-achtige debacles beter voorkomen.
Google's Gemini is slechts een voorafschaduwing van wat een nieuw AI-regelgevingsregime zou inhouden: totaal politiek toezicht op onze exaschaalinformatiesystemen. Zelfs zonder formele regelgeving zullen de extra-gouvernementele bataljons van regimecommissarissen moeilijk te bestrijden zijn.
De poging van Washington en internationale partners om universele inhoudscodes en rekenlimieten op te leggen aan een klein aantal legale AI-aanbieders is het nieuwe totalitaire draaiboek.
Door het regime vastgelegde en beheerde AI is de echte catastrofale mogelijkheid.
Heruitgegeven van de auteur subgroep
Uitgegeven onder a Creative Commons Naamsvermelding 4.0 Internationale licentie
Stel voor herdrukken de canonieke link terug naar het origineel Brownstone Instituut Artikel en auteur.
