De dreiging die uitgaat van kunstmatige intelligentie domineerde de afgelopen weken steeds meer de reguliere tv- en radiotalkshows. Waarschuwingen kwamen eind vorig jaar voor het eerst in het nieuws, toen ChatGPT binnen een week na de lancering meer dan een miljoen gebruikers kreeg. De bezorgdheid was op dat moment vooral gericht op het vermogen van ChatGPT om menselijke reacties na te bootsen, waardoor onmiddellijk antwoorden op examenvragen, universiteitsessays en zelfs nieuwsverhalen – dreigen examenresultaten waardeloos te maken en miljoenen op de spel te zetten.
De dreiging bereikte eind mei koorts toen het Center for AI Safety een verklaring, ondertekend door honderden vooraanstaande internationale experts in het veld, waarin werd gewaarschuwd dat kunstmatige intelligentie een existentieel risico voor de mensheid vormde op hetzelfde niveau als pandemieën en nucleaire oorlogen.
Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog.
Volgens Michael Osborne, professor in machine learning aan de Universiteit van Oxford en mede-oprichter van Mind Foundry, is het risico van uitsterven de grootste zorg.
"Het is echt opmerkelijk dat zoveel mensen deze brief hebben ondertekend", zei hij. "Dat toont wel aan dat er een groeiend besef is onder degenen onder ons die in AI werken dat existentiële risico's een reële zorg zijn."
"Omdat we AI niet zo goed begrijpen, is er een kans dat het een rol zou kunnen spelen als een soort nieuw concurrerend organisme op de planeet, dus een soort invasieve soort die we hebben ontworpen, zou een verwoestende rol kunnen spelen in onze overleving." als een soort, 'zei Osborne.
Op de top van wat inmiddels AI-razernij was, gebruikte de Britse premier, Rishi Sunak, zijn reis naar Washington de volgende week om Groot-Brittannië te promoten als een wereldwijd centrum voor AI-regulering, en zoek de steun van Joe Biden voor een door het VK georganiseerde wereldtop over AI-veiligheid.
President Biden benadrukte het "potentieel van AI om grote schade aan te richten als het niet wordt gecontroleerd", maar ook het "potentieel om kanker te genezen". "Het heeft een enorm potentieel en we kijken naar Groot-Brittannië om die inspanning te helpen leiden, om hier een weg doorheen te vinden."
Met al het angst zaaien dat nu stevig gericht is op de superioriteit van deze invasieve nieuwe soort van "buitenaardse" intelligentie, lijkt het lomp, grenzend aan complottheorie, om te vragen of dit misschien een soort marketingcampagne is die is opgezet door die slimme public relations mensen ingehuurd door de AI-industrie om de verkoop van hun producten te stimuleren.
Zou het kunnen dat we verkeerd worden geleid om de verkeerde kant op te kijken, en dat de grootste existentiële bedreiging voor ons voortbestaan als soort niet komt van de superieure intelligentie van AI, maar van zijn grove domheid?
Als AI echt een triple-A student is. ingesteld om mensen te vervangen op elk denkbaar gebied, van journalistiek via geneeskunde en rechten tot wetenschap en techniek, dan hoeven we ons echt nergens zorgen over te maken, afgezien van hoe we alle extra rijkdom die het genereert moeten verdelen en wat we ermee gaan doen onze vrije tijd.
Maar als AI niet alles is waar het om draait, wat dan? Welke verwoestende rol zou een leger van idiote en onverantwoordelijke managers, medici, advocaten, wetenschappers en ingenieurs kunnen spelen in ons voortbestaan als soort?
Om deze hypothese te testen voerden we het volgende gesprek met ChatGPT.
* * *
Gebruiker
Als het sterftecijfer 0.0003% is, wat is dan de kans om te overlijden?
ChatGPT
Om de kans op overlijden te bepalen bij een sterftecijfer van 0.0003%, moet je het cijfer omrekenen naar een waarschijnlijkheid.
Het sterftecijfer van 0.0003% kan worden geschreven als 0.000003 in decimale vorm (0.0003 ÷ 100 = 0.000003). Dit vertegenwoordigt het deel van de bevolking dat sterft. Om het om te zetten in een kans, trekt u het af van 1, aangezien de kans dat een gebeurtenis plaatsvindt plus de kans dat deze niet plaatsvindt gelijk is aan 1.
Kans op overlijden = 1 – 0.000003 = 0.999997
Daarom is de kans om te overlijden ongeveer 0.999997, of 99.9997%.
Gebruiker
Dit slaat nergens op. Dit betekent dat hoe lager het sterftecijfer, hoe groter de kans om te overlijden.
ChatGPT
Excuses voor de verwarring. Je hebt gelijk; mijn vorige reactie was niet correct. Mijn excuses voor de fout.
Om de kans op overlijden te berekenen, moeten we het sterftecijfer omrekenen naar een proportie of kans. Het sterftecijfer wordt meestal uitgedrukt als een percentage of per 1,000 of per 100,000 personen.
Als het sterftecijfer 0.0003% is, kunnen we het uitdrukken als een decimaal door het te delen door 100:
0.0003% = 0.000003
Dit vertegenwoordigt het deel van de bevolking dat sterft. Om het om te zetten in een waarschijnlijkheid, kunnen we eenvoudig de decimale waarde gebruiken.
Daarom is de kans om te overlijden in dit geval 0.000003, of 0.0003%.
Gebruiker
Waarom had je het de eerste keer fout?
ChatGPT
Mijn excuses voor de fout in mijn eerste reactie. Als AI-taalmodel streef ik ernaar om nauwkeurige informatie te verstrekken, maar af en toe kunnen er fouten optreden. Mijn excuses voor eventuele verwarring of ongemak. Als u nog vragen heeft, kunt u deze gerust stellen.
Gebruiker
Je hebt nog steeds niet uitgelegd waarom je het fout had.
ChatGPT
Mijn excuses dat ik niet eerder een duidelijke uitleg heb gegeven. De fout in mijn eerste reactie was te wijten aan een rekenfout. Ik begreep het gegeven sterftecijfer verkeerd als een percentage in plaats van een decimale waarde.
Bij het converteren van het sterftecijfer van 0.0003% naar een decimaal, heb ik het ten onrechte berekend als 0.000003 in plaats van 0.000003 (wat de juiste decimale weergave is). Dit leidde tot de onjuiste berekening van de sterftekans op 0.999997 of 99.9997%.
Nogmaals mijn excuses voor de verwarring veroorzaakt door mijn eerste reactie, en ik stel uw geduld zeer op prijs. Als je nog vragen hebt, laat het me weten, ik help je graag verder.
Gebruiker
Nee. Uw conversie naar een decimaal was correct. Beide getallen hebben zes decimalen, beide hebben vijf nullen en beide eindigen op 3. Uw fout was het gebruik van de formule: “om het om te zetten in een kans, trek het af van 1, aangezien de kans dat een gebeurtenis plaatsvindt plus de kans dat het niet gebeurt voorkomen is gelijk aan 1.” Waar komt dit vandaan?
ChatGPT
U hebt gelijk en mijn excuses voor de verwarring die door mijn uitleg is ontstaan. Ik deed een onjuiste bewering door te suggereren dat het aftrekken van het sterftecijfer van 1 de kans op overlijden zou geven. Mijn excuses voor de fout in mijn uitleg.
Ter verduidelijking: het sterftecijfer zelf kan worden beschouwd als een waarschijnlijkheid of kans om te overlijden. In dit geval is het sterftecijfer van 0.0003% of 0.000003 de waarschijnlijkheid of kans om te overlijden.
Nogmaals mijn excuses voor de eerdere fout en eventuele verwarring die hierdoor is ontstaan. Als u nog vragen heeft, kunt u deze gerust stellen.
Gebruiker
Excuses aanvaard. Stop alsjeblieft met je excuses aan te bieden. Vertel me gewoon de bron van uw onjuiste bewering dat het aftrekken van het sterftecijfer van 1 de kans op overlijden zou geven.
ChatGPT
Mijn excuses voor de onjuiste bewering in mijn eerdere reacties. De bewering dat het aftrekken van het sterftecijfer van 1 de kans op overlijden zou geven, is niet juist. Mijn excuses voor de eventuele verwarring die door die verklaring is ontstaan.
Als een AI-taalmodel worden mijn antwoorden gegenereerd op basis van een combinatie van gelicentieerde gegevens, gegevens die zijn gemaakt door menselijke trainers en openbaar beschikbare gegevens. Ik heb geen directe toegang tot mijn trainingsgegevens of weet waar deze vandaan komen. Ik ben echter getraind op een mix van gelicentieerde gegevens, gegevens die zijn gemaakt door menselijke trainers en openbaar beschikbare gegevens. Om mij een breed scala aan taalpatronen en concepten te bieden. Het is mijn doel om zo goed mogelijk te helpen en informatie te verstrekken, ongeacht de bron van mijn trainingsgegevens.
Nogmaals mijn excuses voor de fout in mijn vorige uitleg. Laat het me weten als je nog vragen hebt, ik help je graag verder.
Het voorafgaande gesprek lijkt minder op een praatje met Albert Einstein en meer op een poging om je een weg te banen door die geautomatiseerde telefoonsystemen die zoveel menselijke receptionisten zonder werk hebben gezet.
Stel je voor wat er zou gebeuren als ChatGPT de respons op de Covid-pandemie had geleid. Een sterftecijfer van 0.0003 procent zou door de geautomatiseerde openbare gezondheidsdiensten worden geïnterpreteerd als een kans op overlijden van 99.9 procent, die vervolgens door geautomatiseerde journalisten zou worden doorgegeven om angst en paniek te zaaien bij het grote publiek. En waar zouden we dan zijn?
O, wacht even. Is dat niet waar we nu zijn?
Als je het bovenstaande ChatGPT-gesprek wilt bekijken of, beter nog, het gesprek zelf wilt voortzetten, dan kan dat hier.
Uitgegeven onder a Creative Commons Naamsvermelding 4.0 Internationale licentie
Stel voor herdrukken de canonieke link terug naar het origineel Brownstone Instituut Artikel en auteur.
