Was "Philip Cross" een AI?

Naast Brownstone-auteur Jennifer Sey, kreeg ik een eervolle vermelding in Walter Bragman's Breathless Belangrijke context: Uitgelekte e-mails van het Brownstone Institute onthullen steun voor kinderarbeid en roken door minderjarigen. Bragman heeft ervoor gekozen om de hashtag toe te voegen #Browstonebestanden in een duidelijke verwijzing naar de Twitter-bestanden, maar het heeft iets minder impact. Op het moment van schrijven heeft het in totaal twee opeenvolgende tweets, beide vijandig tegenover Bragman. 

Opschepper meldt dat in de gelekte e-mails die hij bekeek, "Blumen een anekdote vertelde over pagina's van anti-oorlogsactivisten die in de loop van de tijd langzaam werden bewerkt door een enkele, mogelijk geautomatiseerde gebruiker." 

Bragman heeft gelijk. Ik bracht het Philip Cross-verhaal ter sprake in een interne e-mail op de Brownstone-auteurslijst. Het verhaal is belangrijk, waar ik niet veel over had nagedacht sinds 2018 toen het voor het eerst uitbrak. In het licht van recent nieuws ziet dit verhaal er heel anders uit dan vijf jaar geleden. Ik zal dat verhaal in dit huidige stuk opnieuw bekijken en een analyse maken van hoe de wereld de afgelopen vijf jaar is veranderd. 

Het verhaal brak in 2018 uit toen voormalig Brits parlementslid George Galloway, lang bekend om zijn anti-oorlogsopvattingen, riep een mysterieuze Wikipedia-editor genaamd "Philip Cross" uit voor het aanbrengen van onflatteuze wijzigingen aan zijn Wikipedia-pagina. BBC News gedekt Galloway's woordenstrijd met een mysterieuze Wikipedia-editor.

Het onderwerp van Galloway's woede is een productieve Wikipedia-redacteur die de naam "Philip Cross" draagt. Hij is het onderwerp geweest van een enorm debat op de internetencyclopedie – een van de populairste websites ter wereld – en ook op Twitter. En hij is beschuldigd van vooringenomenheid omdat hij, soms negatief, communiceerde met sommige mensen wiens Wikipedia-pagina's hij heeft bewerkt.

Het Philip Cross-account werd op 18 oktober 48 precies om 26:2004 GMT aangemaakt. Sindsdien heeft hij meer dan 130,000 wijzigingen aangebracht in meer dan 30,000 pagina's (sic). Dat is een aanzienlijk bedrag, maar niet enorm ongebruikelijk - het is bijvoorbeeld niet genoeg bewerkingen om hem in de top 300 van redacteuren op Wikipedia te plaatsen.

Maar het is wat hij bewerkt, wat anti-oorlogspolitici en journalisten bezighoudt. In zijn top 10 van meest bewerkte pagina's staan ​​de jazzmuzikant Duke Ellington, de krant The Sun en Paul Dacre, redacteur van de Daily Mail. Maar ook in die top 10 staan ​​een aantal uitgesproken critici van het Amerikaanse en Britse buitenlandbeleid: de journalist John Pilger, PvdA-leider Jeremy Corbyn en Corbyns directeur strategie Seamus Milne.

Zijn critici zeggen ook dat Philip Cross gunstige bewerkingen heeft aangebracht op pagina's over publieke figuren die de westerse militaire interventie in het Midden-Oosten steunen. 

...

"Zijn bewerkingen zijn meedogenloos gericht op mensen die tegen de oorlog in Irak zijn, die zich hebben verzet tegen de daaropvolgende interventieoorlogen … in Libië en Syrië, en mensen die kritiek hebben op Israël", zegt Galloway. 

Mintpress gepubliceerd in een uitstekende vertering van commentaar rond dit nummer en citeert Ron McKay in de Edinburgh zondag herald:

Je hoeft geen complottheoreticus te zijn om te zien dat er hier een rode draad is. Al die [getargete] zijn... prominente campagnevoerders op sociale media en in de reguliere media die ons buitenlands beleid krachtig in twijfel trekken. 

Voormalig Brits ambassadeur Craig Murray, ook bekend om zijn anti-oorlogsopvattingen en zijn steun van Wikileaks-oprichter Julian Assange, maakte een soortgelijk punt: 

[…] het doel van de “Philip Cross”-operatie is om systematisch de reputaties aan te vallen en te ondermijnen van degenen die prominent aanwezig zijn in het uitdagen van het dominante verhaal van het bedrijfsleven en de staatsmedia, met name in buitenlandse zaken. 

Anti-oorlogssite medialens.org gevraagd: 

Andere opmerkelijke anti-oorlogsstemmen zoals Noam Chomsky, Edward S. Herman (co-auteur van het boek Productie Toestemming), En Rania Khalek werden ook onderworpen aan de meedogenloze campagne van defacement Cross's. 

Amb Murray, merkte de volgende verbazingwekkende feiten op: 

De niet-geïdentificeerde redacteur, "account is verantwoordelijk voor 20.4% van alle bewerkingen" van Galloway's pagina (die Cross had meer dan 1800 keer bewerkt), zei de BBC, die doorgaat met het beschrijven van de inhoud van specifieke bewerkingen die volledig in de niet-vleiende of negatieve richting waren.

UPDATE "Philip Cross" heeft in bijna vijf jaar geen enkele dag vrij gehad van het bewerken van Wikipedia. "Hij" heeft elke dag gemonteerd van 29 augustus 2013 tot 14 mei 2018. Inclusief vijf kerstdagen. Dat zijn 1,721 opeenvolgende dagen bewerken.

Er zijn dus 133,612 bewerkingen op Wikipedia uitgevoerd in naam van "Philip Cross" gedurende 14 jaar. Dat zijn meer dan 30 bewerkingen per dag, zeven dagen per week. En ik gebruik dat niet figuurlijk: Wikipedia-bewerkingen zijn getimed, en als je ze plot, is de tijdkaart voor "Philip Cross's" Wikipedia-activiteit verbazingwekkend als het één individu is:

De operatie loopt als een uurwerk, zeven dagen per week, elk wakker uur, zonder significante variatie.

Am Murray mits de volgende grafiek van de productiviteit van "Philip Cross" bij het wijzigen van Wikipedia-pagina's per dag van de week gemiddeld over de 14 jaar van activiteit: 

Wie is of was deze Philip Cross? Na het bovengenoemde BBC-artikel trok Cross zich terug uit zijn carrière van vandalisme gerangschikt #308 onder de meest actieve Wikipedia-editors aller tijden. Zijn voormalig Twitter-account @philipcross63 bestaat niet meer. Niemand die het weet, vertelt het. Galloway denkt dat Cross een "echte en kwetsbare persoon" is. 

Am Murray aantekeningen dat Galloway op een gegeven moment een beloning van £ 1,000 had aangeboden voor de identiteit van deze persoon of entiteit, "zodat hij ook juridische stappen kan ondernemen." MediaLens staten dat "BBC Trending heeft kunnen vaststellen dat hij in Engeland woont en dat Philip Cross niet de naam is die hij normaal gesproken gebruikt buiten Wikipedia." Everipedia.org stelt "Cross is een liefhebber van jazz en drama." Ik vermoed dat hij waarschijnlijk ook houdt van lange strandwandelingen en zich opkrullen voor een open haard met een kopie van de New York Times. 

Am Murray aanbiedingen: 

Er zijn hier drie opties. "Philip Cross" is inderdaad een heel vreemd persoon, of is een valse persona die een betaalde operatie vermomt om de inhoud van Wikipedia te controleren, of is een echte frontman voor een dergelijke operatie in zijn naam.

en

Mijn mening is dat Philip Cross waarschijnlijk een echt persoon is, maar dat hij de frontman is van een groep die onder zijn naam handelt. Het is onmiskenbaar waar, in feite pocht de regering, dat zowel het Ministerie van Defensie als de GCHQ "cyberoorlog"-operaties hebben die gericht zijn op het verdedigen van het "officiële" verhaal tegen alternatieve nieuwsmedia, en dat is precies het doel van het "Philip Cross" werking op Wikipedia. De extreme regelmaat van de output pleit ervoor dat "Philip Cross" een eenmansoperatie of een vrijwilligersoperatie is. Ik sluit echter niet uit dat hij echt een extreem geobsedeerde rechtse fanaat is.

Een Wikipedia-editor in een zijkanaal bezorgdheid geuit dat de reputatie van Wikipedia (zoals die nu is) zou kunnen zijn toen er licht werd geschenen op de ongebruikelijke activiteiten van "Philip Cross". 

Heeft het verhaal een happy end gehad? In augustus 2018, gerapporteerd door vijf filters, “De arbitragecommissie van Wikipedia (ArbCom) heeft eindelijk gestemd ban-redacteur Philip Cross van het onderwerp 'Britse politiek na 1978'.” Maar wacht - niet zo snel. "In een onbeduidende zet besloot de arbitragecommissie van Wikipedia echter dat het ook de redacteur zou straffen die de gemeenschap probeerde te waarschuwen voor het gedrag van Philip Cross."

Ik was op de hoogte van het verhaal van Philip Cross toen het in 2018 uitkwam. Ik had er toen geen verklaring voor. Het leek me griezelig vreemd en ik dacht niet aan bots of automatisering van natuurlijke taal. 

De recente baanbrekende Twitter-onthullingen over het bestaan ​​en de enorme schaal van een georganiseerd censuur-industrieel complex (CIC) maken vermoedens van officiële sectorcensuur, misschien in een eerdere iteratie vijf jaar geleden, veel aannemelijker. FiveFilters.org schreef in 2018: "Bijna heel Wikipedia is geschreven door slechts 1 procent van de redacteuren." Hetzelfde stuk citeert een artikel van Daniel Oberhaus in Vice vanaf 2017 over de concentratie van Wikipedia-bewerking:

Maar naarmate de encyclopedie groeide en het aantal medewerkers meegroeide, ontstond er een kader van die-hard redacteuren die sindsdien het grootste deel van de groei van Wikipedia voor hun rekening hebben genomen.

Matei en zijn collega Brian Britt, assistent-professor journalistiek aan de South Dakota State University, gebruikten een machine learning-algoritme om de kwart miljard openbaar beschikbare bewerkingslogboeken uit het eerste decennium van Wikipedia te doorzoeken. De resultaten van dit onderzoek, gepubliceerd in september as een boek, suggereert dat ondanks alle pretentie van Wikipedia om een ​​site te zijn die is geproduceerd door een netwerk van vrij samenwerkende peers, "sommige peers meer gelijk zijn dan andere",

Het lange stuk op racket.news citeert meerdere gevallen van CIC-acteurs die AI en natuurlijke taalverwerking gebruiken. De Project Publieke GoederenBijvoorbeeld 

gebruik AI en natuurlijke taalverwerking om 'verhalen, trends en urgente kwesties te identificeren, te volgen en erop te reageren' om 'feitencontrole uit te voeren' en 'strategieën voor gedragsverandering te versterken'.

Een recent verhaal over de substack van Igor Chodov, Door Bill Gates gefinancierde AI-chatbots hebben COVID-vaccins gepromoot (je bent ze misschien tegengekomen op sociale netwerken) die een artikel op nature.com citeert Effectiviteit van chatbots op het vertrouwen en de acceptatie van het COVID-vaccin in Thailand, Hong Kong en Singapore geeft meer informatie over het gebruik van bots ten dienste van het beheersen van verhalen. 

De recente opkomst van goed presterende grote taalmodellen maakt het idee van automatisering plausibeler. Als het niet in 2018 was, zou een LLM nu gemakkelijk een bepaalde tekst kunnen herschrijven om deze in de gevraagde richting te sturen. 

Waren er toen modellen die dit konden? Zullen toekomstige campagnes om Wikipedia-verhalen te beheersen, op deze technologie vertrouwen? Wat is de toekomst van een crowd-sourced kennisbank zoals Wikipedia die afhankelijk is van de hoge kosten in menselijke tijd en sociale interactie om een ​​controversieel onderwerp te bewerken, terwijl de mogelijkheid om dit te automatiseren het bijna gratis maakt?