Volgens de meest radicale Republikeinen is Renee DiResta een CIA-agent en was ze een sleutelfiguur in een complot om rechtse denkers te censureren op sociale media. In werkelijkheid is DiResta een gerespecteerde expert op het vlak van desinformatie. “We moeten maken dat de mensen de uitslag geloven, wie er ook president wordt.”
Dominique Deckmyn – De Standaard
Zieners
Hoe kunnen we de radicale veranderingen begrijpen die onze wereld ondergaat?
In de reeks ‘zieners’ zoeken we houvast en inspiratie bij vooruitziende denkers.
In deze aflevering: Renee DiResta (43)
• Studeerde computerwetenschappen en politieke wetenschappen
• Deed als student een stage bij de CIA, wat door tegenstanders wordt aangegrepen om haar voor te stellen als CIA-agent
• Werkte als eerst als trader bij Wall Street en daarna in venture capital
• Richtte in 2015 mee Vaccinate California op
• Leidde bij het Stanford Internet Observatory het onderzoek naar de manipulatie door Rusland van de Amerikaanse presidentsverkiezingen van 2016.
“Wat ik écht eng vind, is dat de democratie zelf ontspoort”
Renee DiResta
Al tien jaar onderzoekt Renée DiResta desinformatie en manipulatie op sociale media. Ze schreef er een geweldig boek over: Invisible rulers. Daarin maakt ze een diepe duik in de wereld van complotten en online beïnvloeding.
Maar sinds enkele weken staat de vooraanstaande onderzoeker op straat. De onderzoeksgroep waarvoor ze werkte, het Stanford Internet Observatory, werd grotendeels opgedoekt.
Dat gebeurde onder politieke druk van de club rond presidentskandidaat Donald Trump.
Sinds de presidentsverkiezingen van 2020 zijn DiResta en haar collega’s het doelwit van een grootschalige rechtse lastercampagne.
De onderzoeksgroep werkte toen samen met de overheid en sociale media om politieke desinformatie snel op te sporen en te bestrijden.
Die samenwerking was genoeg voor het Trump-kamp om te spreken van een complot van de “deep state”.
DiResta werd het slachtoffer van online haat en bedreigingen, van hardnekkige verzinsels – zo zou ze een CIA-agent zijn die het debat probeerde te sturen – en van verregaande politieke en juridische intimidatie.
Onzinnige dagvaardingen
Jim Jordan, de machtige Republikeinse voorzitter van de commissie Justitie in het Amerikaanse Congres, besloot om haar te vervolgen. Er kwamen hoorzittingen, e-mails werden opgevraagd en daarna gelekt.
De privacy van DiResta en haar collega’s lag op straat.
Toen de universiteit Stanford de onderzoeksgroep in juni grotendeels opdoekte, zag de onderzoeker daarin een politieke afrekening die tekenend is voor het verstikkende politieke klimaat in de VS.
“De politici die ons aanvallen, die ons achtervolgen met onzinnige dagvaardingen en nonsensicale onderzoeken, dat zijn dezelfde mensen die de resultaten van de verkiezingen van 2020 niet wilden goedkeuren”, zegt DiResta in een videogesprek met De Standaard.
“Dit gaat niet alleen om wraak voor de verloren verkiezingen van 2020. Dezelfde groep die geprobeerd heeft om het vertrouwen in de verkiezingen van 2020 te ondermijnen, probeert nu het vertrouwen te ondermijnen in de onderzoekers die hun leugens over die verkiezingen onderzochten.”
Dat boezemt haar angst in voor de presidentsverkiezingen van november.
“De echte uitdaging wordt het vertrouwen in de verkiezingen. We moeten maken dat mensen de uitslag geloven, wie er ook wint.
“Als je het idee ondermijnt dat verkiezingen vrij en eerlijk zijn, schep je de omstandigheden waarin de verliezer zich niet verplicht voelt om de nederlaag toe te geven.”
U kreeg heel wat persoonlijke aanvallen te verduren. Wat was voor u het engste?
“Niemand wordt graag online bedreigd. Ik maak het al tien jaar mee, en ben een en ander gewend, maar er is altijd de vrees dat iemand je echt iets aandoet.
“Dat maakt zulke bedreigingen zo effectief. Daardoor beslissen veel mensen om niet deel te nemen aan het publieke debat online.
“Maar wat ik écht afschrikwekkend vind, is dat de democratie zelf ontspoort.
“Extreme politici kunnen zonder bewijsmateriaal een gerechtelijk bevel krijgen om onze e-mails en documenten op te eisen.
“De ongegronde beschuldiging van een of andere auteur van een blog is voldoende om gevoelig materiaal van ons op te eisen en het vervolgens te lekken naar mensen die burgerlijke rechtszaken tegen ons voeren. Dat is knettergek.
“Dat mensen op het internet onaangename dingen zeggen, is één ding. Maar dat de macht van de staat tegen je wordt ingezet, dat is nog wat anders. En het is niet alleen tegen mijn collega’s en tegen mij. Je ziet hier echt de erosie van de democratische normen.”
Het lijkt haast onmogelijk om nog desinformatie te onderzoeken, zonder er zelf in meegezogen te worden?
“Dat klopt, want desinformatie ontstaat niet zomaar.
“Het gaat om mensen die hun macht willen maximaliseren, die het informatieklimaat willen veranderen ten gunste van zichzelf of hun standpunt. Dat willen ze kunnen blijven doen.
“Dus als mensen erop wijzen hoe ze het debat manipuleren, bijvoorbeeld over de verkiezingen van 2020, willen ze hen het zwijgen opleggen.”
U kwam al in 2014 in aanraking met georganiseerde desinformatie op sociale media. U botste toen met de antivaxbeweging.
“Na een uitbraak van mazelen in Disneyland wilde ik actie voeren om de vaccinatiegraad in Californië, die fel was teruggevallen door de antivaccinatiebeweging, weer te verhogen.
“Mijn baby was nog te jong om al volledig gevaccineerd te zijn. Dus ik wilde mijn kind beschermen.
“Ik vond het heel raar dat die mensen de vrijheid opeisten om een makkelijk te voorkomen ziekte te krijgen en de kinderen van anderen ermee te besmetten.
“Dus in 2015 nam ik het op tegen de antivaccinatiebeweging, waarvan Robert F. Kennedy junior (nu onafhankelijk presidentskandidaat, red.) toen al een van de meest prominente figuren was.
“Hij heeft lang gewerkt om het mazelen vaccin te ondermijnen. En ik merkte toen hoeveel beter die beweging georganiseerd was op sociale media.
“Ze waren zich al vier jaar aan het organiseren op Facebook. De algoritmes maakten dat hun ideeën bij steeds meer mensen werden aanbevolen.
“Dat vond ik diep onethisch, en toen ben ik daarover beginnen te schrijven.”
“Toen covid in 2019 in China opdook, zagen die figuren die in 2015 al massa’s volgers hadden vergaard daarin een plan om mensen zo bang te krijgen dat ze zich niet zouden laten vaccineren.
“Ze maakten hun achterban al woedend anderhalf jaar voor er zelfs maar een vaccin was.
“Ondertussen waren de gezondheidsdiensten totaal onvoorbereid op die aanvallen. Ze hadden niet geïnvesteerd in communicatie, en begrepen niet hoe communicatie op het internet werkt.”
Waarom waren die mensen daar jarenlang zo toegewijd mee bezig?
“Velen van hen geloven echt dat vaccins gevaarlijk zijn en dat de overheid iets te verbergen heeft.
“Ze geloven dat vaccins autisme veroorzaken, ook al wordt die theorie al decennia steeds opnieuw ontkracht.
“Ook denken ze dat vaccins wiegendood veroorzaken. Dat is natuurlijk een afschuwelijk idee voor ouders.
“Complottheoretici kunnen op die wezenlijke angst teren. De ziekte zelf stellen ze voor als vrij ongevaarlijk.
“Soms is de boodschap dan: koop dit voedingssupplement of dat ‘homeopathisch vaccin’ bij mij, en bescherm zo je kind tegen mazelen.
“Een deel van de beweging verdient daar grof geld mee.
“En dan heb je ook nog mensen die in de kringen van complotdenkers belanden, simpelweg omdat ze niet willen dat de overheid hen dwingt iets te doen dat ze niet willen.”
“Interessant genoeg was dat vroeger een overtuiging die je in beide politieke partijen vond. Ze kwam zelfs vaker voor bij links, bij mensen die een natuurlijke, gezonde levensstijl zochten.
“Maar naarmate covid werd gepolitiseerd, werd het een onderdeel van je politieke identiteit om vaccins te verwerpen.
“De antivaxbeweging raakte zo diep verweven met de Amerikaanse rechterzijde.”
Muzikale antivaxer
In Invisible Rulers beschrijft DiResta een fascinerend fenomeen.
Desinformatie wordt niet alleen van bovenaf verspreid. Erg vaak krijgt een complottheorie tractie door individuen die op eigen initiatief nepnieuws beginnen rond te pompen, bijvoorbeeld verdachtmakingen over fraude in het stemkantoor in hun buurt.
Die combinatie van een propagandamachine van bovenuit en een geruchtenmolen van onderuit, maakt volgens haar de kracht uit van sociale media om van leugens waarheid te maken.
Dat is dan ook de ondertitel van haar boek: ‘De mensen die van leugens werkelijkheid maken.’
Influencers spelen daarin een cruciale rol.
DiResta vertelt in haar boek het verhaal van een gitaarleraar die evolueert van een onschuldige muzikale influencer tot een antivax-influencer.
Vaak zijn het de influencers die geruchten oppikken en bij hun publiek verspreiden. Ze merken dat een complottheorie het goed doet en gebruiken die om meer mensen te bereiken. Vervolgens bereikt ook de complottheorie zelf meer mensen.
In je boek argumenteer je dat politici en instellingen dezelfde technieken moeten gebruiken als de mensen die desinformatie verspreiden.
“Ik bedoel dan niet dat ze mensen moeten manipuleren, maar dat ze moeten begrijpen hoe moderne communicatie op het internet werkt.
“In 2016 werd ik samen met enkele andere moeders die betrokken waren in het gevecht over vaccins, uitgenodigd door het CDC, de federale gezondheidsdienst.
“We probeerden uit te leggen hoe het narratief rond de Californische vaccinwet zich op sociale media verspreidde.
“Maar de commentaar die we steeds kregen was: goh, maar dat zijn toch gewoon wat mensen die iets zeggen op het internet?
“Wij zeiden: je moet deel uitmaken van dat gesprek. Jullie informatie raakt niet tot hen, omdat jullie accounts niet genoeg volgers hebben. En je investeert zelfs niet om invloed te kunnen uitbouwen op sociale media.”
“Ze dachten toen oprecht dat mensen hun politici en instellingen vanzelf en voor altijd zouden blijven vertrouwen. En dat is nu, negen jaar later, niet langer het geval.
“Wie een goed netwerk heeft, kan zijn versie van de feiten viraal laten gaan.
“En de instellingen nemen zelfs niet deel aan de conversatie, net als in 2015. Dat vind ik immens frustrerend.
“Ze denken nog altijd dat als The New York Times iets schrijft, dat mensen dat dan geloven.
“Dat als ze een persconferentie geven en met de mainstreammedia spreken, dat hun verhaal dan wordt verspreid.
“Ze zien niet in dat je nu uiteenlopende groepen hebt waarbij de oudere progressieven nog altijd The New York Times en The Washington Post lezen, maar jongere progressieven hun nieuws halen op Tiktok.
“Ze begrijpen niet wat het vandaag betekent om een boodschap naar het publiek te brengen.”
U onderzocht ook de impact van Rusland op de Amerikaanse verkiezingen. Won Trump die in 2016 dankzij Rusland?
“Ik heb nooit geloofd dat Moskou het resultaat van de verkiezingen op beslissende wijze heeft veranderd.
“Wat we zagen toen we de data van de technologieplatforms bestudeerden, was dat het overduidelijk niet wilde dat Hillary Clinton zou winnen.
“Verreweg de meeste tweets afkomstig van het Internet Research Agency (de Russische trollenfabriek van Jevgeni Prigozjin, de medestander van president Vladimir Poetin die na een poging tot staatsgreep met zijn vliegtuig werd neergehaald, red.) waren anti-Clinton, maar ze waren niet allemaal pro-Trump.
“De Russen probeerden ook mensen uit de zwarte gemeenschap moedeloos te maken over de verkiezingen, zodat ze niet zouden gaan stemmen. Daarbij deden ze zich voor als leden uit die gemeenschap.
“Tegelijk zetten de Russen groepen tegen elkaar op, bijvoorbeeld moslims en ex-militairen.
“Maar in onze data is er niets dat aantoont dat al die pogingen een beslissende rol hebben gespeeld in de verkiezingen.
“Het lijkt mij bovendien onwaarschijnlijk, daarvoor was de Russische beïnvloedingscampagne niet groot genoeg. Maar we weten wel dat de boodschappen het publiek wisten te boeien.
“Op de advertenties werd meer dan gemiddeld geklikt en hun berichten werden door mensen verder gedeeld.”
De technologieplatforms hebben, na dat onderzoek, inspanningen gedaan om campagnes van zogenoemd ‘gecoördineerd inauthentiek gedrag’ te bekampen. Hoe goed zijn ze daarin geslaagd?
“Het is een voortdurende strijd. Net deze week nog heeft het ministerie van Justitie informatie gepubliceerd over Meliorator, een AI-systeem dat een netwerk van bots aandrijft op X.
“We zien dat Rusland, China en Iran grote en aanhoudende inspanningen doen. En niet alleen hier, in verband met de Amerikaanse verkiezingen.
“Overal proberen ze het verhaal om te vormen zodat ze er zelf goed uitkomen.
“In sommige landen willen ze de sociale stabiliteit ondermijnen. In andere landen hebben ze weer een ander doel.
“China wil bijvoorbeeld vooral zijn eigen imago verbeteren. Zijn propagandaoperaties moeten China er goed laten uitzien.”
“Sociale media zijn propagandakanalen met een paar unieke eigenschappen.
” Je kunt er moeiteloos geloofwaardige personages creëren. Je maakt een account in land X, je zegt dat je daar woont en het algoritme brengt je vanzelf in contact met iedereen die je wilt bereiken.
“De platforms doen eigenlijk het zware werk voor de propagandisten. Maar verder zijn propaganda-acties van staten niets nieuw, ze doen dat al eeuwen. Altijd als er een nieuwe technologie voorhanden is, zullen ze die gebruiken.”
De nieuwste technologie is generatieve AI. Welke invloed heeft die?
“Sociale media hebben de kostprijs om inhoud te verspreiden gereduceerd tot nul.
“Generatieve AI doet hetzelfde met de creatie van inhoud: ook die kostprijs wordt bijna nul. En de kwaliteit is beter: zeven jaar geleden zag je dat ze probeerden de zwarte Amerikaanse gemeenschap te bereiken en haar taal te gebruiken, maar dat lukte toen nét niet.
“Met generatieve AI kun je teksten precies laten klinken zoals de slang of het jargon van een bepaalde groep.
“Dat maakt ook dat je dergelijke beïnvloedingsoperaties nu minder gemakkelijk kunt detecteren. En je kunt tweets produceren voor honderdduizenden geloofwaardige accounts, miljoenen verschillende tweets, met maar één persoon die alles aanstuurt.”
“Bovendien groeit nu het besef dat je met beeld en video sensationele momenten kunt creëren: je kunt die viraal laten gaan voor ze ontmaskerd worden als fake.
“En zelfs als een factchecker zegt: ‘dit is fake’, zul je mensen hebben die dat niet geloven. Want ze vertrouwen de factcheckers niet.”
Hebben die factchecks dan nog nut?
“Veel van de factcheckorganisaties in de VS zijn ofwel non-profit of verbonden aan een nieuwsredactie.
“Wie The New York Times of Associated Press al wantrouwt, wantrouwt hun factchecks ook.
“We hebben wel de opkomst gezien van systemen als Community Notes op X, waar het de gebruikersgemeenschap is die feiten checkt.
“Maar dat werkt maar in sommige omstandigheden, want meestal moet die gemeenschap dan toch doorverwijzen naar een echte factchecker.
“Dit gaat eigenlijk over de vraag: wat is echt, wat is waar, en wie bepaalt dat?
“Al jaren stimuleren uiterst rechtse activisten wantrouwen in de media en in de factcheckers.
“Rechts en links zijn het er niet meer over eens wat een gezaghebbende bron is of wat waar is.”
In de VS wordt het idee verspreid dat elke vorm van moderatie op sociale media neerkomt op censuur.
“Dat zeggen is een goede manier om je achterban op te hitsen.
“Als mensen horen dat ze worden gecensureerd vanwege hun identiteit, dat zij als conservatieven het doelwit zijn van sociale media, dan maakt hen dat gegarandeerd heel boos.
“Trump begon dat idee al vanaf 2017 naar voren te schuiven. En dat was omdat sociale media begonnen zijn berichten van een label te voorzien.
“Ze haalden ze dus nog niet eens weg, er stond alleen een flauw label als ‘deze inhoud wordt betwist’ of een link naar een factcheck die de leugen aantoont.
“Het begrip ‘censuur’ werd daar dus opnieuw gedefinieerd. Dat is een veelgebruikte propagandatechniek: neem een begrip dat heftige reacties uitlokt, en breid dat begrip dan uit.
“De moderatie van de technologieplatforms is niet erg transparant en je kunt er niet veel tegen doen: dat is het zaadje waarheid waar de ophitsers mee werken.
“Als je vervolgens zegt tegen mensen: je wordt niet alleen gecensureerd, het zijn de bigtech bedrijven en de woke academici die je dit aandoen en het is een samenzwering met de regering, dan gooi je olie op het vuur.
“En als je dat verhaal vervolgens jarenlang herhaalt, kom je bij de situatie van vandaag.”
Sociale media staan in de VS onder druk om minder te modereren. Wat gaat daar gebeuren?
“Wel, die bedrijven hebben ook dagvaardingen ontvangen, van dezelfde mensen die ons hebben gedagvaard. Zij voelen dezelfde druk als wij.
“Maar hou in gedachten dat deze bedrijven weliswaar Amerikaans zijn, op Tiktok na, maar dat hun gebruiksregels wereldwijd zijn.
“Facebook zal niet één set regels uitvaardigen voor de verkiezingen in de VS, en andere regels voor Brazilië en India of Europa of elders.
“Daarom zouden andere landen doodsbang moeten zijn over hoe de technologiebedrijven, onder politieke druk vanuit Amerika, hun beleid verslappen.
“En daar ligt een rol voor de Europese regulatoren. Je ziet landen die wetten doorvoeren waar de technologiebedrijven zich aan moeten houden.
“Sommige van die wetten zouden wij in de VS zien als overheidscensuur, maar die landen willen gewoon dat de technologiebedrijven de integriteit van hun platforms moeten blijven bewaken.
“En Facebook en Google doen dat. Twitter is de onzekere factor.”
Wat zal er de komende maanden gebeuren?
“Niet alleen het Stanford Internet Observatory is grotendeels opgedoekt. Veel onderzoeksteams die samenwerkten om helderheid te verschaffen, zijn verdwenen.
“Ook organisaties die factchecks verzorgden, zijn opgedoekt.
“Ik vrees dat we daardoor terecht zullen komen in een verkiezingscampagne die meer lijkt op die van 2016 dan die van 2020 of die van 2022.
“We krijgen opnieuw bekvechtende kampen en slechts een minieme rol voor gezaghebbende stemmen.
“Wij proberen erop toe te zien dat de verantwoordelijke instanties erin slagen om de feiten snel naar buiten te krijgen. Maar zullen die nog geloofd worden?
“Ik vrees dat het een debacle wordt. En nee, daar kijk ik niet echt naar uit.”
Een groot deel van uw boek draait rond de vaststelling dat groepen van mensen in gescheiden realiteiten leven, waarbij we niet geloven in dezelfde feiten. Kunnen we ooit terugkeren naar één gedeelde realiteit?
“Er zijn nog altijd zenders en kranten die het nieuws rapporteren op een manier die niet gezien wordt als erg partijdig. AP en Reuters doen dat.
“Maar ik denk dat er kritiek vanuit de eigen groep nodig zal zijn om mensen terug te winnen.
“Mensen aan de rechterzijde zouden de extreemrechtse nichemedia moeten aanpakken en zeggen: ‘Komaan, die complottheorie is onwaar, dit is belachelijk, we moeten beter doen dan dit.’
“Als iemand van links of het centrum dat zegt, dan bereik je er niets mee, dan graven de mensen zich nog dieper in.
“Verschillende politieke groepen moeten het er weer over eens worden dat we voor enorme uitdagingen staan en dat die een consensus vereisen. We kunnen dat niet aan in een verbrokkelde verzameling van uiteenlopende realiteiten.
“Ik hoop dat dat snel gebeurt.”
Lees ook
AI – Het moet eerst misgaan voor we weten wat het risico met AI is
Lees ook
Lees andere gesprekken in deze reeks
Bron: De Standaard