‘Te veel junkinformatie maakt onze geest ziek.’ Haarscherp – vergeleken met hem lijkt Jezus Christus een warhoofd – legt de Israëlische historicus Yuval Noah Harari bloot wat er allemaal op ons afkomt. De Morgen sprak in Londen met de historicus-superster, wiens nieuwe boek Nexus op 10 september in de winkel ligt. ‘Voor als u het zich afvraagt: ik houd hoop.’
Danny Ilegems – De Morgen
Yuval Noah Harari legt bloot wat er op ons afkomt
Aanvankelijk was het de bedoeling dat dit interview in Tel Aviv zou plaatsvinden. Vluchten en hotel waren al geboekt. Maar toen brachten Israëlische militairen en geheimagenten achtereenvolgens Fuad Shukr, een topcommandant van Hezbollah, en Ismail Haniyeh, de politieke leider van Hamas, om het leven.
Iran, vanwaaruit de beide Palestijnse terreurbewegingen worden aangestuurd, zwoer wraak en dreigde met een verwoestende tegenaanval.
Ik suste mezelf met de gedachte dat het Israëlische rakettenschild, de befaamde Iron Dome, tot nu toe ondoordringbaar is gebleken.
In het ergste geval, zo beeldde ik me in, zou mijn afspraak met Yuval Noah Harari naar een comfortabele schuilkelder worden verplaatst.
Betaalde vakantie, in vergelijking met de verschrikkingen die Israël over de bevolking van Gaza laat neerdalen.
Maar andere genodigden hadden kennelijk andere visioenen. En de Amerikaanse veiligheidsdiensten voorspelden dat de gevreesde tegenaanval uitgerekend op de dag dat ik in Tel Aviv werd verwacht zou plaatsvinden.
Na enige aarzeling besliste het team rond Harari om de live-interviews met een select kransje internationale media in Londen te laten plaatsvinden.
“That’s in bloody Hampstead”, zegt de taxichauffeur wanneer ik hem het adres toon dat ik heb opgekregen.
“The posh part of London.”
Voorbij Camden worden de straten smaller en steiler. Aan weerskanten van de weg staan Audi’s, Porsches en Tesla’s geparkeerd. Op de heuvel lijkt Noord-Londen op Schilde. Huizen hebben tuinen, en rond de tuinen staan hoge muren in rode baksteen.
Ik word gedropt bij een brede, zwartgelakte toegangspoort met videobediening, waarachter de contouren van een kapitaal oud pand opdoemen.
De man die in de zijdeur verschijnt, met een glimlach van oor tot oor, zegt: “U bent te vroeg! Kom mee, Yuval is nog even bezig met The New York Times.”
Hij stelt zich voor als Itzik Yahav, Harari’s echtgenoot. Hij ziet eruit alsof hij net van het strand komt: zomerhemdje, witte linnen driekwartsbroek, stoppelbaard van drie dagen.
Op blote voeten dartelt hij over het uitgestrekte gazon. In het midden van de tuin staat een treurwilg, en aan die boom bungelt iets wat je niet meteen verwacht op de plek waar de belangrijkste denker van deze tijd verblijft: een schommel.
Bio Yuval Noah Harari
- Geboren op 24 februari 1976 in een voorstad van Haifa (Israël)
- Studeerde geschiedenis aan de Hebreeuwse Universiteit van Jeruzalem, en doctoreerde in Oxford
- Werd in 2014 wereldberoemd dankzij de bestseller Sapiens en de opvolgers Homo Deus en 21 lessen voor de 21ste eeuw
- Van hem verschijnt nu Nexus in Nederlandse vertaling
De keuken heeft een plafond van transparant glas. Itzik Yahav zet een kruik water met citroen en munt op tafel en opent een doos met chocoladepralines.
“Is dit een tijdelijke verblijfplaats, of is het jullie optrekje in Londen?”, vraag ik.
“Dit is nu onze thuis”, zegt hij.
Uit zijn woorden leid ik af dat het echtpaar Harari Israël heeft verlaten. Minstens tijdelijk, misschien wel definitief.
“Vijf jaar lang hebben we tegen de regeringen van Benjamin Netanyahu geprotesteerd”, zegt Yahav.
“Elke zaterdag trokken we de straat op, samen met tienduizenden, soms wel honderdduizenden andere Israëliërs. En wat heeft het opgeleverd? De extremisten en de oorlogsstokers zijn nog steeds aan de macht, in Israël zowel als in Gaza.
(stilte) “Yuval en ik zijn van dezelfde leeftijd, wij naderen de 50. Er zijn nog andere acute problemen in de wereld dan het Israëlisch-Palestijns conflict, en die wil Yuval ook aankaarten. We willen niet opgesloten zitten in dat conflict.”
En dan staat Yuval Noah Harari ineens in de keuken, letterlijk op kousenvoeten. Hij ziet eruit als een boeddhistische monnik: klein, mager, kaal en vriendelijk. Hij mediteert ook twee uur per dag als een boeddhistische monnik. En hij wordt aanbeden als een profeet.
Van zijn boeken – Sapiens, Homo Deus en 21 lessen voor de 21ste eeuw – zijn inmiddels 27 miljoen exemplaren verkocht. Geen enkele andere hedendaagse denker heeft zo veel volgelingen.
Als historicus weet hij waar we vandaan komen, als futuroloog weet hij waar we naartoe gaan. En als schrijver pleegt hij acupunctuur op het heden.
Hij lokaliseert de zieke plekken en prikt waar het pijn doet.
Harari lezen is geestelijke loutering. Na afloop heb je het geruststellende gevoel dat er toch nog iemand is die het overzicht heeft, en dat de toestand misschien toch niet helemaal hopeloos is.
Nexus, zijn nieuwe boek, is wel veruit zijn donkerste. Sommige van Harari’s nieuwste bevindingen zijn zo onheilspellend dat je hoopt dat ze sciencefiction zijn.
Het boek begint zo: ‘De naam die we onze soort gegeven hebben is Homo sapiens – de wijze mens. Het valt alleen te betwisten of we die naam hebben waargemaakt. Als wij sapiens zo wijs zijn, waarom zijn we dan zo zelfdestructief?’
Het antwoord staat op de voorlaatste pagina: ‘Wij zijn tegelijk de slimste en de domste dieren op aarde.’
En dat komt, zo legt de schrijver in de tussenliggende vijfhonderd bladzijden uit, doordat we liever in sprookjes geloven dan in de waarheid.
Informatie is de bouwsteen van de menselijke beschavingen, betoogt u in Nexus. Door samen te werken binnen informatienetwerken die steeds groter werden, heeft homo sapiens immens veel macht vergaard en de controle over de planeet verworven. Maar, zegt u erbij: de meeste informatie bevat weinig waarheid, en meer informatie leidt niet automatisch tot meer wijsheid.
“Integendeel, de grootste informatienetwerken die de mensheid heeft gecreëerd − de religieuze netwerken, de ideologische netwerken, de natiestaten − zijn allemaal gebaseerd op verzinsels, fantasieën en waanvoorstellingen.
“Alle republieken, koninkrijken en keizerrijken van vroeger en nu zijn gebaseerd op een goeddeels verzonnen geschiedenis, die we niet voor niets de ‘stichtingsmythe’ noemen.
“De heilige boeken van het christendom, het jodendom en de islam pretenderen dat ze het begin van het leven op aarde openbaren en dat ze foutloos zijn, omdat ze de leer en de leefregels van een onfeilbare godheid bevatten.
“We weten dat dat niet zo is. We weten dat ze zijn samengesteld door feilbare mensen en dat ze vol manifeste, aanwijsbare fouten staan. Toch kiezen miljarden mensen ervoor om ze te geloven.
“De katholieke kerk is een informatienetwerk met 1,4 miljard leden. Het nazisme en het stalinisme waren uitzonderlijk sterke netwerken die bijeen werden gehouden door compleet gestoorde ideeën.”
Wij maken ons dezer dagen zorgen over complottheorieën en fake news, maar in feite zijn die dus van alle tijden? Waarom verkiezen we fictie boven waarheid?
“Om twee redenen.
“Eén: de waarheid is altijd gecompliceerd, en wij hebben een voorkeur voor simpele verhalen. De goeden tegen de slechten.
“Twee: de waarheid is vaak pijnlijk en onaangenaam, en wij houden van verhalen die geruststellend en flatterend zijn.
“En er is ook nog een derde reden: het is moeilijk, tijdrovend en duur om de waarheid te achterhalen.
“Als u dit interview gemakkelijk en goedkoop had willen houden, dan was u beter in Antwerpen gebleven. U had het kunnen verzinnen achter uw laptop.
“Fake news, oké, maar wel snel klaar.
“Maar u wilt blijkbaar koste wat het kost een waarheidsgetrouw verslag maken, en dus hebt u de nodige research gedaan. U hebt mijn boek gelezen, misschien mijn vorige boeken herbekeken, en vervolgens bent u helemaal naar Londen gekomen om er met mij over te praten. En dan moet u ons gesprek hierna nog uitschrijven.
“Met andere woorden: de waarheid is gedoe, hard werken, en een kostelijke grap.
“Neem de oorlog tussen Israël en Hamas en Hezbollah nu.
“De meeste mensen maken daar in hun hoofd een zeer simplistisch verhaaltje van.
“Waarom? Omdat het nu eenmaal zeer complex is om twee of meerdere verhaallijnen, die bovendien met elkaar in tegenspraak zijn, te volgen en te begrijpen.
“Het idee dat een volk tegelijk slachtoffer en dader kan zijn, slachtoffer van agressie en pleger van agressie, vinden we moeilijk.
“Dus wat doen we? We kiezen partij. We overtuigen onszelf ervan, of we laten ons wijsmaken, dat de ene partij het zuivere en het goede belichaamt, en de andere het pure kwaad. Opgelost.
“Dat is wat er nu gebeurt. Terwijl je eigenlijk zou moeten zeggen: it’s complicated.”
Het idee om een Joodse staat op te richten in Palestina werd eind negentiende eeuw voor het eerst geopperd in de gedichten van een Joodse schrijver die in Oekraïne woonde, Chajiem Nachman Bialik, en begin twintigste eeuw hernomen in de pamfletten van een Joodse politieke activist uit Hongarije, Theodor Herzl.
“Die allebei heel weinig wisten over de realiteit in Palestina.”
Het is een schoolvoorbeeld van een stichtingsmythe, totaal niet op de werkelijkheid gebaseerd.
“Met verstrekkende, catastrofale gevolgen. Toen het Arabisch-Israëlische conflict eind jaren 1940 losbarstte, werden honderdduizenden Palestijnen en honderdduizenden mizrachi-Joden (Joden die naar Israël emigreerden vanuit Arabische en moslimlanden, red.) uit hun huizen gezet en van hun land verdreven.
“Het conflict duurt voort tot vandaag. Een van de kiemen ervan is dus een gedicht.
“Of neem de Russische invasie van Oekraïne. Die is het gevolg van een romantisch idee dat zich in het hoofd van Poetin heeft genesteld: de fantasie dat Oekraïne niet bestaat, dat het Oekraïense volk niet bestaat en dat hun land bij Rusland hoort.
“Het begint vaak met een waanvoorstelling in het hoofd van één iemand – een visioen, een wensdroom –, maar als die vervolgens via het informatienetwerk wordt verspreid en gedeeld, kan ze een ongelooflijke kracht worden.
“En als iedereen in het netwerk, iedereen rond jou, gaat geloven in die mythe, wordt het moeilijk om te zeggen: ‘Ik geloof ze niet, ik verwerp ze.’ Want dan loop je het risico om door de groep te worden verstoten.
“Daarom gaan de meeste mensen mee in de dominante mythes van hun netwerk, hun religie, hun land, hun partij, hun samenleving.”
Hoe is het om op dit moment in Israël een kritische intellectueel te zijn? Kunt u de dominante mythes nog weerspreken, of dreigt u te worden uitgestoten?
“Mijn positie is controversieel, maar Israël is wel nog steeds een democratie. We hebben daar de afgelopen jaren hard voor moeten vechten.
“Maar zelfs nu, in volle oorlog, is het nog steeds mogelijk de regering te bekritiseren.
“Israël is Rusland niet, waar één onvertogen woord over Poetin genoeg is om opgesloten te worden, of erger. Ik hoop dat het zo blijft.”
Ziet u nog een uitweg uit het conflict?
“Om te beginnen moeten we accepteren dat de werkelijkheid complex is.
“Er zal alleen vrede en verzoening kunnen komen als we erkennen dat er twee volkeren leven op die smalle lap grond tussen Jordanië en de Middellandse Zee, en dat ze beide het recht hebben om daar te leven, de meer dan zeven miljoen Palestijnen én de meer dan zeven miljoen Joden.
“Elkaars bestaansrecht erkennen: het lijkt simpel, maar het is de cruciale eerste stap die nog altijd niet is gezet. Daarna kunnen we bekijken hoe dat samenleven het best georganiseerd wordt: in twee staten, in één staat, veel scenario’s zijn mogelijk.
“Maar zolang de leiders van het ene volk geloven dat God hún het recht heeft gegeven om die plek te bewonen, en dus ook het recht om het andere volk te verdrijven, is niets mogelijk.
“En ter attentie van de mensen ter linkerzijde: beweren dat Israël één grote koloniale onderneming is, is óók een mythe die historische feiten ontkent en alleen maar tot meer oorlog en geweld heeft geleid.”
U bent er geen voorstander van dat we proberen de fouten uit het verleden te corrigeren. Dat verbaast me van een historicus.
“Omdat het onmogelijk is!
“Welke vreselijke misdaden honderd of tweehonderd jaar geleden ook zijn gepleegd, welk onrecht ook is begaan, we kunnen niet teruggaan in de tijd om te verhinderen dat het gebeurde.
“We kunnen de geschiedenis niet overdoen. Dus we moeten ons concentreren op de vraag hoe we misdaden kunnen voorkomen en onrecht kunnen beëindigen in het heden.
“Door te blijven hameren op de fouten uit het verleden legitimeren we vaak het geweld in het heden.”
Beeld YouTube / 60 Minutes
Terug naar Nexus. Het overgrote deel van de informatie die binnen informatienetwerken circuleert dient niet om waarheden en kennis te delen met zoveel mogelijk mensen, schrijft u, maar wel om een bepaalde orde te scheppen, te legitimeren en te handhaven. Dat moet u even uitleggen.
“Ja, want dat is fundamenteel.
“Allereerst: het overgrote deel van de informatie die we uitwisselen is banaal. Anekdotiek, afval, junk. De waarheid is maar een heel klein deeltje van de informatiestroom.
“Waarom? Omdat macht niet voortvloeit uit de waarheid, maar uit orde. Wie zijn macht wil vestigen, zijn orde wil opleggen, bedient zich maar beter van een simpele mythologie dan van de complexe waarheid.
“Ik geef een voorbeeld: de nucleaire bom.
“Als je een kernbom wil produceren om machtig en afschrikwekkend te worden in de wereld, dan moet je enkele waarheden kennen.
“Als je niets af weet van fysica zal het niet lukken. Maar als je alléén iets kent van fysica ga je er ook niet komen.
“Want je hebt verschrikkelijk veel mensen nodig om aan die bom te werken: mensen die uranium delven, arbeiders die een nucleaire reactor bouwen, landbouwers die voedsel produceren zodat de arbeiders en de ingenieurs iets te eten hebben terwijl ze aan die bom werken.
“Hoe krijg je die bij elkaar? Alvast niet met de waarheid! Je zult een verhaal moeten verzinnen, een mythologie, om al die mensen zover te krijgen dat ze voor jou aan die bom willen werken.
“Een nationalistisch verhaal over een vaderland dat in gevaar komt als je geen bom hebt. Een imperialistisch verhaal over een wereldrijk dat je wil vestigen en erfvijanden die je wilt verpletteren. Whatever.
“Of de bom er al dan niet komt, hangt in elk geval niet af van de nucleaire wetenschappers, van de mannen en vrouwen die de wetten van de fysica kennen.
“Zij krijgen vandaag hun orders van de communistische ideologen in Noord-Korea, van de ayatollahs in Iran en van de rabbi’s in Israël.
“De echte macht ligt in handen van de mensen die de mythologie controleren.”
Voor journalisten die de ambitie koesteren om de waarheid bloot te leggen is Nexus ontnuchterende literatuur. Het geloof dat meer informatie leidt tot meer wijsheid noemt u naïef. Is ons werk goeddeels verloren moeite?
(lacht) “Nee, integendeel: vrije, levenskrachtige media en onafhankelijke journalistiek zijn de steunpilaren van de democratie.
“In een belangrijk hoofdstuk in mijn boek leg ik uit hoe democratie op grote schaal pas mogelijk is geworden door de komst van de massamedia.
“In wezen is democratie een conversatie. Lange tijd hadden we geen technologie om die conversatie te voeren met honderdduizenden, miljoenen mensen die verspreid leefden over een uitgestrekt gebied.
“De eerste technologie die dat mogelijk heeft gemaakt was de krant. Daarna kwamen radio en tv. De media vormen de basisinfrastructuur van het democratisch systeem.
“Als er geen platform is waarop we een publiek debat kunnen houden over de politieke dilemma’s van het moment, dan is er geen democratie, zo simpel is het.
“Maar de traditionele rol van een krant is niet alleen het publiceren van informatie, maar ook het schiften en selecteren ervan. Afwegen wat nieuwswaardig en wat niet, wat betrouwbaar is en wat niet, wat waar is en wat trash is.
“En die belangrijke functie zit nu in de verdrukking, door de komst van de sociale media.
“Via sociale media kan iedereen informatie verspreiden. En uit die overload moeten we bovendien zelf selecteren.
“Houston, we have a huge problem.”
Beeld David Vintiner / Guardian / eyevine
Enter het computertijdperk. Enter algoritmes, artificiële intelligentie en bots. U zegt: AI is een gamechanger, de wereld zal op korte termijn onherkenbaar veranderen. In de data-economie van morgen zal het overgrote deel van de mensheid ander emplooi moeten zoeken. Maar u zegt ook: de democratie is in gevaar.
“Ja, want voor het eerst in de geschiedenis mengen zich nu ook niet-menselijke stemmen in het debat. Tot voor kort konden alleen mensen informatie produceren, selecteren en erover debatteren. Nu kunnen ook algoritmes het, artificiële intelligenties, bots.
“Stel u de democratie voor als een groep mensen die in een cirkel staat en een conversatie houdt. En beeld u nu even in dat zich plots een groep robots bij de cirkel voegt en zich mengt in het debat. Wat zou er dan gebeuren? De conversatie zou toch onmiddellijk stoppen?
“In de fysieke wereld wel, ja, maar in de digitale wereld, online, stopt ze niet. Want daar zien we de robots niet. We denken dat het mensen zijn. En dat kan grote gevolgen hebben.
“Zie wat er deze zomer in Engeland is gebeurd (na een steekpartij in het Noord-Engelse Southport waarbij drie kinderen omkwamen, red.).
Via sociale media werd fake news verspreid (dat de dader een moslimmigrant was, red.) en binnen de kortste keren waren er rellen, plunderingen en brandstichtingen in verscheidene steden.”
In Myanmar was het nog erger. U houdt Facebook en YouTube medeverantwoordelijk voor wat daar in 2016 en 2017 is gebeurd: het geweld tegen de Rohingya-minderheid dat ontaardde in een etnische zuivering.
“Voor alle duidelijkheid: Facebook was niet uit op een etnische zuivering in Myanmar.
“De bedrijfstop van Facebook wist waarschijnlijk niet eens wie de Rohingya waren.
“Facebook was toen al een belangrijke nieuwsbron in Myanmar, maar het wilde dat nog meer mensen nog meer tijd zouden doorbrengen op het platform, om meer data te verzamelen, meer advertenties te verkopen en een nog groter deel van de informatiemarkt in handen te krijgen. Dat was, conform het businessmodel van Facebook, het doel.
“En toen kwamen de algoritmes van Facebook in actie. Die ontdekten dat het gebruik van het platform exponentieel toenam als ze complottheorieën en fake news over de Rohingya’s helemaal bovenaan in de nieuwsfeeds van de gebruikers plaatsten.
“YouTube zag hetzelfde resultaat als het via autoplay beelden vol haat tegen de Rohingya’s liet afspelen.
“Op die manier werden de complottheorieën versterkt en werd het geweld aangewakkerd, met de bekende rampzalige gevolgen.
“Facebook noch YouTube heeft die gevolgen voorzien. De programmeurs hadden er simpelweg geen moment bij stilgestaan dat hun AI’s zich zo zouden gedragen.
“Want het waren de AI-algoritmes die zelf, op eigen houtje, de noodlottige beslissing namen om verontwaardiging en haat te verspreiden om de aandacht van gebruikers vast te houden.
“Dat is de essentie én de grote dreiging van de AI-revolutie: beslissingen die door een niet-menselijke intelligentie worden genomen kunnen onvoorziene gevolgen hebben.
“Historische, dramatische gevolgen, zoals de gebeurtenissen in Myanmar hebben aangetoond.”
We dreigen de controle over AI te verliezen. Kunnen we de klok nog terugdraaien?
“Nee, maar we kunnen AI wel streng reguleren.”
Hoe?
“We zouden AI’s en bots bijvoorbeeld uit de conversatie kunnen bannen.
“De socialemediaplatformen zullen zeggen dat dat tegen het recht op vrije meningsuiting ingaat, maar dat klopt natuurlijk niet: bots zijn geen mensen, zij hebben geen recht op vrije meningsuiting.
“Ik zeg dit omdat het nu razendsnel gaat. Er bestaan ondertussen al AI’s en bots die zelf complottheorieën kunnen verzinnen.
“Vergelijk het met valsemunterij. Het is verboden vals geld in omloop te brengen, daar staan strenge straffen op.
“Als jij een drukkerij hebt die vals geld drukt, en de overheid komt erachter, dan ga je niet wegkomen met het excuus dat je er niets mee te maken hebt, dat je gewoon een lucratieve drukorder hebt gekregen.
“De socialemediabedrijven gebruiken hetzelfde excuus: ‘Wij hebben niets te maken met al die leugens en oproepen tot haat en geweld, het zijn onze gebruikers die ze verspreiden. En het zijn onze gebruikers die bots inzetten om fake news en complottheorieën te verveelvoudigen.’
“Néé, zij exploiteren die platformen. Het zijn hun algoritmes die haatberichten laten passeren en zelfs versterken. En het is hun verantwoordelijkheid om valse mensen te onderscheiden van echte.
“Net als valsemunterij zou valsemenserij op het internet verboden en bestraft moeten worden.”
Ooit was u de favoriete intellectueel van Silicon Valley. Zegt u met dit boek het vertrouwen op?
“Ook in mijn vorige boeken was ik al zeer kritisch en heb ik gewaarschuwd voor bepaalde ontwikkelingen in de technologiesector. Toch ben ik geen voorstander van een verbod op AI of van het tegenhouden van technologische ontwikkelingen.
“Niemand wil dat, deels omdat het onrealistisch is, maar ook omdat de technologie natuurlijk een enorm positief potentieel heeft.
“We kunnen er onze gezondheidszorg mee verbeteren, de effecten van klimaatverandering tegengaan, of het aantal verkeersdoden verminderen.
“Elk jaar sterven wereldwijd 1,2 miljoen mensen in het verkeer, het overgrote deel ervan door menselijke fouten. Met zelfrijdende auto’s die perfect werken kunnen we veel ellende voorkomen.
“Daar ben ik uiteraard niet tegen. Het enige wat ik zeg, is: we moeten even op het rempedaal duwen. En we moeten minstens twintig procent van de technologiebudgetten in veiligheid investeren.
“Autoconstructeurs moeten dat ook doen, ze kunnen geen auto’s meer op de markt brengen die niet veilig zijn. Idem voor farmaceutische bedrijven en voedingsproducenten.
“Voor AI zou hetzelfde moeten gelden. En er moeten controlemechanismen komen. Instituten die de ontwikkelingen monitoren en kunnen ingrijpen als het nodig is, in het publieke belang.”
Elon Musk heeft met ‘X’ en met zijn Starlink-satellieten een strategische positie in het wereldwijde informatienetwerk. Hij kan beslissen dat Poetin ingelicht wordt over de posities aan het front in Oekraïne. Hij kan Oekraïne afkoppelen van het internet. En hij profileert zich steeds meer als een extreemrechtse provocateur. Ik bedoel: moet er niet meer gedaan worden dan wat reguleren in de marge? Moet de macht van de grote techmonopolies niet gewoon gebroken worden?
“In de VS is een rechtszaak bezig tegen Google wegens monopolievorming. We zullen zien wat het geeft.
“Het is waar: een handvol techbedrijven heeft nu een enorme economische, culturele en dus ook politieke macht. Ze zijn een wereldmacht.
“Silicon Valley is begonnen met zeer libertaire ideeën, maar het heeft nu trekken van een leninistische organisatie, met zeer autoritaire hiërarchieën. Dat is gevaarlijk.
“Deze mensen vertegenwoordigen niemand behalve zichzelf, ze worden niet gecontroleerd, ze nemen geen verantwoordelijkheid en ze worden ook nauwelijks voor hun verantwoordelijkheid geplaatst.
“Die bedrijven weten zo veel over ons. Ze controleren niet alleen onze smaak, onze gewoonten, onze voorkeuren en bestedingspatronen, ze controleren vooral ook onze aandacht. En als je de aandacht hebt van het grootste publiek ooit, kun je manipuleren op een schaal die voorheen ondenkbaar was.
“Met de informatietechnologie van vandaag kun je de privacy afschaffen en iedereen onder 24-uursbewaking plaatsen. AI’s kunnen alles volgen wat we doen op onze smartphones en computers, en de fysieke wereld staat vol camera’s en afluisterapparatuur.
“Stalin kon er alleen maar van dromen. Hij kon het niet realiseren omdat hij de technologie en de mankracht niet had. Maar de techbedrijven hebben geen feilbare mensen meer nodig om al die data te analyseren terwijl ze binnenlopen, want ze hebben AI.
“Je ziet de totale bewakingsregimes nu tot stand komen, in verschillende delen van de wereld, en heus niet alleen in totalitaire staten.
“Israël is totale bewaking aan het uitrollen in de bezette gebieden op de Westelijke Jordaanoever. Iedereen wordt er de hele tijd gevolgd, met drones, camera’s en afluisterapparatuur. Elke beweging, elke verplaatsing wordt geregistreerd. En ook alles wat mensen doen met hun smartphone en online.
“Het hele gebied staat vol met hekken en doorgangen, wie erdoorheen gaat wordt gescand. En dat gebeurt allemaal zonder noemenswaardige menselijke interventie.
“Wat we soms vergeten, is dat de techdrijven over de hele wereld opereren. Overal controleren ze de socialemediaplatformen, de aandacht van het publiek en de data-economie.
“Dat zou tot een nieuwe golf van imperialisme kunnen leiden. Een imperialisme waar geen militairen aan te pas komen. Men hoeft namelijk geen legers meer te sturen om een gebied te bezetten.
“Wie de informatie controleert, kan een land controleren vanop afstand.”
Dit is een dystopie. George Orwell, uw favoriete schrijver, zou het bedacht kunnen hebben.
“Het is geen profetie, hè. Ik waarschuw voor bepaalde scenario’s, maar ik beweer niet dat ze onvermijdelijk zijn.
“De AI-entrepreneurs en -ontwikkelaars benadrukken altijd de ongekende positieve mogelijkheden, ik wijs op de gevaren. Daardoor is mijn boek een beetje dark.
“Maar voor het geval u het zich afvraagt: ik behoud de hoop. Waarom zou ik er een boek over schrijven als ik het allemaal hopeloos vind?
“Ja, het is mogelijk om met AI slimme netwerken te bouwen, met zelfcorrigerende mechanismen, waarover we de controle behouden. Maar dan moeten we nu wel de juiste beslissingen nemen en die controle opzetten.
“Dáárom heb ik dit boek geschreven: opdat meer mensen het zich zouden realiseren en er mee over zouden nadenken.”
Vijf jaar geleden scoorde de Nederlandse historicus en journalist Rutger Bregman een bestseller met een boek getiteld De meeste mensen deugen.
“Ik ken dat boek. Ik vond het goed.”
Ik heb de titel altijd twijfelachtig gevonden. Na lezing van Nexus viel mij een betere te binnen: ‘De meeste mensen zijn tot alles in staat’. Volgens mij is hij ook juister.
(lacht) “Nee, volgens mij klopt het dat de meeste mensen het goede nastreven en de beste bedoelingen hebben. Iedereen wil de waarheid kennen over de wereld en het leven, niemand wil belogen worden of in fantasieën geloven.
“Het probleem begint wanneer grote groepen mensen, miljoenen mensen, met elkaar verbonden worden in informatienetwerken.
“Als goede mensen dan slechte informatie krijgen, nemen ze foute beslissingen. Terwijl ze van zichzelf denken dat ze doen wat goed en wijs is.
“De grootste misdaden uit de geschiedenis zijn begaan door mensen die dachten dat ze de wereld beter maakten.
“Lees mijn hoofdstuk over de Sovjet-Unie: de meeste communistische leiders zagen zichzelf niet als slecht. Ze dachten zelfs dat ze de ideale samenleving aan het uitbouwen waren, waarin iedereen gelijk was.
“Maar ze geloofden ook dat ze tegengewerkt werden door de krachten van het kwaad. Ze zagen overal vijanden en samenzweringen. En ze gebruikten al hun macht om zo veel mogelijk van die vijanden uit te schakelen, externe en interne, waardoor miljoenen mensen de dood vonden.
“Dat is dus het probleem: in grote groepen, in informatienetwerken, worden mensen vatbaar voor de meest groteske wanen.”
Heeft het volgens u zin om te deconnecteren? Je terugtrekken uit digitale netwerken, je identiteit niet etaleren op sociale media, je data voor jezelf houden, onzichtbaar worden voor de digitale bewakingstechnologie, niet deelnemen aan de digitale economie, je smartphone in de sloot gooien: is dat een nuttige vorm van verzet?
“Dat kan nu niet meer, want dan plaats je jezelf buiten de samenleving, dan besta je bij wijze van spreken niet meer.
“Tot enkele jaren geleden had ik geen smartphone. Maar daardoor kon ik me op een gegeven moment niet meer in verbinding stellen met mijn bank, met mijn verzekering, met de overheid, met niets of niemand.
“Dus compleet deconnecteren lijkt me onmogelijk, maar het is wel een goed idee om een paar uur per dag te deconnecteren, of een paar dagen per maand. Je hebt een account, je bezit een smartphone, je gebruikt die, maar af en toe ga je analoog.
“Ik vergelijk het vaak met eten. Je moet informatie zien als voeding voor de geest.
“Een paar eeuwen geleden was voeding schaars. Alles wat enigszins eetbaar was, werd verorberd. En hoe meer vet en suiker het bevatte, hoe beter, want dat gaf energie.
“Nu hebben we voedseloverschotten. En nu weten we dat we ziek worden van te veel vet en suiker. Dus nu diëten we. We beperken de hoeveelheid voedsel die we innemen, en we letten op wat we eten.
“Zo zouden we ook met digitale informatie moeten omgaan. Oorspronkelijk was informatie zeldzaam. Om het even welk boek dat we vonden verslonden we.
“Nu is er informatieoverload, en het merendeel ervan is junk, zoals junkfood. Van te veel junkinformatie wordt onze geest ziek. Dus we moeten op informatiediëet.
“Het basisprincipe is simpel.
“Eén: beperk de hoeveelheid informatie.
“Twee: wees mindful over de kwaliteit van de informatie, vermijd junk. Als je je geest de hele tijd voedt met haat en geweldfantasieën, zul je een zieke geest krijgen.
“En drie: neem af en toe een informatievasten in acht.
“Zoals veel mensen, al dan niet aangespoord door hun geloof, in een bepaalde periode van het jaar vasten met eten en drinken. Want het gaat niet alleen over de hoeveelheden, het gaat ook over het verteren.
“Zoals je je lichaam tijd moet geven om voedsel te verteren, zo moet je je geest tijd geven om informatie te verteren.”
Hoe doet u dat?
“Ik ga elk jaar voor een lange periode, één tot twee maanden, op meditatie-retraite. Dan deconnecteer ik en mediteer ik alleen maar. Dat is mijn informatievasten.
“Ik weet het: dat is extreem, de meeste mensen kunnen zich niet zo lang vrijmaken. Maar zoals ik zei: doe het dan een dag per week, of een paar dagen per maand.
“Ik begrijp ook dat niet iedereen de behoefte heeft om te mediteren. Je kunt ook enkele dagen gaan wandelen in de bergen en je smartphone thuislaten.”
Ik zou net denken dat aan het schrijven van Nexus een informatieboulimie is voorafgegaan, een schranspartij!
“Ja, maar je moet ook verteren. Als ik in korte tijd een stapel boeken over het Romeinse rijk, de Sovjet-Unie en de ontwikkelingen in AI heb gelezen, heb ik tijd nodig om die informatie te verwerken. Erover na te denken, alles op een rijtje te zetten.
“Dat vereist stilte en concentratie, en die mag niet verstoord worden door de roep van de smartphone. Die leg ik in een andere kamer wanneer ik aan het werk ben.”
Mediteert u elke dag?
“Ja, één uur ’s morgens en één uur ’s avonds, al 24 jaar. De meditatietechniek die ik beoefen is vipassana.”
Is mediteren voor u ook een manier om de wanhoop buiten de deur houden? De wanhoop die u misschien bekroop toen u bepaalde passages van Nexus schreef?
(denkt na) “Mm, nee, niet bepaald. Het basisprincipe van vipassana, en van de meeste andere meditatietechnieken, is de directe observatie van het nu, van het huidige moment.
- Wat gebeurt er in mijn geest?
- Wat gebeurt er in mijn lichaam?
- Wat gebeurt er in mijn binnenwereld?
“Je zou het een bijna wetenschappelijke praktijk van pure observatie kunnen noemen. Het helpt me in het reine te komen met mijn mentale issues, maar ik put er ook de kracht en de helderheid uit om daarna weer vol goede moed aan het werk te gaan en met twee benen in de wereld te gaan staan.
“Onze geest produceert continu fantasieën en illusies. Met meditatie kun je die leren herkennen en terzijde schuiven, om dan met een ontgifte geest de dingen te zien zoals ze zijn.
“Het is perfect mogelijk dat ik het politieke of het economische systeem na een meditatiesessie beter doorzie.” (lacht)
U bent ook de spil van uw eigen bedrijf: Sapienship. Wijs-heid. U noemt het een social impact company. Hebt u het opgericht om als schrijver en wetenschapper totaal onafhankelijk te kunnen blijven van universiteiten, techbedrijven en lobby’s, en niet vatbaar te zijn voor welke druk dan ook?
“Sapienship is nu een team van een twintigtal mensen.
“Het is onze missie de publieke conversatie in de wereld op de existentiële uitdagingen voor de mensheid te richten.
“Als ik kijk en luister naar de grote maatschappelijke debatten van vandaag, dan gaat het naar mijn smaak te vaak over de verkeerde dingen.
“In het Westen, maar ook elders, focust men bijvoorbeeld al jaren heel erg op migratie.
“Ik zal niet ontkennen dat dat een belangrijk thema is, maar zelfs de mensen die ervan overtuigd zijn dat migratie gevaarlijk is, die geloven dat ze kan leiden tot omvolking, kunnen niet aantonen dat er een onmiddellijk existentieel gevaar van uitgaat.
“Het duurt decennia eer de bevolking van een land werkelijk verandert.
“Terwijl klimaatverandering, AI of een derde wereldoorlog over enkele jaren al een mondiale catastrofe kunnen veroorzaken. Dus daar moet dringend meer aandacht naartoe gaan.
“Ik heb ik nu ook een verbintenis met de universiteit van Cambridge, waar ik zopas het centrum voor de studie van existentiële risico’s heb opgericht. Daar zal ik focussen op de risico’s van AI.
“U zult er nog van horen.”
Yuval Noah Harari presenteert op uitnodiging van De Morgen en boekhandel Stad Leest zijn nieuwe boek Nexus op 21 oktober in de Stadsschouwburg in Antwerpen. Voor tickets surf naar demorgen.be/stadleest
Yuval Noah Harari
Historicus – Hebrew University of Jerusalem.
Auteur van onder meer Sapiens en Homo Deus.
Lees ook
Klik hier of op de hyperlink hieronder en vind andere berichten van
Bron: De Morgen