Welke technologie ook wordt geboren, nooit komt zij ter wereld zonder een boodschap van onheil. Dat gold voor het schrift, voor de stoomtrein, voor de computer en vandaag voor ChatGPT. Zoals de filosoof Socrates hamerde op de gevaren van het schrift, zo hamert een hedendaags filosoof als Yuval Noah Harari op de gevaren van kunstmatige intelligentie.

Ralf Bodelier. Filosofie Magazine, januari 2020. (Bijgewerkt april 2023.)

De vrees voor moderne technologie heeft diepe religieuze wortels. Eeuwenlang waarschuwden Bijbelse profeten voor het einde der tijden. Een einde dat de zondige mens over zichzelf had afgeroepen. Met Gods toorn niet valt immers niet te spotten, zo wist de voormoderne mens. Iedereen kende het Bijbelse verhaal van de zondvloed.

Dat verhaal komt in samenvatting op het volgende neer. De mensheid, met de brave Noah als enige uitzondering, was een verderfelijk leven gaan leiden. Vervolgens joeg de Almachtige de mensheid met een reusachtige vloedgolf over de kling. Alleen Noah overleefde. Uniek was het verhaal van Noah niet. We vinden het terug in tal van culturen: van de Koran tot het oude Gilgamesj-epos; in de mythologie van de Afrikaanse Masai en in die van de Groenlandse Eskimo’s.
De angst voor het zelf-veroorzaakte einde der tijden heeft de dood van de Bijbelse God ruimschoots overleefd. Vandaag doemt deze angst op in het beeld van de mens die Gods plaats inneemt als vernietiger van de aarde. Dreigen wij immers niet zelf een einde te maken aan ons bestaan, daartoe in staat gesteld door onze eigen kernwapens, door het verstoken van olie en steenkool of het voeden van kunstmatige intelligentie als ChatGPT?

Onze angst is gerechtvaardigd. Toch is dít de volgorde: éérst is er een oeroude angst voor de Apocalyps, dán wordt er een oorzaak bij gedacht. Vuur, elektriciteit, treinen, liften, telefoons, bioscoopfilms, walkmans en computers: welke techniek ook wordt geboren, nooit komt zij ter wereld zonder een boodschap van onheil. De telefoon zou de romantische interactie tussen mensen reduceren tot oeverloos geleuter. Bioscoopfilms werden ervan beschuldigd jongeren aan te zetten tot misdaad, het verwilderen van de zeden, verweken van breinen en bederven van ogen. Begin jaren tachtig vreesde men de walkman omdat deze zou worden ‘omarmd door hersenloze consumenten’ die als ‘opwindbare-non-mensen’ linea recta onder aanstormende auto’s konden marcheren. In de jaren zestig en zeventig was de opstormende computer voor velen een existentiële bedreiging. Hij zou de mens beroven van zijn belangrijkste vermogens: zijn arbeid en zijn denken.

Verwilderen
Niet de minsten onder de denkers, schrijvers, theologen en filosofen, waarschuwden voor moderne technologie. In de oudheid maakte Socrates grote bezwaren tegen de technologie van het schrift. Wie kon lezen en schrijven, hoefde zijn gedachten immers niet meer te onthouden. En wie ze toch opschreef, was gedoemd ze te vergeten. Gelukkig dacht Plato daar anders over, toen hij Socrates’ ideeën alsnog aan het papyrus toevertrouwde.

Eind achttiende eeuw vreesden Engelse Luddieten dat hun eigen weefgetouwen hen werkloos zouden maken, reden om de machines aan gruzelementen te slaan. Wanneer op 5 mei 1835 in Brussel de eerste trein op het Europese continent vertrekt richting Mechelen, wordt in het Belgische parlement hevig gediscussieerd. Studies wezen immers uit dat vervoer per trein zou leiden tot forse werkeloosheid onder koetsiers en schippers, dat de tijdens de snelle rit de ademhaling van reizigers zou worden afgesneden, dat eieren als omeletten zouden arriveren en de koeien zo zouden schrikken van voorbijrazende locomotieven dat hun melk zou verzuren. Weer honderd jaar later protesteerde Charlie Chaplin in Modern Times tegen de lopende band omdat hij arbeiders zou reduceren tot robots.
In de jaren ’50 waarschuwt de Duitse filosoof Martin Heidegger tegen ‘de potentieel dodelijke machines en apparaten van de technologie’. Heidegger vreest dat technologie ons het zicht ontneemt ze op de diepe, mysterieuze kanten van het bestaan. Vandaag zijn het, bijvoorbeeld, de anarcho-primitivisten, geïnspireerd door de filosoof John Zerzan, die ons ervan willen overtuigen hoe overheersend techniek en wetenschap zijn geworden. Ooit, zo meent Zerzan, stond simpele techniek ten dienste van de mens. Nu is de mens onderworpen aan complexe technologie, die bovendien in handen is van een kapitalistische elite. Zonder televisie, smartphone en geld nemen de anarcho-primitivisten opnieuw afstand van alle beschaving in een poging te verwilderen en weer één te worden met de natuur.

De meest uitgesproken vertegenwoordiger van de huidige angst voor technologie, is de Israëlische filosoof en historicus Yuval Noah Harari. Het lijkt haast geen toeval dat zijn tweede voornaam direct verwijst naar het verhaal van de zondvloed uit de Hebreeuwse bijbel. In zijn boeken Homo Deus en Lessen voor de 21e eeuw benadrukt Harari dat we op het punt staan om de moderne mens, de Homo sapiens, op te heffen. En de oorzaak ligt in de toenemende invloed van kunstmatige intelligentie op onze levens, waaronder ChatGPT. Wij mensen denken weliswaar dat we vrij zijn, we denken zelfs dat we alsmaar meer vrijheid genieten, maar volgens Harari is dat een illusie. We worden we langzaam maar zeker ‘gehackt’ door algoritmes. Dankzij de moderne biotechnologie zijn deze steeds beter in staat om diep in onze lichaam en geest door te dringen. Gaandeweg worden we opgezogen door het zwarte scherm –Black Mirror– van onze telefoons, iPads en laptops.

Ideaal voor Gestapo en KGB
Volgens Harari stuurt deze gloednieuwe combinatie van biotechnologie en informatietechnologie ons kanten op waar we zelf maar amper weet van hebben. Google en Facebook, maar ook overheden en, wie zal het zeggen, regelrechte criminelen, weten inmiddels meer van ons dan wij zelf. Ze kennen niet alleen onze levensloop en onze aankopen, ze weten ook van onze ziektes en genetische aanleg; ze volgen onze emoties, gedachten, angsten en dromen.

En wij laten de hackers hun gang gaan. Hoe handig is het immers dat de Strides Habit Tracker ons maant tot meer slapen en minder zitten. Of dat Google News voor ons bepaalt welk artikel we het liefste lezen. We willen ze simpelweg niet meer missen, onze geautomatiseerde bloeddrukmeting en de psychologische check-up. Harari vreest dan ook dat we over een halve eeuw met huid en haar zijn overgeleverd aan dit illustere duo van bio- en informatietechnologie. In een van zijn vele televisieoptredens vertelt hij dat we bezig zijn de ideale situatie te scheppen voor organisaties als de Gestapo en de KGB.

Tien jaar geleden was Harari nog een onbekend historicus, gespecialiseerd in middeleeuwse geschiedenis aan de Hebreeuwse Universiteit van Jeruzalem. Inmiddels verschijnen zijn boeken in 65 talen. Inmiddels zijn er meer dan 35 miljoen van verkocht. Dat hij zo vlot over de toonbank gaat, zou je kunnen verklaren door zijn meeslepende verhaal, zijn superieure schrijfstijl en zijn ontwapenende publieksoptredens. Wat echter ook geldt, is dat onheilsboodschappen nog steeds heel wat beter verkopen dan geruststellende verhalen. Duizenden jaren aan opgeslagen angst in ons reptielenbrein vallen gemakkelijk te activeren. Ook al waarschuwt Harari dat hij geen helderziende is en dat alles heel anders af kan lopen, zijn grote verhaal over de opheffing van de zelfstandig denkende en handelende mens, past wel degelijk in een traditie van waarschuwende profeten, hartstochtelijk oproepend tot bekering.

Gezonde achterdocht
Het is belangrijk om Harari’s waarschuwingen serieus te nemen, zoals het ook goed was om die van Socrates, Charly Chaplin, Heidegger en John Zerzan te overwegen. Maar juist in een tijd van toenemende angst en apocalyptisch denken, is het ook goed om hen met gezonde achterdocht te lezen. En dat lukt wonderwel door in hun redeneringen vier patronen te ontdekken waar elke doemdenker uiteindelijk op terug blijkt te vallen.

Een eerste patroon is de waarschuwing dat het onherroepelijk fout zal lopen, tenzij we alles op alles zetten om het o zo recente en unieke gevaar te ontmantelen. Radicale bekering, zo roepen alle profeten, is de enige mogelijkheid om de ondergang af te wenden. Tegelijkertijd constateert Harari dat zo’n radicale bekering nooit plaats zal vinden. We genieten simpelweg te veel van de moderne bio- en informatietechnologie om er radicaal mee te breken. Juist dit realisme versterkt zijn apocalyptische suggestie dat we met open ogen richting afgrond wandelen. Wie jaren later terugkijkt op een dergelijke oproep tot radicalisme, merkt dat het er gelukkig maar zelden van kwam en de dat wereld gewoon door bleef draaien. En dat, wanneer de radicale omwenteling wél plaatsvond, wanneer we wel radicaal breken met de technologische vooruitgang -zoals vandaag de anarcho-primitivisten bepleiten- dan ontaardde dat nogal eens in bloedvergieten. Met de Cambodjaanse Killing Fields als meest gruwelijke uitwas.

Een tweede patroon is de claim van elke profeet dat de problemen zo nieuw zijn dat er geen historisch vergelijk mogelijk is. Ook Harari benadrukt keer op keer dat er altijd wel systemen waren die ons onze menselijkheid dreigden te ontnemen, maar dat het huidige gevaar van bio- en informatietechnologie volledig uniek is, en zonder enig precedent. Op de keper beschouwd is dat natuurlijk zo. Maar ook de introductie van het vuur, het schrift, de trein en de speelfilm waren zonder precedent. Toch liepen ze niet uit op de ondergang van het geheugen, onze melkproductie of de zedelijkheid. De uitdaging is telkens weer nieuw, onze angst voor het nieuwe is telkens weer oud.

En daarmee stoten we op een derde patroon: de voorzetting en uitvergroting van huidige uitdagingen in de toekomst. Profeten gaan er altijd van uit dat de maar al te concrete problemen van vandaag zullen uitlopen op de rampen van morgen. Hun oog voor concrete oplossingen is doorgaans niet al te sterk ontwikkeld. Nu ís het ook een probleem dat techgiganten als Google en Facebook veel te veel van ons weten. Tegelijkertijd neemt het verzet tegen hen toe. Via VPN kun je je zoektocht op het internet versleutelen. Facebooks’ Whatsapp valt te omzeilen via Signal en Telegram. De Europese Unie dwong Google om zijn gebruikers het recht te geven ‘te worden vergeten’. Zowel de privacywetgeving als het aantal veiligheidsmaatregelen groeit met de dag. Mensen zitten nu eenmaal niet stil. Hoe reëel de problemen ook zijn die Harari benoemt, ons oplossend vermogen is net zo reëel.

Alomvattende passiviteit
Het vierde patroon, ten slotte, is het voorzorgsprincipe. Zo benadrukt Harari niet alleen hoe groot de kans is dat we worden ingepakt door de illustere combinatie van bio-engineering en informatietechnologie; steevast laat hij er ook op volgen dat we er eigenlijk niet aan hadden moeten beginnen. Dat we uit voorzorg alles hadden moeten blokkeren. En dat doet hij dan via de gedachte dat je geen technologie in de markt moet zetten waarvan je de gevolgen niet kunt overzien.

Tijdens een discussie op YouTube met de psycholoog Steven Pinker, zegt Harari het volgende: ‘Stel je bent een ingenieur. Je staat op het punt om een nieuwe uitvinding te introduceren. Dan doe je er goed aan om je de meest kwaadaardige man voor de geest te halen die je je voor kunt stellen. Bedenk vervolgens wat hij met jouw uitvinding zou kunnen doen. Overweeg dan opnieuw of je deze uitvinding wel op de markt wil brengen.’ Het is een interessante vraag en de logische consequentie van elke angstige blik op onze technologische mogelijkheden. Harari poneert hem in de laatste minuut van het gesprek en Pinker kan er niet meer op antwoorden. Daarom doe ik het voor hem.

Laten we van die meest kwaadaardige man concrete nazi’s als Adolf Eichmann of Josef Mengele maken. En stel dat we in de 19e eeuw hadden kunnen bedenken waarvoor Eichmann treinen en spoorlijnen zou gebruiken, hadden we die dan ooit hebben gebouwd? Stel dat we hadden kunnen voorspellen wat Mengele zou uitvreten in Auschwitz, waren we dan ooit begonnen aan hersenonderzoek of genetica? En wat te denken van het vuur, het schrift, elektriciteit en speelfilms, waar de nazi’s dankbaar gebruik van maakte?. Was het niet beter geweest deze van meet af aan te verbieden? Zou Prometheus, met beelden voor ogen van brandende lijkenstapels in Treblinka, het vuur van de goden hebben gestolen?

Harari’s angst voor een dramatische uitkomst, ontaardt in een massief nee tegen alle mogelijkheden die de technologie ons brengt. Harari wijst op de mogelijke, gitzwarte consequenties van technologie en blokkeert daarmee de overweldigende kansen en mogelijkheden van moderne technologie om onze levens veel gezonder, veiliger en mooier te maken. Apocalyptisch denken leidt tot weinig anders dan stilstand en een alomvattende passiviteit. Het is de ultieme consequentie van het voorzorgsbeginsel: speel op veilig en doe nooit iets voor de eerste keer.