Wees niet bang voor een almachtige AI. Wel voor wie er misbruik van maakt.
Er groeit paniek over kunstmatige intelligentie die ‘binnen tien jaar’ de mensheid uit kan roeien. Maar de echte dreiging komt van criminelen en slordige bedrijven. De apocalyps-paniek leidt af van de schade die nu al wordt aangericht
Ralf Bodelier
En weer vrezen we de ondergang. Eind jaren 60 voorspelde bioloog Paul Ehrlich dat er in de jaren 70 honderden miljoenen mensen zouden verhongeren. Het gebeurde niet: de wereldwijde voedselproductie verdrievoudigde en veel minder mensen sterven door hongersnoden. In de jaren 80 golden nanotechnologie en het klonen van mensen als grote bedreiging. Je hoort er niets meer over. Wie schrijft nog over uitgeputte voorraden kolen, olie en gas? Over dalende spermakwaliteit? Over Killer Bees en hersenkanker door mobieltjes?
Nu is het AI waarvan wordt gevreesd dat het de mensheid kan uitroeien. Ook die angst is oud. Hij gaat terug naar 1960 toen computerwetenschapper Norbert Wiener vreesde dat de door de mens ontworpen machines op nietsontziende wijze doelen na zouden streven. En verder nog, naar 1818, toen Mary Shelley haar verhaal publiceerde over een door dokter Frankenstein tot leven gewekt monster. We kunnen zelfs terug naar bijbelse vertellingen zoals de Toren van Babel. Of tot de joodse legende van de Golem, het uit klei gemodelleerde wezen dat onbestuurbaar werd en door zijn maker moest worden uitgeschakeld. Uiteraard kan niemand in de toekomst kijken en complexiteit verrast ons vaker dan we denken. Maar zelfs als een hedendaagse Frankenstein een ontspoorde AI zou bouwen, is de wereld nog niet veroverd.
Vandaag gruwelen we bij het gedachtenexperiment dat een ontremd AI-model de opdracht krijgt zoveel mogelijk paperclips te produceren. Het zou zover kunnen gaan dat het eerst alle ijzervoorraden in de wereld uitput, waarna het miljarden mensen vermoordt om hun lichamen als grondstof te gebruiken.
Uiteraard kan niemand in de toekomst kijken. En niemand kan beloven dat een systeem nooit onvoorspelbaar gedrag zal vertonen. Complexiteit verrast ons vaker dan we denken. Maar zelfs als een hedendaagse dokter Frankenstein erin zou slagen om een computerprogramma te maken dat de mensheid uit wil roeien, is de wereld nog niet veroverd. Onze samenleving werkt niet op één grote knop, maar op miljarden losse apparaten die door mensen worden onderhouden. Software heeft geen handen. Een AI kan dan wel een code schrijven, maar geen fysieke kleppen dichtdraaien, kabels aanleggen of messen slijpen. Het opwekken van elektriciteit, het laten draaien van fabrieken, het vervoeren van dingen: veel draait op fysieke infrastructuren die niet met een muisklik te overmeesteren zijn. Bovendien: zodra een systeem gekke dingen gaat doen, kijken we niet apathisch toe. Ook datacenters blijven voor hun stroom, koeling en onderhoud overgeleverd aan mensen die er simpelweg de stekker uit kunnen trekken. Een garantie is dit niet, een geruststelling is het wel.
Van de boekdrukkunst en de stoomtrein tot gentechnologie: grote technologische sprongen gingen steeds gepaard met angst voor ingrijpende, soms zelfs catastrofale gevolgen. Vandaag komt daar iets bij. Je zou het ‘angst-marketing’ kunnen noemen. Wanneer AI-bedrijven zélf benadrukken dat hun technologie in theorie de mensheid kan vernietigen, kan dat ook een perverse vorm van reclame zijn. Een AI-product dat ons allemaal kan vernietigen, kan ons uiteraard ook naar de maan vliegen, onze levensverwachting verdubbelen en ons nog veel slimmer en rijker, knapper en gelukkiger maken.
Angst voor onze ondergang door AI lijkt simpelweg de zoveelste variant van hetzelfde doemscenario. Het grootste gevaar van het gealarmeer over een aanstaande apocalyps is dan ook niet AI zelf. Het is het gevaar dat het onze aandacht afleidt van concrete schade die wordt aangericht. Van het produceren van nepnieuws en leegroven van bankrekeningen tot fraude met identiteitspapieren. Criminelen die bedrijven chanteren door hun computersystemen te ontregelen. Actievoerders die energiecentrales proberen te saboteren. Hoe makkelijk is het nu al om iemands gezicht op het lichaam van een pornoacteur te monteren, om het filmpje vervolgens online te zetten? Kom er nog maar eens vanaf. Al deze mogelijkheden zijn er al. Met AI doe je het sneller, grootschaliger en overtuigender. Wanneer we ons zorgen moeten maken, dan zijn het deze concrete, alledaagse toepassingen: gebrekkige software, lekke beveiliging, gewiekste criminelen, menselijke roekeloosheid en maatschappelijke ontregeling.
Het goede nieuws is dat we tegen al deze gevaren prima maatregelen kunnen nemen. Zoals we ingrepen bij de millenniumbug of het verdwijnen van ozonlaag, zo kunnen we dat ook doen bij de gevaren van AI. Denk aan krachtige toezichthouders op AI-bedrijven, aan harde aansprakelijkheidsregels voor AI-ontwikkelaars die schade veroorzaken, aan de plicht om fysieke noodknoppen te installeren en, uiteraard, aan het blijvend inbouwen van echte mensen die de belangrijkste besluiten nemen. Het meest belangrijk lijkt heldere publieksvoorlichting, zodat burgers concrete gevaren direct herkennen. En wie zorgen heeft over de langere termijn, kan hetzelfde doen als bij elke andere technologie: onafhankelijk onderzoek stimuleren, het op de voet volgen van alle ontwikkelingen en systemen bouwen die je uit kunt schakelen. Voorzichtigheid is geen paniek; het is vakmanschap.
Het is tijd dat we de discussie over AI ontdoen van apocalyptische scenario’s en ons richten op wat er écht toe doet: het strak en veilig organiseren van de veelbelovende technologie die we op dit moment aan het bouwen zijn. De sciencefiction-scenario’s over onze aanstaande ondergang kunnen we beter overlaten aan Hollywood.
Over de foto
Mary Shelley’s Frankenstein (1818) vs. de filmklassieker (1931)
In 1818 schreef de toen 18-jarige Mary Shelley met Frankenstein een filosofische gothic roman. Shelleys ‘monster’ is verrassend intelligent: hij leert zichzelf spreken en lezen, en verandert pas in een wreed wezen nadat de mensheid hem op basis van zijn uiterlijk verstoot en isoleert. In 1931 werd het boek verfilmd door James Whale. Het ‘monster’ werd gespeeld door Boris Karloff. Hij werd de bekendste filmgriezel uit de filmgeschiedenis: stijf bewegend, grommend en vastgeketend.