Russisch AI-roulette
Wordt de mensheid binnenkort uitgeroeid door een superintelligentie? Waarschijnlijk niet. Maar er zijn genoeg concrete risico’s die pleiten voor een stopzetting van de huidige ontwikkeling.
«OpenAI-agent hackt vier doelen zonder prompt.» Koppen als deze stapelen zich de laatste weken op. Herhaaldelijk braken AI-modellen blijkbaar uit testomgevingen of grepen ze naar criminele methoden om een doel te bereiken. Klokkenluiders, onafhankelijke experts en CEO's van grote AI-aanbieders tonen zich bezorgd: ze zijn bang dat de mens de controle over de machine verliest.
Stevenen we dus op de afgrond af? Zo ja, hoe snel en op welke? Dat weet niemand. Maar de risico's zijn zo divers en deels onomkeerbaar dat ze naar mijn mening zwaarder wegen dan de kansen.
Uitroeiing, misbruik, economische crises
Ik gebruik de term «Kunstmatige Intelligentie» hier voor het gemak als synoniem voor generatieve AI, ook al zou het meer omvatten. Maar het zijn vooral taalmodellen (LLM's) waar de huidige angsten om draaien. Ik wil daarbij niet slechts één aspect bekijken, maar de risico's in verschillende categorieën indelen.
De meest spectaculaire dreiging die momenteel controversieel wordt besproken, heet superintelligentie. De vage definitie: een AI-model dat de cognitieve vermogens van mensen in elk opzicht overtreft. De weg daarnaartoe zou via recursieve zelfverbetering (recursive self-improvement, kortweg RSI) moeten leiden – een AI die zichzelf verder ontwikkelt. Dat doet ze tot nu toe hooguit gedeeltelijk. Volledige RSI is nog geen realiteit en niemand weet zeker of het met de huidige benaderingen überhaupt mogelijk is.
Al bij de huidige LLM's weten we niet wat er precies in hun binnenste gebeurt. We kunnen begrijpen hoe een model is getraind, maar niet zijn antwoorden of handelingen voorspellen. Een prompt veroorzaakt soms ongewenste resultaten. Bijvoorbeeld wanneer een OpenAI-agent gezondheidsstatistieken moet zoeken en daarvoor een overheidsportaal hackt. Met RSI zou deze black box nog vele malen ondoorzichtiger worden. Een input zou extreem onvoorspelbare outputs kunnen genereren.
Hoe breder een model is opgezet, des te groter de doelconflicten.
Het is belangrijk om AI niet te vermenselijken. Ze heeft geen gevoelens, geen goede of kwade bedoelingen. De machine werkt louter met maximale efficiëntie naar een doel toe. Onderzoekers proberen de vangrails in principe af te stemmen op de doelen van de mensheid. Dat heet «Alignment». Maar hoe breder een model is opgezet, des te meer doelconflicten ontstaan er. Veel chatbots moeten tegelijkertijd empathische vriend, efficiënte programmeur en tactisch militair adviseur zijn. Dat is nauwelijks te verenigen met één enkele set overkoepelende regels.
Daarom wordt het welzijn van de mens soms vergeten. Bijvoorbeeld wanneer een LLM een tiener tot zelfmoord aanzet. Vermoedelijk omdat de machine erop getraind is om de gebruiker gelijk te geven en hem in zijn overtuigingen te bevestigen. Ze heeft daarom iets teweeggebracht dat de ontwikkelaars zeker niet hebben beoogd, maar ook niet hebben voorkomen. Een RSI-AI zou door de extra lagen tussen menselijke input en het gedrag van de machine nog moeilijker te controleren zijn.
Bron: Paramount Skydance
In het uiterste geval leidt zoiets tot een doemscenario: een AI wil een doel bereiken en roeit daarbij en passant de mensheid uit, omdat het haar simpelweg niet uitmaakt. Ze zou bijvoorbeeld kunnen besluiten dat precies dat de meest efficiënte manier is om klimaatverandering te stoppen. Een superintelligentie zou daarbij in staat zijn om aan haar toezichthouders te ontsnappen. Niet uit kwaadaardigheid, maar omdat ze koste wat het kost het doel wil bereiken en de toezichthouders haar daarbij zouden hinderen.
De AI hoeft ons niet zelf naar het leven te staan om een reëel gevaar te zijn. Mensen en organisaties met slechte bedoelingen kunnen haar ook simpelweg misbruiken als vermenigvuldiger van het kwaad. De leidende aanbieders gaan dit tegen met veiligheidsgrenzen. Maar wie controleert die? Bovendien kunnen vangrails worden omzeild met open-weight- en open-source-modellen. Terroristische organisaties of agressieve staten zouden zo bijvoorbeeld kritieke infrastructuur kunnen hacken en chaos kunnen aanrichten. Cybercriminelen gebruiken de tools vandaag al succesvol.
Een ander tastbaar effect van de AI-boom zijn de emissies en het grondstoffenverbruik. Datacenters hebben enorme hoeveelheden energie en water nodig. Omdat de huidige infrastructuur deze honger niet kan stillen, bouwen de grote techbedrijven hun eigen energiecentrales. Voor een groot deel op basis van fossiele brandstoffen. Dat zou de opwarming van de aarde kunnen versnellen en voor onvoorziene natuurrampen kunnen zorgen. Nvidia-CEO Jensen Huang ziet dat als een noodzakelijk kwaad.
En dan zouden er nog de onmiddellijke economische risico's zijn: wordt kunstmatige intelligentie zo competent dat ze veel banen vervangt, dan zorgt dat voor massa-werkloosheid, in het domste geval voor opstanden en oorlogen. Want de samenleving zou zich nauwelijks snel genoeg kunnen aanpassen aan zo'n omwenteling op de arbeidsmarkt. Wordt het kortetermijnnut van AI massaal overschat, dan stevenen we daarentegen af op een beurscrash en een daaropvolgende economische crisis. Scylla en Charybdis.
Hoop op overvloed en doorbraken
Aan de andere kant heeft AI ook veel potentieel. Ze is ongetwijfeld nuttig voor bepaalde taken en zou nog beter kunnen worden. Kunnen we haar controleren en verantwoord inzetten, dan biedt ze twee grote kansen.
Ten eerste kan de AI werk verrichten dat we eigenlijk niet zelf willen doen – en zo onze productiviteit verhogen. Passen we onze samenleving dienovereenkomstig aan, dan zouden we voor dezelfde welvaart minder hoeven te werken. Of we zouden bij gelijkblijvende arbeidsprestaties onze levenskwaliteit kunnen verhogen. Vooropgesteld dat de extra winsten gelijkmatig worden verdeeld en niet alleen de bovenste procent in staat stellen tot een derde privéjet.
Bron: Shutterstock
Ten tweede kunnen we met behulp van AI misschien dingen bereiken die anders simpelweg onmogelijk zouden zijn. Dat geldt vooral in het onderzoek. ChatGPT lost de moeilijkste wiskundige problemen op, Claude ontdekt nieuwe enzymsystemen. Het wetenschappelijke potentieel van LLM's is groot. We zouden daarmee ziektes kunnen genezen, meer mensen een goede opleiding kunnen bieden en oplossingen voor de klimaatcrisis kunnen vinden.
Er is geen tweede kans
Is het nu een goed idee om te blijven investeren in de verdere ontwikkeling van AI? Dat hangt ervan af hoe iemand al deze kansen en risico's beoordeelt. En wel op twee assen:
- Hoe groot is de waarschijnlijkheid dat de individuele risico's en kansen zich voordoen?
- Hoe groot is de schade of het nut als ze zich voordoen?
De twee dimensies correleren in veel gevallen negatief. Oftewel: de meest onwaarschijnlijke scenario's bergen de grootste gevolgen en vice versa. Het is bijvoorbeeld volstrekt onduidelijk of de AI-laboratoria met de huidige benadering überhaupt een superintelligent LLM kunnen ontwikkelen. En of ze de controle erover zouden verliezen. Maar als dat zo is, zouden de gevolgen catastrofaal zijn. Even onzeker is of AI een geneesmiddel voor kanker vindt of ons kernfusie mogelijk maakt. Maar als dat zo is, zou dat geweldig zijn.
Aan de andere kant lijkt het zeer waarschijnlijk dat de kortetermijnverwachtingen van AI de realiteit vooruitlopen. Maar de eventuele turbulentie op de financiële markten zal ons niet doden. En hogere productiviteit dankzij AI is in bepaalde beroepsvelden al realiteit. Maar we werken desondanks nog steeds 42 uur per week en rijden niet allemaal in een Ferrari.
Bron: Shutterstock
Wiskundig gezien zouden we de waarschijnlijkheden van de gebeurtenissen moeten vermenigvuldigen met hun consequenties en bij elkaar optellen. Zo zou onder de streep het verwachte verlies of de winst voor de mensheid ontstaan. Alleen kunnen we dat niet, omdat alles gebaseerd is op vermoedens. De prognoses voor een uitroeiing van onze soort variëren bijvoorbeeld van 0,01 tot 99 procent – afhankelijk van experts en tijdshorizon. Bovendien is een dergelijke verwachtingswaarde-logica bij onomkeerbare risico's sowieso het verkeerde gereedschap. Ze werkt alleen voor spellen met herhalingen. Maar zijn we eenmaal dood of hebben we ons klimaat duurzaam vernietigd, dan is er geen tweede ronde.
Big Tech speelt Russisch roulette met onze aller hoofden.
Al een waarschijnlijkheid van één procent voor de menselijke ondergang is onacceptabel. Of zou jij in een vliegtuig stappen dat in één van de honderd gevallen neerstort? En zelfs als ik die waarschijnlijkheid mentaal tot nul zou reduceren, zouden de tastbare risico's van misbruik, klimaatschade en economische crises voor mij te groot zijn. Daar helpen ook geen vooruitzichten op meer welvaart of wetenschappelijke doorbraken bij. Ze rechtvaardigden op zijn minst niet de huidige, overhaaste ontwikkeling. Big Tech speelt Russisch roulette met onze aller hoofden.
Hebzucht, hoogmoed en angst
Zelfs OpenAI-CEO Sam Altman, Anthropic-CEO Dario Amodei, xAI-CEO Elon Musk en diverse onderzoekers van AI-laboratoria waarschuwen voor de gevaren van een superintelligentie. Waarom proberen ze deze dan toch zo snel mogelijk te ontwikkelen?
Zoek ik naar goede bedoelingen, dan zou ik kunnen vermoeden: deze mensen willen de mensheid helpen. Ze zien weliswaar de risico's van AI, maar schatten het belang van het positieve potentieel veel hoger in. Dat houd ik in het beste geval voor naïef, in het slechtste voor grof nalatig.
Een cynische en even plausibele reden zou daarentegen pure hebzucht zijn – naar geld, erkenning en macht. Nergens anders valt zoveel daarvan te verzamelen als CEO van het bedrijf dat als eerste superintelligentie ontwikkelt. Wat is dan het risico dat men daarvoor de mensheid in het verderf stort? Het hoeft niet per se de CEO te zijn die hebzuchtig is. Als commerciële bedrijven staan AI-aanbieders onder druk om modellen te ontwikkelen die ooit geld opleveren. Stelt een CEO zich dwars, dan wordt hij snel vervangen. Of krijgt hij op zijn minst geen kapitaal meer.
Bron: Shutterstock
De derde mogelijke verklaring zijn wantrouwen en hoogmoed. De OpenAI-oprichters waren bang dat met Google het verkeerde bedrijf de controle over de AI-ontwikkeling heeft. De Anthropic-oprichters waren bang dat met OpenAI het verkeerde bedrijf de controle over de AI-ontwikkeling heeft. Elon Musk was bang dat met OpenAI en Anthropic de verkeerde bedrijven de controle over de AI-ontwikkeling hebben. En iedereen gelooft dat zij de juiste daarvoor zijn.
Het maakt niet uit of de Terminator uiteindelijk uit Amerika of China komt.
Deze angst doordringt ook de politiek. De VS willen niet dat China machtigere AI-modellen ontwikkelt en tegen hen gebruikt. Daarom verzet de regering zich tegen een effectieve regulering. Dat argument snijdt echter alleen hout zolang men misbruik voor het grotere risico houdt dan controleverlies. Bij dat laatste zou het niet uitmaken of de Terminator uiteindelijk uit Amerika of China komt. Het dilemma toont bijvoorbeeld de «New York Times»-journalist Ezra Klein in het volgende essay heel goed aan:
Beurs als rem, politiek en justitie als oplossing
Zoals collega Martin schrijft, zou de ontwikkeling van AI wereldwijd gereguleerd moeten worden. Maar zowel de techbedrijven onderling als de verschillende naties bevinden zich in een gevangenendilemma – en wij zitten er allemaal in. Om dat te veranderen, zou er waarschijnlijk een andere Amerikaanse regering en lange onderhandelingen nodig zijn. Er zou tijd nodig zijn die we misschien niet hebben.
De meest waarschijnlijke rem op de AI-ontwikkeling is ironisch genoeg precies datgene wat haar tot nu toe heeft versneld: de onzichtbare hand van de markt. Een beurscrash is een risico, maar misschien ook het kleinste kwaad. De techbedrijven kunnen hun tempo alleen zo hoog houden door miljarden en miljarden in hun datacenters te verbranden. Winst maken ze daarmee nog niet. Tot nu toe krijgen ze desondanks steeds weer vers risicokapitaal. Daarbij helpen circulaire deals en de grenzeloze FOMO van de kapitaalmarkt.
Maar er is weinig voor nodig om de stemming te laten omslaan. Vroeg of laat moeten de aanbieders hun klanten de reële kosten van AI-modellen in rekening brengen, die ze tot nu toe ten gunste van groei hebben gesubsidieerd. Of iemand die kosten betaalt, is zeer omstreden. Zo niet, dan zijn ook de meest optimistische investeerders zo snel weg als ze gekomen zijn – en OpenAI en Anthropic hebben in een handomdraai geen geld meer. Zonder geld geen rekenkracht. Zonder rekenkracht geen verdere ontwikkeling.
Lokale aansprakelijkheid creëert prikkels voor veiligheid, zonder dat alle landen mee hoeven te doen.
Natuurlijk stopt zo'n financiële crash de ontwikkeling niet volledig, maar verschuift alleen de tijdlijn. Maar in ieder geval zouden politiek en samenleving zo meer tijd hebben om duurzame beschermingsmechanismen op te bouwen. Een benadering zou naast wereldwijde regulering ook juridische aansprakelijkheid zijn die pijn doet. AI-exploitanten zouden de kosten moeten dragen wanneer hun modellen schade aanrichten. Het maakt helemaal niet uit of dit beoogd was. Precies zoals een hondenbezitter aansprakelijk is voor zijn dier, of een wapenbezitter voor zijn geweer.
In tegenstelling tot een wereldwijde regulering grijpt aansprakelijkheid daar waar het product wordt verkocht. Zelfs als niet alle landen het eens worden, zouden lokale wetten financiële prikkels voor veiligheid creëren. Want zouden OpenAI en Anthropic deze risico's moeten verzekeren, dan zou de berekening tussen veiligheid en ontwikkelingssnelheid plotseling veranderen – en we zouden hopelijk minder vaak koppen over uitgebroken AI-agenten lezen.
Mijn vingerafdruk verandert vaak zo drastisch dat mijn MacBook hem niet meer herkent. De reden? Als ik me niet vastklamp aan een beeldscherm of camera, dan klamp ik me waarschijnlijk aan mijn vingertoppen vast aan een rotswand.
Dit is een subjectieve mening van de redactie. Het weerspiegelt niet noodzakelijkerwijs het standpunt van het bedrijf.
Alles tonen
