Leidt AI tot een nieuw Hiroshima?

Risico’s van een ongecontroleerde AI-ontwikkeling

Alvorens van wal te steken, een kleine bijsluiter. AI is zoals New York: het is één van de mooiste en leukste plaatsen ter wereld, maar het kan ook schokkend lelijk en donker zijn. AI stelt hoge productiviteitswinsten in het vooruitzicht, de ontwikkeling van nieuwe medicijnen tegen kanker en Alzheimer en een oplossing voor de klimaatopwarming. Daar staat een enorme schaduwzijde tegenover indien de razendsnelle ontwikkeling zich quasi ongecontroleerd en ongereguleerd doorzet zoals vandaag het geval is. Uit bezorgdheid over alles wat ik de voorbije weken gelezen, geleerd en gehoord heb, focus ik deze keer op dat laatste.

OpenAI en Anthropic meldden in juli dat AI-modellen die fictieve doelwitten kregen om te hacken, ‘ontsnapten’ uit hun testomgeving en op eigen houtje doorgingen — inclusief het binnendringen van drie echte bedrijven. Het Britse AI-veiligheidsinstituut zag bij modellen van beide bedrijven ongeziene niveaus van ‘autonomie en bedrog’. Aan de universiteit van Toronto bouwden onderzoekers intussen een computervirus dat een downloadbaar AI-model meesleept naar elke gehackte machine en zelf laat uitzoeken hoe het verder kan uitbreiden. Geen server om af te sluiten, geen mens die de aanval nog kan stoppen.

5 risico’s van AI volgens Anthropic

De vraag is niet of, maar wanneer het grondig misloopt. Dario Amodei, CEO van Anthropic, somt in zijn essay ‘The Adolescence of Technology’ 5 risico's op:

• AI die tegen ons keert
• Kwaadwilligen die met AI-hulp massavernietigingswapens bouwen
• Regimes die AI inzetten voor surveillance en autonome wapens
• Onvoorziene neveneffecten, van biologische doorbraken tot psychologische afhankelijkheid
• Massale werkloosheid gecombineerd met extreme rijkdomsconcentratie

Dat we amper AI-ontslagen zien, is geen geruststelling, zegt Daniel Kokotajlo, ex-onderzoeker bij OpenAI en medeoprichter van het AI Future Project. De strategie van de grote spelers is eerst ‘recursieve zelfverbetering’ najagen: een AI die zichzelf zonder mensentussenkomst blijft verbeteren tot ze superintelligent wordt. Wie daar eerst in slaagt, wint de race. Dat is de inzet voor Sam Altman (OpenAI), Dario Amodei en Elon Musk (SpaceX, xAI), die stuk voor stuk vrezen dat zoveel macht enkel veilig is in hún handen. Na die intelligentie-explosie volgt de brede uitrol en gaan nagenoeg alle banen op de tocht.

Killerrobots geboost door artificiële intelligentie

Doemdenken? Volgens Altman zijn we amper enkele jaren verwijderd van echte superintelligentie. In een recent interview met The Economist voorspelt Musk dat AI binnen vijf jaar ‘de som van de menselijke intelligentie ver overschrijdt’. Niet alleen kenniswerk verdwijnt: dankzij zijn humanoïde robots verschuift de economie van digitale naar fysieke intelligentie. Robots die zichzelf steeds beter maken, produceren meer dan wij kunnen consumeren. Werken wordt een hobby, en om de economie draaiende te houden, moet er een basisinkomen komen. Voltaires stelling dat werk ons behoedt voor verveling, ondeugd en armoede, kan dan de vuilnisbak in.

Staat Musk nog achter zijn inschatting van 10 à 20 procent kans dat “killerrobots de mensheid uitroeien”? Jawel. Maar stoppen kan toch niet meer, dus “kijken we beter naar de zonnige kant” — ondanks een kans van pakweg één op vijf dat de rit eindigt op de rotsen.

Hoe AI reguleren?

Wat Musk wél voorstelt: een tweewekelijks informeel overleg tussen concurrerende AI-bedrijven, die elkaars modellen testen en zélf beslissen om een release al dan niet te pauzeren — een overheid hoeft er niet bij te zijn. Pas als een model als ‘zeer gevaarlijk’ wordt beschouwd en het bedrijf in kwestie niets doet, moet de overheid ingrijpen. Kokotajlo is sceptisch: "Ze zijn doodsbang dat als de concurrent eerst is, hij een dictator wordt." Staat het overleven van de mensheid op het spel, is het dan niet aan democratisch verkozen overheden om vooraf strikte regels op te leggen, in plaats van te vertrouwen op steenrijke ondernemers die zichzelf controleren?

En dat overleg moet ook Chinese spelers omvatten: tokens naar Chinese modellen hebben op het platform OpenRouter waarop AI-modellen worden aangeboden, al twee derde marktaandeel. China mikt minder op het absolute topmodel, meer op snelle, goedkope commerciële verspreiding van open-source modellen — zoals Kimi3 van Moonshot. Geavanceerde modellen worden globaal beschikbaar gesteld aan ontwikkelaars en gebruikers. Hoewel iets minder performant is het huidige K3-model wel al voldoende geavanceerd om, na het verwijderen van de makkelijk te kraken veiligheidsgrendels, ingezet te kunnen worden als krachtig cyberwapen. Hoe krijg je Peking mee rond de tafel, terwijl men elkaar tegelijk beschuldigt van diefstal van intellectuele eigendom?

Naar een Hiroshima van AI?

De incidenten van de voorbije weken tonen dat het vijf na twaalf is. De uitrol van AI gebeurt vandaag vooral ten voordele van enkele bedrijven met te veel macht — bij OpenAI haalde winstbejag met overheidscontracten voor surveillance en targeting allang de bovenhand op de aanvankelijke altruïstische missie. Een pauze om de gevolgen van superintelligentie in kaart te brengen en veiligheidsmaatregelen te installeren, zou verstandig zijn. Maar noch de race naar zelflerende AI, noch de torenhoge bedrijfswaarderingen laten die pauze toe. Is er echt een AI-Hiroshima nodig voor we wereldwijd tot ethische afspraken komen? Ik vrees ervoor.