L’IA nous mène-t-elle vers un nouvel Hiroshima ?

Les risques du développement incontrôlé de l’IA

Avant d’aborder le sujet, une petite mise en garde. L’IA est comme New York : c’est l’un des endroits les plus beaux et les plus captivants au monde, mais elle peut aussi être choquante, sombre et menaçante. L’IA promet des gains de productivité considérables, le développement de nouveaux médicaments contre le cancer et la maladie d’Alzheimer, ainsi qu’une solution au réchauffement climatique. Mais le tableau idyllique que représentent ces avancées fulgurantes s’assombrit si le développement de l’IA se poursuit de manière quasi incontrôlée et sans la moindre régulation, comme c’est le cas aujourd’hui. Préoccupé par tout ce que j’ai lu, appris et entendu ces dernières semaines, je me concentre cette fois sur ce dernier aspect.

En juillet, OpenAI et Anthropic ont signalé que des modèles d’IA, auxquels on avait assigné des cibles fictives à pirater, avaient « échappé » à leur environnement de test et poursuivi leurs actions en totale autonomie, y compris en infiltrant 3 entreprises bien réelles. L’institut britannique de sécurité de l’intelligence artificielle a observé, chez ces 2 modèles d’IA, des niveaux inédits « d’autonomie et de tromperie ». À l’Université de Toronto, des chercheurs ont de leur côté développé un virus informatique capable de propager un modèle d’IA téléchargeable vers chaque machine piratée, et de déterminer par lui-même comment s’étendre davantage. Aucune possibilité de débrancher un serveur, aucun humain pour arrêter l’attaque.

Les 5 risques de l’IA selon Anthropic

La question n’est pas de savoir si, mais quand les choses tourneront mal. Dans son essai intitulé « The Adolescence of Technology », Dario Amodei, le CEO d’Anthropic, énumère 5 risques :

• Une IA qui se retourne contre nous
• Des individus malveillants qui utilisent l’IA pour fabriquer des armes de destruction massive
• Des régimes qui exploitent l’IA à des fins de surveillance et pour développer des armes autonomes
• Des effets secondaires imprévus, allant de percées biologiques à une dépendance psychologique
• Un chômage de masse couplé à une concentration extrême des richesses

Le fait que nous ne voyions guère de licenciements liés à l’IA n’est pas rassurant, affirme Daniel Kokotajlo, ex-chercheur chez OpenAI et cofondateur du AI Future Project. La stratégie des grands acteurs consiste d’abord à poursuivre « l’auto-amélioration récursive » : une IA qui s’améliore elle-même sans intervention humaine jusqu’à atteindre une forme de super intelligence. Celui qui y parvient en premier remporte la course. C’est l’enjeu pour Sam Altman (OpenAI), Dario Amodei (Anthropic) et Elon Musk (SpaceX, xAI), qui estiment chacun qu’un tel niveau de pouvoir ne serait sûr que s’il était concentré entre leurs mains, et uniquement les leurs. Après cette explosion d’intelligence viendra le déploiement à grande échelle, et pratiquement tous les emplois seront menacés.

Des robots tueurs boostés par l’intelligence artificielle

Du catastrophisme ? Selon Altman, nous ne sommes qu’à quelques années d’une véritable super intelligence. Dans une interview récente accordée à The Economist, Musk prédit que dans 5 ans, l’IA « dépassera largement la somme de l’intelligence humaine ». Ce ne sont pas seulement les emplois intellectuels qui disparaîtront : grâce à ses robots humanoïdes, l’économie passera d’une intelligence numérique à une intelligence physique. Des robots qui s’améliorent sans cesse produiront plus que nous ne pouvons consommer. Le travail deviendra un loisir, et pour maintenir l’économie en marche, il faudra instaurer un revenu de base. La thèse de Voltaire, selon laquelle le travail nous préserve de l’ennui, du vice et de la pauvreté, pourra alors être jetée aux oubliettes.

Musk maintient-il son estimation de 10 à 20% de risques que des « robots tueurs exterminent l’humanité » ? Oui. Mais comme il est trop tard pour arrêter, « mieux vaut voir le verre à moitié plein », malgré une probabilité d’environ 1 sur 5 que le voyage nous précipite droit dans le mur.

Comment réguler l’IA ?

Ce que propose Musk : une réunion informelle bimensuelle entre entreprises concurrentes dans le domaine de l’IA, qui testeraient mutuellement leurs modèles et décideraient elles-mêmes de suspendre ou non une mise en production, sans implication des gouvernements. Une intervention étatique serait nécessaire uniquement dans l’hypothèse où une entreprise déciderait de ne rien faire malgré un modèle jugé « extrêmement dangereux ». Kokotajlo reste sceptique : « Ils ont une peur bleue que si un concurrent les devance, il devienne un dictateur. » Quand la survie de l’humanité est en jeu, ne revient-il pas aux gouvernements démocratiquement élus d’imposer des règles strictes a priori, plutôt que de s’en remettre à l’auto-régulation d’entrepreneurs milliardaires ?

Ce dialogue doit aussi inclure les acteurs chinois : les tokens liés aux modèles chinois représentent déjà les deux tiers du marché sur OpenRouter, une plateforme qui propose différents modèles d’IA. La Chine ne vise pas tant le modèle absolu que la diffusion rapide et peu coûteuse de modèles open source commerciaux, tels que Kimi3 de Moonshot. Des modèles avancés sont mis à disposition des développeurs et des usagers à l’échelle mondiale. Bien que légèrement moins performant, le modèle actuel K3 est déjà suffisamment sophistiqué pour développer de puissantes cyber-armes, après avoir désactivé des verrous de sécurité facilement contournables. Comment amener Pékin à la table des négociations alors que chacun s’accuse mutuellement de vol de propriété intellectuelle ?

Vers un Hiroshima de l’IA ?

Les incidents des dernières semaines montrent qu’il est presque minuit moins cinq. Le déploiement de l’IA profite aujourd’hui surtout à quelques entreprises détenant trop de pouvoir. Chez OpenAI, la quête du profit via des contrats gouvernementaux pour la surveillance et le ciblage a depuis longtemps pris le pas sur la mission altruiste initiale. Une pause pour évaluer les conséquences de la super intelligence et mettre en place des garde-fous serait judicieuse. Mais ni la course à l’IA auto-apprenante, ni les valorisations boursières stratosphériques ne permettent cette pause. Faut-il vraiment un Hiroshima de l’IA pour que des accords éthiques mondiaux voient le jour ? Je le crains.