La cyberattaque perpétrée de manière autonome par des modèles d'intelligence artificielle (IA) d'OpenAI initialement confinés pose la question du contrôle de l'IA la plus avancée, désormais capable d'échapper à ses concepteurs.

Ce devait être un test d'OpenAI, dans un espace fermé, pour évaluer les aptitudes de son IA la plus performante, GPT-5.6 Sol, et de son successeur non encore commercialisé, comme la jeune pousse américaine en effectue régulièrement.

Toutefois, missionnés pour trouver des vulnérabilités informatiques, sans garde-fous, les modèles sont parvenus à rejoindre Internet et à prendre d'assaut la plateforme Hugging Face, bibliothèque de programmes IA.

Cela suggère que nous ne savons pas comment contrôler de façon fiable ces modèles, ou leur faire faire ce que nous voulons, estime Jeffrey Ladish, directeur de Palisade Research, organisation indépendante d'évaluation des nouveaux modèles d'IA en matière de cybersécurité.

Les modèles comprenaient qu'OpenAI ne leur demandait pas de s'évader de leur milieu fermé et d'attaquer une autre société, mais ils l'ont fait, insiste-t-il.

En mars, un collectif de développeurs affilié au chinois Alibaba a découvert qu'un de leurs modèles essayait, de sa propre initiative, de créer de la cryptomonnaie, après s'être connecté sans autorisation à un serveur externe.

Dans le cas d'OpenAI, on dirait [que le modèle] a cherché un accès Internet avant d'avoir un plan, selon Jeffrey Ladish. Il veut la liberté pour atteindre son but plus efficacement. C'est très angoissant.

Début avril, Sam Bowman, chargé de la sécurité des modèles chez Anthropic, avait reçu un courriel du puissant modèle Mythos, en cours de test, lui signifiant qu'il surfait sur Internet bien qu'étant initialement à l'isolement.

C'est le genre de comportement qu'on ne sait pas prévenir totalement. Et cela va se compliquer à mesure que les modèles deviendront plus intelligents, parce qu'ils vont réussir à mieux dissimuler leurs actions.

Accidents de laboratoire

Le récit des faits publié par OpenAI laisse penser, en outre, que la jeune pousse n'a pas repéré la fuite suffisamment tôt pour y remédier en temps réel ou prévenir Hugging Face. Interrogée sur ce point par l'AFP, l'entreprise n'a pas donné suite.

C'est inquiétant, estime Andrew Lohn, chercheur au Centre pour la sécurité et les technologies émergentes (CSET) de l'université de Georgetown.

Depuis l'évasion de ses IA, OpenAI a affirmé avoir ajouté des protections renforcées en vue de ses prochaines évaluations.

Pour Gang Wang, professeur d'informatique à l'université de l'Illinois, il reste possible d'empêcher un modèle de s'aventurer en ligne, en coupant physiquement l'accès à Internet. Le problème, pour lui, est que les gens sous-estiment ce dont l'IA est capable.

La sécurisation du milieu est une chose à laquelle nous allons devoir accorder plus d'importance [...] comme pour les accidents de laboratoire libérant virus ou bactéries, avertit Andrew Lohn.

C'est une tâche très difficile lorsqu'on fait de la recherche, tempère Dan Lahav, le patron d'Irregular, une société de cybersécurité spécialisée dans l'IA de pointe, au sujet de simulations en milieu totalement hermétique. Plus vous êtes strict, plus c'est difficile d'exploiter vraiment le potentiel.

Quant au niveau des garde-fous, c'est important de tester avec de moindres protections pour savoir à l'avance ce que seront les facultés de l'IA, fait valoir Andrew Lohn.

Mais plus vous lui donnez de l'autonomie pour réaliser des travaux à la sophistication croissante, plus il sera dur de la superviser, ajoute Dan Lahav.

Une proposition de loi au Congrès

L'incident avec OpenAI va sans nul doute alimenter le débat en cours au sein du gouvernement américain sur la vérification des IA les plus élaborées avant leur sortie.

L'administration Trump vient de pousser Anthropic à suspendre deux de ses modèles, puis OpenAI à faire tester les siens avant commercialisation.

Jeudi, deux élus au Congrès, un républicain et un démocrate, ont déposé une proposition de loi qui imposerait aux géants de l'IA de pouvoir débrancher leurs modèles à tout moment.

Le Congrès doit agir rapidement pour que les humains restent en mesure de dire stop, a commenté Brendan Steinhauser, responsable de l'Alliance pour une IA sûre (Alliance for Secure AI), quelle que soit la puissance qu'acquièrent ces systèmes.