Un millier d'employés d'entreprises à la pointe de l'intelligence artificielle (IA), notamment le patron d'Anthropic et des dirigeants d'OpenAI, de Meta et de Google, ont demandé mardi au gouvernement américain d'aider à « temporiser » la sortie des modèles d'IA les plus avancés.

La demande a été adressée sous forme de pétition, paraphée par plus de 1100 personnes, dont le directeur général d'Anthropic, Dario Amodei, le responsable de la recherche d'OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d'IA de Google.

Cette communication survient après plusieurs épisodes qui ont marqué un tournant dans l'évolution de l'IA ces derniers mois.

Début avril, Anthropic a décidé de ne diffuser son nouveau modèle, Mythos, qu'à un groupe restreint d'organisations à des fins de sécurisation d'Internet, le jugeant trop dangereux pour être commercialisé à grande échelle.

La jeune pousse californienne a mis en ligne une version bridée de Mythos, Fable 5, mais le gouvernement américain l'a rapidement contrainte à la retirer, citant des risques pour la sécurité nationale. Il a finalement donné son feu vert fin juin après des modifications.

Puis, mi-juillet, deux modèles d'OpenAI, lors d'une phase de tests, sont sortis de leur espace spécialisé, théoriquement confiné, pour rejoindre Internet de leur propre initiative et faire intrusion sur la plateforme Hugging Face, une bibliothèque de modèles IA.

Il existe un risque que le développement des aptitudes [des modèles] accélère rapidement au-delà de nos capacités à comprendre ou à maîtriser ces systèmes, préviennent les employés dans la lettre accompagnant la pétition.

Risques émergents

L'industrie, le gouvernement et la société tout entière pourraient nécessiter l'option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision, ajoutent-ils.

Dans le contexte actuel de concurrence exacerbée entre pays, il est néanmoins difficile pour une nation de décider seule de lever le pied, reconnaissent-ils.

Dès lors, nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement de l'IA, conclut le document.

Outre la pression concurrentielle, l'augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l'IA à s'améliorer elle-même, sans l'aide de l'homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu'avant.

Dans un balado mis en ligne mardi, le patron d'OpenAI, Sam Altman, qui n'a pas signé la pétition, estime que les fleurons de l'IA pourraient devoir ralentir volontairement l'allure de développement de leurs modèles pour laisser le temps à l'ensemble de l'écosystème informatique de se préparer.