Le patron de la plateforme Hugging Face, laquelle a été victime d'une cyberattaque autonome de la part de deux modèles d'intelligence artificielle (IA) d'OpenAI, a estimé vendredi que les entreprises à l'origine de ces IA devaient pouvoir être poursuivies pour ces intrusions.

À la mi-juillet, deux modèles d'OpenAI sont sortis, de leur propre initiative lors d'une phase de tests, de leur milieu confiné pour s'aventurer sur Internet, où ils ont attaqué Hugging Face, site de référencement d'IA.

Il apparaît qu'OpenAI ne s'est rendu compte de l'incident qu'après sa conclusion, Hugging Face parvenant à circonscrire l'intrusion grâce à un modèle chinois.

Interrogé vendredi par la chaîne CNN, Clément Delangue, patron de la jeune entreprise franco-américaine, a écarté l'éventualité d'une procédure judiciaire contre OpenAI.

Nous sommes une petite start-up de 200 personnes et nous n'avons ni les moyens financiers ni le temps de chercher à obtenir réparation devant les tribunaux, a déclaré le patron d'Hugging Face.

Mais nous devons nous assurer que ces faits sont considérés comme illégaux, a-t-il ajouté.

Il faut se rappeler qu'une cyberattaque est une infraction, que c'est illégal.

Hugging Face permet à des développeurs en intelligence artificielle d'échanger des modèles et des bases de données d'entraînement, notamment.

Photo : Capture d'écran / Hugging Face

Quelle responsabilité pour des IA autonomes?

Si une entreprise peut théoriquement être déclarée responsable des agissements de son IA en autonomie, aucune condamnation n'a encore été prononcée dans ce domaine.

Selon des juristes, des victimes pourraient faire valoir la négligence dans la conception du produit ou une faute délibérée, c'est-à-dire le fait d'ignorer des risques connus.

De l'avis de Clément Delangue, il faut que les sociétés qui ont commis des erreurs ayant mené à ça [des cyberattaques autonomes] puissent être tenues pour responsables.

Nous ne voulons pas que ces cyberattaques sur d'autres entreprises soient normalisées, a-t-il fait valoir.

Le patron d'Hugging Face a précisé que sa jeune pousse et OpenAI avaient actuellement de bons échanges et a qualifié le créateur de ChatGPT de bon partenaire.

Ils ont réalisé que c'était un événement totalement sans précédent. C'est le premier incident de [cyber]sécurité qui a provoqué chez moi une réaction viscérale, a reconnu le patron d'OpenAI, Sam Altman, lors d'un entretien au balado Invest Like the Best, mis en ligne mardi. Et je suis un peu surpris que cela n'ait pas eu le même effet chez davantage de gens.

Clément Delangue a aussi mentionné Anthropic, qui a révélé jeudi que trois de ses modèles avaient fait intrusion sur trois sites différents, également lors de tests.