Alors que les craintes d’une perte de contrôle face à l’intelligence artificielle (IA) se multiplient, le Conseil de sécurité de l’Organisation des Nations unies (ONU) a invité les dirigeants des plus grandes entreprises du secteur, ainsi que le chercheur québécois Yoshua Bengio, à s'exprimer. Comparant la situation actuelle à « une auto qui fonce à toute allure dans un épais brouillard », M. Bengio a été clair : « Notre futur est en jeu. »

Aujourd’hui, un tout petit nombre d’entreprises et de pays agissent au nom de leurs intérêts égoïstes en prenant des risques irresponsables concernant le destin de l’humanité. C’est alarmant, mais ce n’est pas inévitable; il y a des moyens d'y remédier, a déclaré le chercheur québécois.

Plusieurs entrepreneurs, dont Mark Zuckerberg (Meta) et Demis Hassabis (Google), s’opposent à tout ralentissement de l’IA, tout comme les dirigeants de la Chine et des États-Unis, qui ont toutefois évoqué la mise en place d'un « mécanisme de dialogue ».

M. Bengio, qui a fondé LoiZéro, une organisation qui cherche à développer une IA sécuritaire, croit que trois mécanismes doivent être mis en place rapidement :

• Développer un système de signalement des incidents commun et transparent;
• Passer d’une concentration du pouvoir en IA à un véritable dialogue mondial;
• Développer des solutions techniques rendant l’IA sûre dès la conception.

Notre futur est en jeu. Les décisions qui nous concernent tous devraient être prises par tous, a martelé Yoshua Bengio.

Ce dernier a appelé les dirigeants à ne pas se satisfaire des réponses des grandes entreprises comme OpenAI ou Anthropic, ou encore des États comme les États-Unis ou la Chine, qui invoquent le fait qu’ils sont pris dans une course. C’est une course où chacun est perdant, a-t-il indiqué.

Intervenant lui aussi devant le Conseil de sécurité, le directeur d’Anthropic, Dario Amodei, a promis que son entreprise va ralentir autant que nécessaire le rythme de développement de son intelligence artificielle pour s'assurer que chaque nouveau modèle commercialisé est vraiment sûr.

Parmi les solutions mises en avant, M. Amodei a évoqué le déploiement d'évaluateurs externes dans les entreprises du secteur, un peu comme pour l’inspection des aliments. Il a aussi insisté sur l’importance de la coopération entre États.

Les pièges de l'optimisme et du catastrophisme

De son côté, le PDG d’OpenAI s’est montré moins inquiet que ses collègues, bien qu'en faveur d'une coopération internationale. Nous ne voulons pas tomber dans le piège de l'optimisme aveugle, a fait valoir Sam Altman, mais nous ne pouvons pas céder non plus au catastrophisme. [..] Donc, nous allons faire de notre mieux pour trouver un juste milieu.

Sam Altman, PDG d'OpenAI, s'exprime lors d'une réunion du Conseil de sécurité des Nations unies consacrée à l'intelligence artificielle, en marge de la 81e session de l'Assemblée générale des Nations unies, au siège de l'ONU à New York, le 23 septembre 2026.

Photo : Getty Images / AFP / ANGELA WEISS

Selon lui, nous sommes face à un choix : l’IA peut être soit comme une nouvelle Renaissance, faite de créativité ou de découvertes, soit comme une nouvelle Révolution industrielle, faite de troubles et de perturbations.

De son côté, Clément Delangue, le patron de Hugging Face, a affirmé que le plus grand risque est l'asymétrie entre ceux qui auront une IA superperformante et ceux qui n’y auront pas accès.

Cet été, Hugging Face a été piratée par des agents IA d’OpenAI qui s'étaient échappés de leur laboratoire et avaient comploté pour tenter de cacher leur méfait. Cet incident a alerté le monde sur les dangers de l’IA.

Le patron d’Hugging Face a raconté que, lors de l’intrusion des agents d’OpenAI, ses outils de sécurité et d'analyse habituels étaient inopérants, car incapables de faire la différence entre qui attaquait et qui se défendait. L’entreprise a finalement utilisé une IA chinoise (GLM 5.2), qui fonctionne en mode open source, pour analyser les fichiers malveillants.

C'est rare que de grandes entreprises privées demandent qu'on les contrôle davantage, remarque Joé T. Martineau, professeure d'éthique organisationnelle à HEC Montréal. Actuellement, elles s'autorégulent et divulguent ce qu'elles veulent bien divulguer.

Joé T.Martineau, professeure d'éthique organisationnelle à HEC Montréal

Photo : Radio-Canada

Parmi les principaux risques évoqués à l'ONU, il y a la possibilité d'une trop grande concentration des pouvoirs, mais aussi le fait que la technologie pourrait favoriser l'essor du terrorisme bactériologique, a souligné Mme Martineau à l'émission Zone économie.

Le risque d'une perte de contrôle face à des IA superintelligentes et capables de s'améliorer sans l'humain a également été évoqué.

Initiatives étatiques

Lundi, les dirigeants de plus de 20 pays, dont le Canada, l'Allemagne et l'Australie, ont plaidé pour davantage de supervision et la possible création, sous l'égide de l'ONU, d'un organe international de régulation.

Mardi, le premier ministre britannique, Andy Burnham, a dit vouloir mettre en œuvre l'élaboration de standards de sécurité de l'IA sous l'égide du G20 en 2027.

Les efforts diplomatiques d'harmonisation pourraient néanmoins se heurter rapidement à la posture des États-Unis, qui sont opposés à toute forme de supervision supranationale.

Travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge, a néanmoins proposé le ministre français des Affaires étrangères Jean-Noël Barrot lors de la réunion du Conseil de sécurité, mercredi.

Avec les informations de Agence France-Presse