OpenAI n’a pas respecté les lois sur la protection des renseignements personnels en développant son robot conversationnel ChatGPT, tranche le commissaire à la vie privée du Canada. Mais l’entreprise ne se fera pas taper sur les doigts pour autant.

Le commissaire Philippe Dufresne et ses homologues du Québec, de l’Alberta et de la Colombie-Britannique ont conclu mercredi que l’entreprise d’intelligence artificielle (IA) a commis plusieurs manquements aux lois en développant et en entraînant ChatGPT.

L’entreprise américaine a notamment collecté excessivement les données personnelles des utilisateurs, notamment sur l’état de santé ou les opinions politiques des individus, ainsi que de renseignements sur des enfants.

Elle a collecté ces renseignements sans obtenir le consentement valide des utilisateurs et sans expliquer qu’ils serviraient à entraîner l’intelligence de ChatGPT, concluent aussi les commissaires dans leur rapport après trois ans d’enquête. OpenAI n’a pas non plus offert de moyen facile aux utilisateurs pour accéder ou pour supprimer leurs données.

Cette situation a exposé des individus à des risques de préjudice, notamment à des atteintes à la vie privée, à l’inexactitude des renseignements et à de la discrimination fondée sur des renseignements fournis à leur sujet.

Au cours de l’enquête, OpenAI a pris des mesures importantes pour répondre aux préoccupations du Commissariat, a souligné M. Dufresne en conférence de presse, ce qui l’a mené à juger la plainte à l’origine de l’enquête fondée et conditionnellement résolue.

OpenAI a commis plusieurs violations des lois sur les renseignements personnels avec son robot conversationnel ChatGPT. (Photo d'archives)

Photo : Associated Press / Kiichiro Sato

Malgré ces manquements, OpenAI ne subira aucune sanction, parce que le commissaire à la vie privée n’a pas le pouvoir d’émettre des ordonnances ou des amendes.

C’est quelque chose que je demande au gouvernement depuis ma nomination comme commissaire, a souligné M. Dufresne, appelant une nouvelle fois à une modernisation de la loi fédérale sur la protection des renseignements personnels.

La présence de ce risque de sanctions là va motiver n’importe quelle organisation à agir plus rapidement et de façon plus prudente, a-t-il insisté. On obtient des changements importants, mais on pourrait faire beaucoup plus avec des lois modernisées.

Des recommandations

Au Québec, cependant, la Commission d’accès à l’information (CAI) dispose de ces pouvoirs. Mais elle ne les a pas utilisés dans le cadre de cette enquête, parce qu’elle était faite conjointement avec d’autres commissaires provinciaux et fédéral, a expliqué la vice-présidente à la CAI, Me Naomi Ayotte.

À ce stade-ci, étant donné les manquements qui ont été constatés, étant donné les actions qui ont été posées par l’entreprise, le choix qui a été pris a été de faire des recommandations, a-t-elle expliqué.

Au fil de l'enquête, OpenAI a cessé d’utiliser son ancien modèle d’IA, qui contrevenait aux lois et a ainsi facilité l’accès, la correction et la suppression des données personnelles d’un usager, entre autres mesures.

Le géant américain s’est aussi engagé à améliorer sa transparence et à protéger les données recueillies d’ici six mois.

Nous travaillons fort pour nous assurer que notre processus d’entraînement des modèles respecte la vie privée, a écrit l'entreprise dans un article sur son site web publié mercredi. Elle y détaille comment ChatGPT recueille les données, comment il est entraîné à ne pas conserver les renseignements personnels et comment l'utilisateur peut contrôler certains paramètres.

Philippe Dufresne a déploré le fait qu'il ait fallu une enquête pour que l'entreprise corrige le tir. Idéalement, nous n'aurions pas à faire ce genre d'enquêtes, si la protection de la vie privée était prise en compte dès la conception des outils technologiques, a-t-il déclaré.

En gros, il faut envoyer un message que la vie privée et l'innovation, ça va ensemble.