YouTube propose depuis peu aux célébrités et artistes de Hollywood un outil de détection gratuit des hypertrucages, ou deepfakes, développant encore la lutte contre les usurpations d'identité générées par l'intelligence artificielle.

Le mois dernier, la plateforme vidéo de Google a lancé son outil de protection de l'image, qui aide à identifier les contenus dans lesquels un visage apparaît modifié, ou généré, à l'aide de technologies d'IA. Le projet visait d'abord les journalistes, les responsables gouvernementaux et autres personnels politiques.

La plateforme étend désormais son accès aux acteurs et musiciens, par l’entremise des agences de talents, des sociétés de gestion et des vedettes qu'elles représentent.

L'outil permet de rechercher des contenus générés par l'IA reprenant l'apparence d'un participant, comme un hypertrucage de son visage, et lui donne le pouvoir de les dénicher et d'en demander la suppression.

Célébrités et artistes peuvent y accéder même sans disposer de chaîne sur la plateforme.

Le fait que YouTube ouvre ses capacités de détection d’hypertrucages aux personnalités publiques marque un tournant dans la manière dont les plateformes abordent la protection de l'identité à l'ère de l'IA générative, estime Alon Yamin, directeur général et cofondateur de Copyleaks, une plateforme de détection de contenus générés par l'IA.

La technologie permettant de reproduire le visage, la voix et les mimiques d'une personne a avancé plus vite que les garde-fous qui l'entourent, créant un fossé que des acteurs malveillants exploitent déjà.

Des enjeux majeurs

L'initiative intervient alors que se multiplient les vidéos hyperréalistes de célébrités disparues, créées avec des applications grand public comme Sora, l'outil d'OpenAI.

L'application a déclenché un flot de vidéos de Michael Jackson ou d'Elvis Presley. Et le mois dernier, OpenAI a fermé son application Sora.

En février dernier, le réalisateur irlandais Ruairí Robinson avait déjà créé un clip d'un réalisme saisissant montrant Brad Pitt se battant avec Tom Cruise sur un toit, à partir d'une requête de deux phrases.

Largement diffusé et provoquant de vives inquiétudes à Hollywood, il a été généré avec Seedance 2.0, un outil appartenant au groupe chinois ByteDance. L'Irlandais a également créé d'autres vidéos : l’une montre Brad Pitt affrontant un ninja zombie armé d'un sabre, une autre le met en scène en train de combattre un robot, flanqué de l'incontournable Tom Cruise.

Charles Rivkin, patron de la Motion Picture Association, l'association des grandes sociétés de production américaines, a appelé ByteDance à cesser immédiatement ses activités de contrefaçon, l'accusant de bafouer le droit d'auteur.

YouTube explique pour sa part travailler avec les principales agences de talents pour améliorer la détection des images problématiques et mieux protéger les artistes.

Protéger le patrimoine des artistes

La plateforme fait ce qu'il faut en fournissant ces outils gratuitement aux talents, afin qu'ils puissent protéger leur patrimoine, se réjouit Jason Newman, de la société de gestion de talents et de production Untitled Entertainment.

Leur patrimoine, c'est leur visage, leur corps, qui ils sont, ce qu'ils font, leur façon de s'exprimer, ajoute-t-il dans un entretien avec The Hollywood Reporter.

Le développement de l'outil fait suite à des plaintes de personnalités américaines de premier plan dénonçant les lourdeurs de la procédure sur YouTube pour signaler et retirer un hypertrucage.

Les enjeux sont particulièrement élevés, car les hypertrucages peuvent être utilisés pour diffuser de la désinformation, manipuler les marchés, nuire à des réputations ou laisser croire à un soutien trompeur. Une détection robuste n'est plus optionnelle, explique Alon Yamin.

Les systèmes de détection doivent être extrêmement précis, continuellement mis à jour et associés à des règles claires et à des procédures de retrait rapides pour être efficaces, poursuit-il.

Cela n'éliminera pas totalement les hypertrucages, mais peut réduire considérablement leur portée et leur impact, en rendant plus difficile la circulation de contenus manipulés sans être détectés ou contestés, fait valoir le responsable de Copyleaks.