Une entreprise du Vietnam ayant au moins une centaine d’employés est secrètement derrière un vaste réseau de pages Facebook diffusant des publications trompeuses générées à l’aide de l’intelligence artificielle (IA) partout au monde, incluant le Canada, révèle une enquête des Décrypteurs et de l’équipe d’enquêtes visuelles de CBC.

Ces publications, contenant des histoires souvent inventées ou exagérées à propos de sujets tels la politique, les sports ou les potins de stars, servent à susciter l’engagement des internautes envers la plateforme, puis mener les utilisateurs vers des sites web bourrés de publicités, le tout dans le but de générer d’importantes sommes d’argent.

Par exemple, un article affirme que l’homme d’affaires Elon Musk a averti les Oilers d’Edmonton que, si l’équipe de hockey n’accepte pas un partenariat avec Tesla, il interdira la vente de ses véhicules aux Canadiens.

Un autre soutient qu’une ville américaine importante vient d’être attaquée, avec à l'appui des images d’explosions nucléaires et du président Donald Trump s’arrachant les cheveux.

Les deux histoires sont bien sûr fausses.

Deux publications Facebook contenant de fausses nouvelles mises en ligne par HTV Network.

Photo : capture d'écran/Facebook

C’est un stratagème qui semble plutôt bien fonctionner, puisque les employés de l’entreprise en question, HTV Network, bénéficient de conditions de travail assez avantageuses : des offres d’emploi que nous avons pu trouver sur les réseaux sociaux et sur des sites de recrutement vantent le régime d’assurances offert, les vacances payées, évoque des activités de consolidation d'équipe (team building) et un salaire, incluant des bonis de rendement, pouvant aller jusqu’à 20 millions de dongs par mois.

C’est un peu moins de 1000 $ CAD, soit le double du salaire moyen au Vietnam.

L’entreprise basée à Hanoï se fait plutôt discrète. Elle ne possède pas de page LinkedIn officielle, et son site web est très sommaire. Elle porte le même nom qu’un vrai diffuseur vietnamien, lui aussi nommé HTV Network, ce qui complique la recherche d’informations à son sujet. Selon notre enquête, son modèle d’affaires repose sur la diffusion, sur Facebook, de publications trompeuses générées par IA.

Des publications partagées sur les réseaux sociaux par les employés de HTV Network à la fin février montrent une célébration de la fin de l’année lunaire lors d’une fête d'entreprise. Au programme : feux d’artifice, musique et mascottes pour les enfants. Certains employés ont même remporté des certificats et des trophées pour avoir atteint leurs objectifs d’affaires.

Au centre de la fête, sur le podium, se trouvait le PDG et fondateur de HTV Network, Ngo Anh Tan, 34 ans. Il tenait un écriteau où on pouvait lire, en vietnamien, un chiffre d'affaires record.

À ses côtés, un de ses collègues en tenait un autre où on pouvait lire, encore une fois dans cette langue, un chiffre d’affaires de 100 milliards.

À gauche, le PDG de HTV Network, NGO Anh Tan, tient un écriteau où on peut lire "un chiffre d'affaires record" en vietnamien. Son collègue, à droite, en tient un autre où il est écrit "un chiffre d’affaires de 100 milliards".

Photo : capture d'écran/Facebook

Ce montant, en dongs vietnamiens, équivaut à un peu plus de 5 millions de dollars canadiens. Il n’est pas clair si le montant en question correspond aux revenus de HTV Network pour l’année qui venait de se terminer, ou s’il s’agissait d’un objectif pour celle qui venait de commencer.

Impossible de savoir le chiffre d’affaires réel de HTV Network. Toutefois, nous avons pu déterminer qu’elle possède des locaux dans une tour de bureaux de la capitale vietnamienne et que le nombre d’employés semble avoir explosé depuis sa fondation en 2024.

Certains des sites web que nous avons pu lier à HTV Network figurent dans un rapport publié à la fin du mois de juin par une équipe de recherche de l’observatoire de l’écosystème médiatique (OEM) des universités McGill et de Toronto. Celui-ci faisait état d’un réseau coordonné de plus de 300 pages Facebook qui diffusent des informations trompeuses et de fausses nouvelles générées par l’IA.

Mathieu Lavigne, analyste principal à l’Observatoire de l'écosystème médiatique, en entrevue avec les Décrypteurs.

Photo : Radio-Canada

On voit que le contenu s'adapte en fonction de ce qui est saillant. Il y beaucoup de contenu politique aussi. Au Canada, ça repose beaucoup sur le nationalisme économique, donc beaucoup de contenus en lien avec les tarifs, avec Donald Trump. Tandis que, par exemple, au Royaume-Uni, il y a beaucoup de contenu qui est plus identitaire, par exemple du contenu antimigration, antimusulmans, explique Mathieu Lavigne, analyste principal à l’OEM.

Selon les chercheurs, la plupart des pages Facebook qu’ils ont répertoriées sont gérées depuis le Vietnam et ont pour objectif de saturer le réseau social de contenu dans l’objectif d’engranger des revenus publicitaires.

Certains des sites web liés au réseau contenaient une adresse courriel, que nous avons pu lier à d’autres sites. Un de ceux-ci contenait une photo, prise lors d’un événement d'entreprise de HTV Network. Une recherche par image inversée nous a menés vers un compte TikTok qui a publié une photo prise lors du même événement et visant à faire du recrutement pour HTV Network.

À l’aide d’informations contenues dans ces publications, nous avons pu trouver des documents d'entreprise de HTV Network au Vietnam qui nous ont permis d’identifier, entre autres, son fondateur, Ngo Anh Tan, ainsi que son numéro de téléphone et son adresse courriel. Celle-ci avait été utilisée pour enregistrer d’autres sites figurant dans le rapport de l’OEM, selon l’outil d’analyse DomainTools.

Munis de ces informations, ainsi que d’autres obtenues à l’aide de l’outil de recherche de données en libre accès Darkside, nous avons pu lier HTV Network à quelque 54 sites promus par environ 200 pages Facebook, cumulant au total plus de 55 millions d’abonnés.

C'est surprenant de voir qu'une entreprise peut opérer comme ça au grand jour, employer une centaine d'employés dans ce business-là. On s'attendrait à ce que ce soit un peu caché, qu'il y ait une façade, laisse tomber Mathieu Lavigne, analyste principal à l’OEM.

Ça montre vraiment l'ampleur de l'opération. Ça montre la rentabilité de ce type d'opérations là, puis ça montre aussi toute l'économie des fausses nouvelles qui est en train de se développer aujourd'hui à l'ère de l'intelligence artificielle, ajoute-t-il.

Une conséquence du laxisme de Facebook, estime un expert

Le journaliste et fondateur du média indépendant Indicator, Craig Silverman, en entrevue avec les Décrypteurs.

Photo : Radio-Canada

Nous avons pu trouver ce qui semble être une vidéo interne de HTV Network publiée sur YouTube. Celle-ci décrit la structure de l’entreprise et explique son histoire. Selon cette vidéo, HTV Network serait issue de BB Media, qui diffusait des sketchs humoristiques et dramatiques sur YouTube. En raison de changements technologiques, explique la vidéo, HTV Network a été fondée en 2024 pour diffuser du contenu sur Facebook.

Cela n’est pas un hasard, selon le journaliste Craig Silverman, cofondateur d'Indicator, un média indépendant qui enquête sur la manipulation du web.

La société mère de Facebook, Meta, a fait marche arrière en 2024 concernant d’importants changements de politiques instaurés en 2016 qui avaient eu pour effet d’assainir la plateforme de pièges à clics, de fausses nouvelles et d’articles sensationnalistes.

Selon Craig Silverman, la première élection de Donald Trump en 2016 a motivé Facebook à vouloir faire le ménage sur la plateforme – et les mesures mises en place ont eu l’effet souhaité. Toutefois, la deuxième élection de Trump en 2024 a entraîné un nouveau changement de cap : Meta a drastiquement réduit les effectifs de son équipe de modération sous prétexte de laisser une plus grande place à la liberté d’expression, et c’est maintenant le champ libre pour ce genre de contenu, d’après l’expert.

C’est tellement un sentiment de déjà vu pour les gens qui, comme moi, couvraient l’émergence de ce qu’on appelait à l’époque des fausses nouvelles : du contenu 100 % faux censé ressembler à de vrais reportages. En 2014 et 2015, voire même jusqu’en 2016, on voyait des gens faire de l’argent avec du contenu de ce genre ciblé aux États-Unis, se remémore M. Silverman.

Donc, je me sens comme si on m’avait magiquement transporté vers l’été 2014, quand j’ai commencé à m’intéresser à ce phénomène, ajoute le journaliste, en expliquant qu’à l’époque, les gens derrière ce genre d’article devaient les rédiger à la main, puisqu’ils n’avaient pas accès à des outils d’IA.

Malheureusement, ce n’est pas surprenant qu’il existe une entreprise, et potentiellement plusieurs autres, dont le modèle d’affaires est de créer du contenu trompeur à l’aide de l’IA, conclut-il, en arguant qu’empêcher la prolifération de ce type de contenu n’est clairement pas une priorité pour [Meta] depuis 2024.

Meta n'a pas donné suite à nos questions.

Le PDG de HTV Network, Ngo Anh Tan, a affirmé à CBC ne pas être au courant des informations déterrées par notre enquête et n'avoir rien à voir avec HTV Network, bien que ses informations personnelles aient été trouvées dans des documents de la société et sur le site de l’entreprise. Il a soutenu que ces informations auraient pu être volées.

À la suite de nos questions, le site de HTV Network est devenu inaccessible, et les employés qui avaient publié des photos des fêtes de l'entreprise ont rendu leurs profils Facebook privés. L'accès à celui de Ngo Anh Tan a lui aussi été bloqué.

L’adresse courriel qui nous a permis d’identifier certains sites affiliés à HTV Network a aussi disparu de ceux-ci. Une mention a été ajoutée à la fin de plusieurs articles : Cette histoire est fictive et ne sert qu'à divertir.