OpenAI, créateur de ChatGPT, a continué à publier des versions toujours plus perfectionnées de son outil phare. Loin de leurs débuts où elles étaient abstraites et floues, les vidéos et photos générées par l’IA sont désormais si réalistes qu’elles parviennent à nous tromper complètement.

Comment peut-on donc, en tant que consommateurs de contenu et de médias, naviguer sur Internet avec discernement?

Selon les experts, il est trop tard pour espérer détecter à l’œil nu les contenus visuels générés par l’IA. Il y a un an encore, nous étions peut-être capables de repérer les indices visuels révélateurs de l’IA — une personne avec six doigts, un texte confus, des yeux étranges — mais la réalité est que la technologie a progressé si rapidement, est devenue si facile à produire et est désormais si omniprésente que ces indices visuels ne sont plus du tout applicables.

« Il n’existe aucun outil ou approche infaillible qui permette de détecter à 100 % si quelque chose relève de l’IA », explique Craig Silverman, cofondateur d’Indicator.Media, une publication qui traite de la tromperie numérique.

« Et c’est, d’une certaine manière, la plus grande leçon que les gens doivent retenir : vous devez comprendre que les images et les vidéos que vous voyez peuvent être entièrement ou partiellement créées ou manipulées à l’aide de l’IA. »

Esprit critique et discernement de l’IA

Pour détecter si un contenu visuel est issu de l’IA, les experts ont quelques recommandations à faire.

Bien que les outils de détection de l’IA puissent parfois être utiles, leur fiabilité est pour le moins incertaine, d’autant plus qu’ils ne sont souvent pas conçus pour détecter le contenu provenant de chacun des outils de création de contenu IA.

« La détection est toujours en retard par rapport à l’innovation qui se produit avec les modèles. Il n’y aura jamais d’outil qui sera totalement efficace car le domaine évolue trop rapidement », explique Craig Silverman.

Il recommande plutôt de commencer par observer plus attentivement le contexte et les faits présentés dans le contenu généré par l’IA afin de déterminer qui est représenté et si leur présence correspond au contexte.

Par exemple, s’il s’agit d’une vidéo se déroulant à Winnipeg, est-ce qu’on y remarque les principaux monuments de la ville?

D’autre part, Jeremy Carrasco, créateur de contenu spécialisé dans l’intelligence artificielle, affirme qu’il existe certains indices techniques permettant de reconnaître une vidéo générée par l’IA : détails flous, erreurs de continuité, incohérences dans l’éclairage.

Un son qui ne fonctionne pas correctement est l’un des principaux indices permettant de reconnaître une vidéo générée, car le son produit par l’IA est ostensiblement étrange et artificiel.

Mais les deux experts s’accordent à dire qu’il devient presque impossible pour l’internaute moyen de se fier uniquement à des indices techniques pour détecter le contenu généré par l’IA.

Le plus important, c’est désormais de poser les bonnes questions lorsque l’on consomme du contenu.

Selon Jeremy Carrasco, la première question à se poser, et la plus importante, est la suivante : pourquoi est-ce que je vois ce contenu?

« Quand on examine les types de comptes qui publient en ligne, on distingue les créateurs et les engageurs », explique-t-il.

« Les créateurs sont là pour créer, ils établissent une certaine connexion. Ce sont des personnes réelles qui veulent faire quelque chose d’intéressant. Et puis il y a les engageurs, dont le travail consiste à attirer l’attention et à recueillir des vues. Ils ne se soucient pas de savoir d’où cela vient, ils sont juste là pour susciter l’engagement. »

Les comptes « engageurs » sont connus pour être peu efficaces dans la création d’une communauté en ligne significative.

Ils sont aussi beaucoup plus susceptibles d’être des comptes qui republient le contenu d’autres créateurs ou qui publient uniquement du contenu généré par l’IA.

Les vidéos IA, en ce sens, deviennent une extension de l’algorithme, fonctionnant sur un système conçu pour récompenser les tentatives réussies visant à capter l’attention des utilisateurs.

« Il est presque impossible de repérer les vidéos générées par l’IA, car elles sont d’une qualité telle qu’il faut posséder cette capacité de méta-conscience pour être capable de comprendre ce qui, en théorie, pourrait être de l’IA. »

Cela soulève davantage de questions quant à la quantité et à la qualité du contenu que nous consommons en général.

Si tant de comptes apparaissent sur les plateformes en ligne dans le seul but de nous y retenir, plutôt que d’offrir des informations ou du contenu de qualité, il est légitime de décider de ne pas s’engager, que le contenu ait été généré par l’IA ou non.

« Ce que la vidéo IA a fait, c’est révéler au grand jour qu’il s’agissait uniquement d’un algorithme. Elle a clairement montré aux gens que l’algorithme n’avait pas pour but de connecter de vraies personnes, mais que le but était depuis toujours uniquement l’engagement. »

Consommer du contenu en ligne, malgré l’IA

Les deux experts s’entendent aussi à dire qu’il n’existe aucun précédent permettant de savoir comment gérer cet afflux massif de contenu IA en ligne.

« Je suis particulièrement préoccupé par la fréquence à laquelle les arnaques et les fraudes visent les Canadiens ordinaires », déclare Craig Silverman.

« Les fraudeurs utilisent l’IA et ces nouveaux modèles de création de contenu pour piéger les gens et leur infliger des conséquences vraiment dévastatrices. »

Et tous deux reconnaissent aussi qu’il est essentiel de rester vigilant face à l’évolution du paysage numérique.

Même si le contenu généré par l’IA en est encore à ce stade, il est toujours possible de diversifier votre consommation d’informations et de contenus.

« Ce que je ferais, c’est bloquer les comptes IA et ne pas interagir avec eux », explique Jeremy Carrasco.

« J’essaierais de supprimer le contenu IA dès maintenant, alors qu’il est encore détectable. »

« En fin de compte, rappelez-vous pourquoi vous êtes là et pourquoi vous souhaitez consommer du contenu. »

« Ne vous sentez pas obligé de rester devant votre écran et de continuer à consommer », ajoute Craig Silverman.

« L’un des meilleurs conseils à retenir est peut-être celui-ci : vous n’êtes pas obligé d’être constamment présent dans ces espaces numériques. »

Ce conseil s’applique non seulement à ceux qui décideront de se tourner vers d’autres sources d’information afin d’éviter les contenus générés par l’IA, mais aussi à ceux qui décident de mieux contrôler leurs algorithmes.

« Vous devriez vous sentir libre de choisir ce que vous regardez, partagez et avec quoi vous interagissez. Vous ne pouvez pas contrôler tout le contenu médiocre généré par l’IA ou ce que la plateforme vous propose. Mais vous pouvez reprendre le contrôle de votre fil d’actualité et de ce à quoi vous accordez votre attention. »

Éthique et contenu GenAI

Y a-t-il une place pour l’éthique dans la création de contenu généré par l’IA?

Pas tant que plusieurs variables ne sont pas prises en compte, selon Jeremy Carrasco.

Théoriquement, il estime que deux facteurs importants seraient nécessaires pour créer du contenu genAI de manière véritablement morale : que le contenu soit produit à partir de matériel sous licence authentique et qu’il soit exécuté localement sur l’ordinateur d’un utilisateur.

« À l’heure actuelle, les données utilisées pour entraîner ces modèles ne sont pas vraiment volées, mais elles ne sont pas non plus utilisées avec autorisation », explique-t-il.

« Si cela était possible, je pense que la plupart des gens refuseraient que leurs données soient utilisées pour entraîner l’IA. Et de nombreux procès viennent étayer cette affirmation. »

Cela vaut aussi bien pour les contenus textuels que pour les contenus visuels. Plusieurs organismes de presse canadiens luttent actuellement contre l’utilisation de leurs articles par OpenAI dans le cadre de la formation de ChatGPT.

Mais il n’existe pas suffisamment de matériel sous licence pour satisfaire l’incroyable soif de données des modèles d’IA.

En 2024, le grand studio hollywoodien Lionsgate s’est associé à la société d’IA Runway pour créer son propre modèle d’IA dans le but de produire des films entièrement générés par l’IA.

Mais des rapports indiquent désormais que le catalogue de Lionsgate est loin d’être suffisant pour créer un modèle d’IA performant.

En fait, même l’intégralité du catalogue Disney ne suffirait pas pour mener à bien ce projet.

D’autre part, l’existence de centres de données gigantesques soulève de nombreuses questions éthiques. Les dommages environnementaux causés par ces centres de données sont bien réels et peuvent poser des problèmes aux communautés locales qui sont chargées de leur fournir l’énergie et l’eau nécessaires à leur fonctionnement.

« De nombreux modèles d’IA chinois ou open source commencent à apparaître, que l’on peut exécuter localement sur son ordinateur », explique Jeremy Carrasco.

« À l’heure actuelle, il faut un ordinateur très puissant pour y parvenir. Mais dans quelques années, nous n’aurons peut-être plus besoin de grands centres de données pour faire fonctionner des modèles d’intelligence artificielle très utiles. Ils seront peut-être plus efficaces, moins gourmands en énergie – c’est la direction que j’espère voir prendre. »

Les finances du contenu IA

L’une des principales raisons pour lesquelles les vidéos générées par l’IA sont aujourd’hui omniprésentes est que Sora, l’outil de génération vidéo d’OpenAI, permet de produire des vidéos gratuitement.

Mais les générateurs de vidéos par IA ne sont pas gratuits à utiliser et peuvent en réalité coûter plusieurs dollars par vidéo, car il faut parfois plusieurs essais aléatoires avant d’obtenir une vidéo de qualité acceptable.

Présentement, les compagnies technologiques derrière ces outils de génération de contenu absorbent une grande partie du coût de création de ces contenus, et la possibilité de générer massivement et à moindre coût des contenus est l’une des principales raisons pour lesquelles Internet est inondé de vidéos IA.

« Actuellement, OpenAI absorbe ce coût, mais cela ne durera pas éternellement », explique Jeremy Carrasco.

« À mesure que les modèles évoluent, rien ne prouve qu’ils deviendront moins chers. »