Il y a un nouveau locataire indésirable dans nos flux de médias sociaux : le spam généré par l'IA. Des publications bizarres, émotionnellement manipulatrices ou ouvertement frauduleuses, créées par des algorithmes de plus en plus sophistiqués, se répandent sur des plateformes comme Facebook, Threads et LinkedIn. Et le problème est aggravé par le fait que ce sont souvent les réseaux sociaux eux-mêmes qui promeuvent activement ces contenus, déclenchant un cercle vicieux de désinformation et de frustration pour les utilisateurs.
Meta et sa société annoncent des contre-mesures (telles que l'étiquetage des publications IA), mais est-ce suffisant pour endiguer cette nouvelle vague de spam high-tech ?
Le visage bizarre du spam IA
Pour de nombreux utilisateurs, leur première rencontre avec le spam IA est surréaliste. « Les paroles disaient 'Fermez les yeux à 70 % et voyez la magie'. Et sans même trop plisser les yeux, on peut clairement voir une sorte d’image de Jésus composée de légumes déformés, d’un tracteur et d’une petite fille.
Et voulons-nous parler des milliers et des milliers d’images similaires avec des légendes identiques ? Des articles émotionnellement manipulateurs représentant des mères et des enfants handicapés dans la boue créant des structures improbables et compliquées à partir de bouteilles en plastique ? Nous sommes déjà dans un hôpital psychiatrique. Et ils nous le proposent également en entrée.
Si l'algorithme favorise le spam
Le problème du spam IA sur Facebook est aggravé par le fait que, dans de nombreux cas, il semble que ce soit l'algorithme propre à la plateforme qui donne de la visibilité à ces publications.
Une étude menée par des chercheurs des universités de Georgetown et de Stanford a analysé plus de 100 pages Facebook qui publient régulièrement du contenu sur l'IA, parfois des dizaines et des dizaines de fois par jour. Les résultats? Ils sont alarmants : nombre de ces pages se livrent à des escroqueries et à du spam, et Facebook recommande activement une partie de ce contenu dans les flux des utilisateurs.
Nous avons vu des images générées par l'IA de tout ce qui est imaginable, des maisons en rondins aux grands-mères avec des gâteaux d'anniversaire, en passant par les enfants avec des peintures magistrales qui ne pourraient tout simplement pas être réelles.
Josh Goldstein, chercheur à Georgetown et co-auteur de l'étude.
Le côté obscur du spam IA
L'analyse de Goldstein et de son co-auteur a révélé que certaines de ces pages ils proviennent de spammeurs classiques, qui publient des liens vers des sites Web sur lesquels ils peuvent collecter des revenus publicitaires. D'autres sont des escrocs qui font la publicité de produits générés par l'IA qui ne semblent pas exister réellement. D'autres cependant, et ce n'est pas forcément une bonne nouvelle, ils n'ont pas de motivation financière claire. Ils semblent simplement rassembler un public à des fins inconnues.
"Il peut s'agir de pages malveillantes essayant de créer une audience, puis de vendre des produits, de créer des liens vers des sites Web remplis de publicités ou même de changer complètement le sujet en quelque chose de politique", spécule Goldstein. "Mais je soupçonne que, plus probablement, bon nombre de ces pages sont simplement des créateurs qui ont réalisé qu'il s'agissait d'une tactique utile pour obtenir l'engagement du public."
Les plateformes sociales passent à l’action. Plus ou moins.
On le savait, on se le disait depuis presque 3 ans : le tsunami de mauvais contenus produits par une utilisation inappropriée et légère de l'IA cela nous aurait submergés. Et qu'est-ce qu'on fait maintenant ?
Face à la vague de spams IA, les plateformes sociales nous demandent d’y mettre un terme. Facebook a annoncé qu'il commençait à étiqueter certains contenus créés par des outils d'intelligence artificielle. La semaine dernière, TikTok a commencé à appliquer des étiquettes similaires à certaines publications générées par l’IA sur sa plateforme.
Meta, la société mère de Facebook et Instagram, a déclaré dans un communiqué :
Nous nous efforçons de réduire la propagation du spam ou du contenu sensationnaliste car nous voulons que les utilisateurs vivent une bonne expérience, c'est pourquoi nous leur donnons le contrôle de ce qu'ils voient dans leur flux.
Es-tu sûr?
Spam AI, l’impact négatif est fort
Pour de nombreux utilisateurs, les mesures annoncées sur les réseaux sociaux pourraient ne pas suffire. J'ai des amis qui parlent de devoir décourager un parent âgé d'acheter des boiseries et d'autres objets de décoration qu'ils ont vus sur Facebook, et qui étaient clairement faux.
Certains utilisateurs envisagent même de quitter la plateforme en raison de la frustration d’être constamment bombardés d’images de spam IA.
Au-delà de l’agacement (qui m’affecte au point d’interdire tout ce qui se présente à moi), j’aimerais discuter avec vous des implications plus larges de la diffusion partout d’images artificielles. Mon idée est qu’à court terme, ils ne feront que renforcer l’incrédulité des gens. Et à moyen terme, il vous sera encore plus difficile de distinguer le vrai du faux. Et dans le monde, en cette période historique, perdre le sens de la réalité est très dangereux.
L'avenir est un inconnu
Les contre-mesures proposées par les maîtres de la conversation sociale seront-elles suffisantes ? L'étiquetage du contenu généré par l'IA est peut-être un pas dans la bonne direction, mais cela ne suffira pas à endiguer le flux de publications fausses et trompeuses qui envahissent nos flux.
Et la facilité avec laquelle chacun peut désormais créer du contenu IA risque de transformer cette tendance en un problème endémique. Essentiellement, l’augmentation du spam IA sur les réseaux sociaux est le symptôme d’un problème plus vaste : la difficulté de naviguer dans un monde où la frontière entre réalité et fiction est de plus en plus floue.
Il faut pourtant s’orienter, même au prix de gros efforts : car se perdre dans cette mer de mensonges prend un moment.
