L'agence média Reuters et une startup d'IA appelée Synthesia aujourd'hui, ils ont dévoilé un nouveau projet sur lequel ils ont collaboré: il utilise la technologie deepfakes pour générer des nouvelles automatisées en temps réel.
Conçu comme une preuve de concept, le système prend les données de score de match de football en temps réel et génère des reportages d'actualités approfondis avec des photographies et des vidéos.
Synthesia et Reuters utilisent un réseau de neurones qui mélange des nouvelles du réseau et des éléments préenregistrés pour développer un présentateur hyper réaliste qui fournit des mises à jour sur les résultats et les nouvelles.
A chacun son propre TG
La grande idée ici est que vous pourriez avoir, par exemple, 20 vidéos « en direct » différentes montrant la même « personne » annonçant des mises à jour des scores en temps réel pour chacune des équipes du championnat de football.
Reuters a souligné que le prototype de deepfake news n'est qu'un prototype et pas nécessairement une fonctionnalité qu'il envisage de mettre en œuvre.
Le gestionnaire mondial des principaux produits et services d'information de l'entreprise, Nick Cohen, a déclaré dans une note: « Reuters est depuis longtemps à l’avant-garde de l’exploration du potentiel des nouvelles technologies pour diffuser des informations et des informations. Ce type de prototypage nous aide à comprendre comment l’IA et les médias synthétiques peuvent être combinés avec nos flux de photographie et de reportage en temps réel pour créer de nouveaux types de produits et services.
Deepfake News: les implications
Les applications de cette technologie (en supposant que nous finissions par développer un programme d'information hébergé par une « personne » impossible à distinguer de celles en chair et en os), il pourrait y en avoir plusieurs.
Outre la couverture médiatique, il est facile d'imaginer des aéroports remplis de moniteurs montrant le même visage avec des mises à jour pour les vols de différentes compagnies aériennes ou des mises à jour sur demande pour une grande variété de sujets.
Qu'est-ce qui est vrai, qu'est-ce qui est faux?
D’un autre côté, nous pourrions nous diriger vers une dystopie où l’utilisation massive de l’intelligence artificielle et un visage auquel les gens peuvent faire confiance deviennent le principal facteur décisif pour savoir si le public considère ou non quelque chose comme faux. Ce qui était autrefois « c'est vrai, je l'ai lu dans le journal », et plus tard « c'est vrai, je l'ai entendu à la télé » pourrait être « c'est vrai, le journaliste d'IA l'a dit ». Soyez horrifié par la perspective de vivre dans un avenir où l’humanité et l’IA sont indiscernables.
Cela dit, Reuters pourrait être un cas d’utilisation positif pour l’utilisation de la technologie Deepfake. Associé aux services de traduction appropriés, cet outil pourrait être utilisé pour générer des rapports d'urgence dans des endroits où les barrières linguistiques dans les communications orales et écrites pourraient autrement compliquer la diffusion rapide de l'information.