Nouvelle inquiétante sur les deepfakes...
Nous terminons cette journée par une mise à jour sur le front des deepfakes.
Des chercheurs de Corée du Sud viennent de tester si les technologies d'intelligence artificielle (IA) d'Amazon et de Microsoft pouvaient identifier les deepfakes. Et les résultats sont très inquiétants.
Les lecteurs réguliers de L'Investisseur Tech connaissent bien la montée en puissance de la technologie "deepfake".
Il y a quelques semaines, nous avons parlé de l'apparition de vidéos de Tom Cruise sur les médias sociaux. Il s'agissait de vidéos d'un personnage qui ressemblait à Tom Cruise, en apparence et en voix... sauf que le faux "Tom Cruise" était généré à l'aide de l'IA.
Les IA d'Amazon et de Microsoft incapable de décrypter le vrai du faux
Évidemment, cela exacerbe un gros problème. Comment savoir si une information est exacte ou non sur l'internet ? Il s'avère que les IA fournies par Amazon et Microsoft ne sont d'aucune aide.
L'équipe de recherche coréenne a créé 8 119 "deepfakes" à partir d'un ensemble de données sur des stars du cinéma, des chanteurs, des athlètes et des hommes politiques d'Hollywood. L'équipe a ensuite soumis ces vidéos à une IA utilisant une technologie avancée de reconnaissance faciale pour voir si elle pouvait classer correctement un deepfake.
Il s'avère que l'Azure Cognitive Services de Microsoft a été trompé dans 78 % des cas. Rekognition d'Amazon n'a pas fait beaucoup mieux, avec 68,7 %. Et Rekognition a même attribué à 28 % des deepfakes une note de confiance supérieure à celle de l'image réelle de la même célébrité.
La communauté technologique doit trouver une solution
C'est inquiétant. Ces technologies de reconnaissance faciale basées sur l'IA sont créées par certaines des plus grandes entreprises du monde, mais même elles ne peuvent pas faire la différence entre une personne réelle et un deepfake.
Cela nous montre à quel point il devient difficile de discerner si un contenu sur Internet est réel ou non. Et je me demande comment nous pouvons contrôler les "deepfakes" si une technologie d'IA de pointe ne peut pas les identifier.
La communauté technologique doit absolument trouver une solution.
