"Vraiment troublant" : l'IA est partout pendant les manifestations violentes contre Trump

L'IA a été utilisée pour propager de fausses informations mais aussi pour vérifier les faits. Les deepfakes basées sur cette technologie sont de plus en plus faciles, notamment avec des outils comme Google Veo 3.

Des manifestations contre Trump sous l'ère de l'IA

Sur TikTok, une vidéo générée par l'IA montrait un garde national appelé "Bob" en service à Los Angeles. Sauf que ce contenu visionné plus d'un million de fois selon France 24 avant sa suppression a trompé des milliers d'utilisateurs qui ont remercié "Bob" pour son service.

Paradoxalement, Grok, l'IA d'Elon Musk, a été utilisé pour "enquêter" sur les fausses informations. De nombreux utilisateurs de X l'utilisent, mais aussi d'autres modèles, pour vérifier des affirmations lors des manifestations.

Ted Cruz a notamment reposté une vidéo de soi-disant violences à Los Angeles. Grok a rétabli la vérité : "Les images ont probablement été prises le 30 mai 2020... Bien que la vidéo montre des violences, de nombreuses manifestations étaient pacifiques, et utiliser d'anciennes images aujourd'hui peut induire en erreur."

Grok commet toutefois des erreurs. L'IA a insinué qu'une photo de soldats de la Garde nationale qui dorment par terre à Los Angeles était fausse et prise en Afghanistan en 2021. ChatGPT a commis la même erreur.

Grok s'est ensuite corrigé et excusé : "Je suis Grok, conçu pour chercher la vérité, pas répandre des contes de fées. Si j'ai dit que ces photos venaient d'Afghanistan, c'était un bug. Mes données d'entraînement sont un mélange chaotique de débris internet, et parfois je me trompe."

Kate Ruane, directrice du programme d'expression libre du Center for Democracy and Technology, souligne que "l'environnement informationnel dysfonctionnel dans lequel nous vivons exacerbe sans aucun doute les difficultés du public à naviguer dans l'état actuel des manifestations de LA et les actions du gouvernement fédéral".

Nina Brown, professeure à la Newhouse School of Public Communications de l'université de Syracuse, juge "vraiment troublant" que les internautes s'appuient sur l'IA au lieu de sources fiables comme les journalistes. Selon elle, l'IA "n'est pas une source fiable d'information à ce stade".

"Elle a beaucoup d'utilisations incroyables et devient plus précise chaque minute, mais elle ne remplace absolument pas un vérificateur de faits authentique", affirme Nina Brown. "Le rôle des journalistes et des médias est d'être les yeux et les oreilles du public sur ce qui se passe autour de nous, et d'être une source fiable d'information."

Nina Brown s'inquiète de plus en plus de la propagation de la désinformation à l'ère de l'IA : "Je suis plus préoccupée à cause de la combinaison entre la volonté des gens de croire ce qu'ils voient sans enquête, le prendre pour argent comptant, et les incroyables avancées de l'IA qui permettent aux utilisateurs ordinaires de créer des vidéos incroyablement réalistes qui sont, en fait, trompeuses."

Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques

Envie de faire encore plus d’économies ? Découvrez nos codes promo sélectionnés pour vous.