Certains des plus grands noms de la musique, du divertissement et de la mode se sont réunis lundi à New York pour le Met Gala sur le thème « Garden of Time », paré de fleurs, de paillettes et de montres extravagantes.
Contrairement aux images qui circulent sur les réseaux sociaux, Katy Perry n’en faisait pas partie.
« Je n'ai pas pu me rendre au MET, j'ai dû travailler », a posté la chanteuse sur Instagram, à côté d'une vidéo d'elle chantant en studio – ainsi que de deux photos la montrant apparemment au gala.
Ils ont en fait été réalisés avec l’IA.
Dans le premier, Perry semble se tenir debout sur un tapis rouge bordé de haies au Met, vêtue d'une robe de bal élaborée couverte de fleurs et de papillons, avec ses cheveux noirs coiffés en longues vagues. Dans le deuxième, un gros plan, Perry porte un haut corset métallique avec une grande poignée clé au milieu et une jupe courte ornée de fleurs et de feuilles, les cheveux raides et ébouriffés.
Les photos – dont l'origine exacte n'est pas claire – ont fait sensation sur X (anciennement Twitter) plus tôt dans la nuit, alors que les téléspectateurs à la maison actualisaient leurs flux et commentaient leurs célébrités préférées.
Une publication X de la photo de la robe de bal comptait plus de 300 000 likes et près de 70 000 republications mardi matin – et une note en bas précisant qu'elle a été créée avec l'IA. Un autre post, celui de la tenue corset, a recueilli plus de 100 000 likes et a finalement été étiqueté « créé numériquement ».
Perry est une participante régulière au Met Gala (et célèbre pour s'habiller sur le thème, notamment en lustre et en hamburger ces dernières années), donc les observateurs d'Internet seraient pardonnés de supposer qu'elle était là lundi.
Même la mère de Perry, Mary Hudson, le pensait. L'une des publications sur le carrousel Instagram du chanteur était une capture d'écran d'une conversation textuelle entre les deux.
« Je ne savais pas que tu étais allé au Met », a écrit sa mère. « Quelle magnifique robe, tu ressembles à la Rose Parade, tu es ton propre char mdr. »
Perry n’a pas tardé à mettre les choses au clair.
« Mdr maman, l'IA t'a eu aussi », répondit-elle. « MÉFIEZ-VOUS! »
Les images générées par l’IA sont de plus en plus faciles à réaliser, et les contrefaçons de célébrités sont de plus en plus répandues – depuis les contrefaçons sexuellement explicites de Taylor Swift circulant plus tôt cette année jusqu’aux appels automatisés imitant le président Biden avant les primaires du New Hampshire.
En fait, Perry n'était pas la seule star à être photoshopée sur le tapis rouge du Met Gala : un post viral X prétendait montrer une Rihanna richement habillée, alors qu'elle était en fait malade à la maison avec la grippe. Un autre prétendait montrer Lady Gagaqui n’y est plus depuis 2019.
Et avant le gala, des photos ont circulé de Dua Lipa portant une frange et un corset, seulement pour qu'elle apparaisse sur le tapis avec des cheveux cramoisis et un ensemble entièrement noir – et pour qu'un utilisateur de X souligne que les premières photos dataient de 2021. Vogue tirer.
Alors que certains utilisateurs des réseaux sociaux ont rejeté les contrefaçons du Met Gala comme faisant partie du plaisir, d'autres les voient comme un signe inquiétant de ce qui pourrait nous attendre.
Les experts préviennent que les contrefaçons générées par l’IA constituent une menace pour tout, de la sécurité électorale aux escroqueries quotidiennes. Et le mois dernier, plus de 200 artistes – dont Perry elle-même – ont signé une lettre exhortant les plateformes technologiques et les services de musique numérique à cesser d'utiliser l'IA pour « porter atteinte et dévaloriser les droits des artistes humains ».
Comment savoir si une image est fausse (ou du moins suspecte)
Alors, quels indices Mary Perry – et d’autres téléspectateurs avertis – devraient-ils rechercher pour repérer les contrefaçons potentielles ?
Sam Gregory de l'association à but non lucratif Witness, qui aide les gens à utiliser la vidéo et la technologie pour protéger les droits humains, encourage les téléspectateurs à s'appuyer sur le contexte et l'intuition dans des situations comme celle-ci.
« Mon point de départ avec toutes les images comme [Perry’s] est de ne pas faire confiance aux détecteurs en ligne car il y a trop de variables pour déterminer s'ils donnent un résultat précis », a-t-il expliqué par e-mail.
Il a déclaré que lorsqu'il avait passé les deux images de Perry à travers un détecteur largement utilisé, la robe à fleurs était revenue comme « probablement humaine » et le corset comme « probablement généré par l'IA ». Il décourage également les gens de rechercher des indices visuels dans ce genre d'images, affirmant que cela peut « conduire au gouffre d'un scepticisme médico-légal improductif ».
Avec un événement très médiatisé comme le Met Gala, dit Gregory, il est préférable d'utiliser « les approches classiques d'éducation aux médias et de vérification ». Dans ce cas, cela pourrait impliquer de rechercher davantage de preuves de la présence de Perry, auprès de diverses sources.
« Bien que certaines stratégies d'éducation aux médias, comme vérifier la source, puissent nous induire en erreur – peut-être faisons-nous confiance à Katy Perry pour partager de vraies images d'elle-même – si nous utilisons une autre stratégie et recherchons d'autres images du même événement à partir de sources fiables, nous pourrions rapidement tu vois, ce n'est pas réel », a-t-il expliqué.
Il ajoute que cela lui rappelle les images d’un incendie au Pentagone créées par l’IA et devenues virales l’année dernière. Dans les deux cas, dit-il, la première question que les gens devraient se poser n'est pas de savoir s'ils peuvent repérer les problèmes d'IA sur la photo, mais plutôt « Pourquoi n'y a-t-il pas d'autres photos et vidéos de cet événement dans une zone très peuplée ? »
Mais la plus grande question, selon Gregory, est de savoir si le public devrait être censé faire cela.
« Pourquoi Katy Perry ne serait-elle pas au Met Gala et pourquoi devrions-nous douter de cela, surtout si elle fait partie de la tromperie ? » il dit.
Une aide supplémentaire pourrait venir des plateformes de médias sociaux, dans un contexte d’inquiétudes croissantes quant au potentiel de l’IA à induire les utilisateurs en erreur. Meta a annoncé plus tôt cette année qu'elle commencerait à étiqueter les images générées par l'IA sur Facebook, Instagram et Threads à partir de mai.
Mais pour l’instant – et comme toujours – il est essentiel de rester sur ses gardes. Si vous avez besoin de conseils supplémentaires, consultez ces conseils d’experts pour savoir comment repérer les images générées par l’IA et éviter de vous faire tromper en ligne.