TikTok est en passe de devenir la première plateforme de partage de vidéos à avertir les utilisateurs si un contenu a été créé à l'aide de l'intelligence artificielle, Forbes rapports.
Alors que la technologie de l’IA évolue à un rythme effréné, générer du contenu – autrefois une tâche ardue – est désormais aussi simple que de saisir quelques invites textuelles. Au diable le droit d'auteur, les peintures ou les photographies dans le style de n'importe quel artiste et les chansons complètes avec des paroles et des voix qui semblent impossibles à distinguer de celles des musiciens populaires sont désormais à portée de main.
Ce boom technologique a suscité l’inquiétude de l’économie des créateurs face à la perte potentielle de leurs moyens de subsistance, alors que les craintes pèsent sur le potentiel de l’IA à remplacer leurs emplois. Et même si vous vous considérez comme un connaisseur des médias, il est parfois impossible de distinguer ce qui a été créé par un humain ou une IA.
Pour aider ses utilisateurs à faire cette distinction et lutter contre les campagnes de désinformation, TikTok s'est associé à la Coalition for Content Provenance and Authenticity (C2PA) pour étiqueter automatiquement le contenu généré par l'IA sur la plateforme. L'étiquetage ne s'appliquera qu'aux images et aux vidéos au moment d'écrire ces lignes, mais TikTok a annoncé dans un article de blog que l'étiquetage audio arriverait plus tard.
« L'IA offre d'incroyables opportunités créatives, mais peut dérouter ou induire en erreur les téléspectateurs s'ils ne savent pas que le contenu a été généré par l'IA. L'étiquetage aide à clarifier ce contexte – c'est pourquoi nous étiquetons l'AIGC créé avec les effets d'IA TikTok et avons demandé aux créateurs d'étiqueter AIGC réaliste depuis plus d'un an », a déclaré la société. « Nous avons également créé un outil unique en son genre pour rendre cela facile à réaliser, que plus de 37 millions de créateurs ont utilisé depuis l'automne dernier. »
Le C2PA est une organisation à but non lucratif composée de membres de certaines des entreprises technologiques les plus influentes au monde, notamment Adobe, Microsoft, Google et OpenAI.
L'étiquetage sera exécuté via la technologie « Content Credentials » de C2PA, qui ajoute des métadonnées au contenu généré par l'IA avant d'être récupéré par la plateforme hôte afin qu'une étiquette puisse être ajoutée. TikTok a déclaré que ces informations d'identification resteront attachées au contenu même s'il est téléchargé, donc s'il est téléchargé sur d'autres plateformes, ces entreprises peuvent choisir de conserver les étiquettes. Si davantage de plates-formes adoptent la technologie « Content Credentials », le processus d'étiquetage du contenu sera visiblement surchargé sur le Web, compte tenu des nombreuses sources de métadonnées transparentes.
« À une époque où tout contenu numérique peut être modifié, il est essentiel de fournir au public des moyens de discerner ce qui est vrai », a déclaré Dana Rao, directrice juridique et directrice de la confiance chez Adobe. « L'annonce d'aujourd'hui constitue une étape cruciale vers l'atteinte de ce résultat. »
TikTok a également reconnu que malgré l'ajout d'une étiquette, certains utilisateurs peuvent ne pas comprendre facilement ce que cela signifie. La société a déclaré qu'elle mettait en œuvre des « campagnes d'éducation aux médias » pour informer ses utilisateurs sur la désinformation et le contenu généré par l'IA.
TikTok et Universal Music Group ont récemment mis fin à leur conflit de licence, qui a mis en sourdine des millions de chansons sur la plateforme. Un élément crucial de l’accord était l’engagement de TikTok à lutter contre la musique non autorisée générée par l’IA qui portait atteinte aux droits de ses artistes. »
[TikTok and UMG] « Nous travaillerons ensemble pour garantir que le développement de l'IA dans l'industrie musicale protégera le talent artistique humain et l'économie de ces artistes et auteurs-compositeurs », avait déclaré UMG à l'époque.