Cela ressemble à une blague, ou un mauvais épisode de Miroir noir.
Un groupe de quatre gars avec des cheveux Shaggy a sorti deux albums de chansons génériques de psych-rock consécutives. Les chansons se sont retrouvées sur les flux hebdomadaires Discover de Spotify des utilisateurs, ainsi que sur des listes de lecture tierces avec des centaines de milliers d'adeptes. En quelques semaines, la musique du groupe avait recueilli des millions de cours d'eau – sauf que le groupe n'était pas réel. C'était un «projet musical synthétique» créé en utilisant l'intelligence artificielle.
La controverse entourant le coucher du soleil en velours s'est déroulée presque aussi rapidement qu'elle a gagné du terrain. Une personne prétendant à tort faire partie du groupe s'est entretenue aux médias, notamment Pierre de rouleauà propos de l'utilisation de l'IA – puis a admis avoir menti sur le tout pour tenter de troller les journalistes. Plus tard, la page officielle du coucher du soleil en velours a mis à jour sa biographie Spotify pour reconnaître que toute la musique a été composée et exprimée avec l'IA.
« Ce n'est pas une astuce – c'est un miroir », lit la déclaration. « Une provocation artistique en cours conçue pour remettre en question les limites de la paternité, de l'identité et de l'avenir de la musique elle-même à l'ère de l'IA. »
Comme toutes les autres progrès technologiques qui l'ont précédé, l'intelligence artificielle a provoqué une panique – et une fascination – sur la façon dont elle pourrait transformer l'industrie musicale. Ses utilisations pratiques courent toute la gamme de l'aide aux artistes humains à restaurer la qualité de l'audio (comme les membres survivants des Beatles l'ont fait avec les anciennes démos vocales de John Lennon sur le morceau lauréate d'un Grammy « Now and Show ») à la tromperie à part entière à la Sundown Velvet.
Spotify est le service de streaming le plus populaire dans le monde, avec 696 millions d'utilisateurs sur plus de 180 marchés. Dans les podcasts et les interviews, le PDG de Spotify, Daniel Ek, a parlé de son optimisme selon lequel l'IA permettra à l'algorithme de Spotify pour mieux faire correspondre les auditeurs avec ce qu'ils recherchent, idéalement offrir « cette chose magique que vous ne saviez même pas que vous aimiez – mieux que vous ne pouvez faire vous-même » The New York Post en mai. (En 2023, Spotify a déployé un DJ d'IA qui fournit un mélange de recommandations et de commentaires. La plate-forme dispose également d'un outil d'IA pour traduire les podcasts en différentes langues.)
EK a également clairement indiqué que l'IA devrait aider les créateurs humains, et non les remplacer. Mais contrairement à d'autres géants de la technologie – y compris YouTube, Meta et Tiktok – Spotify ne prend actuellement pas de mesures pour étiqueter le contenu généré par l'IA. Alors, pourquoi les plus grands utilisateurs de services de streaming au monde ne sont-ils pas générés par l'IA? Et quels problèmes cela soulève-t-il pour les artistes et leurs fans?
En réponse à des questions sur la question de savoir si Spotify a envisagé de mettre en œuvre un système de détection ou d'étiquetage pour la musique créée avec l'IA – ainsi que les défis pourraient résulter de cela – un porte-parole de Spotify n'a pas confirmé ou refusé la possibilité.
« Spotify n'apparaît pas les outils que les artistes dans leur processus créatif. Nous pensons que les artistes et les producteurs devraient contrôler », a déclaré un porte-parole de Spotify à NPR dans une déclaration écrite. « Nos politiques de plate-forme se concentrent sur la façon dont la musique est présentée aux auditeurs, et nous travaillons activement pour nous protéger contre la tromperie, l'usurpation d'identité et le spam. Le contenu qui induit en erreur les auditeurs, enfreint les droits des artistes, ou abuse de la plate-forme sera pénalisé ou supprimé. »
Artistes génératifs de l'IA et des fantômes
En 2023, Spotify et d'autres plateformes ont supprimé une chanson qui a utilisé l'IA pour cloner les voix de Drake et The Weeknd sans la permission des artistes après que le groupe de musique universel a invoqué les violations du droit d'auteur. Mais le profil du Velvet Sundown est toujours actif; Un nouvel album a été téléchargé le 14 juillet. Parce que la page ne fait pas semblant d'être un artiste existant, il ne viole techniquement aucune règle. Mais si l'une de ses chansons se présentait sur Discover Weekly d'un utilisateur – les listes de lecture automatisées de Spotify qui accumulent des millions de flux chaque semaine – il n'y aurait pas non plus d'avertissement que la voix qu'ils écoutent n'appartient pas à une vraie personne.
Liz Pelly, journaliste et auteur de Machine d'humeur: la montée en puissance de Spotify et les coûts de la playlist parfaitedit que la transparence est un problème majeur sur les services de streaming depuis près d'une décennie – et que les utilisateurs devraient mieux comprendre ce qu'ils consomment et d'où il vient.
« Pour que les utilisateurs de ces services prennent des décisions éclairées et afin d'encourager un plus grand sens de l'alphabétisation des médias en streaming, je pense qu'il est vraiment important que les services fassent tout ce qu'ils peuvent pour étiqueter avec précision ce matériel », explique Pelly. « Qu'il s'agisse d'une piste qui se trouve sur un service de streaming entièrement fabriqué à l'aide d'une AI générative, ou c'est une piste qui est recommandée à un utilisateur en raison d'une sorte d'accord commercial préexistant qui permet au service de streaming de payer un taux de redevance inférieur. »
EK, PDG de Spotify, a félicité l'IA pour avoir simplifié la production musicale et réduit la barrière d'entrée dans la création – mais la musique générée par l'IA pourrait également réduire les frais de licence et les coûts globaux de paiement pour les services de streaming. Pelly dit qu'il y a déjà un précédent de Spotify à la recherche du contenu le moins cher pour servir les utilisateurs. Dans ses reportages, elle a constaté que Spotify s'appuie déjà sur la musique de fond créée par les sociétés de production en masse pour rembourser ses listes de lecture. La montée de la musique générée par l'AI, dit-elle, est une pente glissante pour les entreprises technologiques qui cherchent à stimuler les flux et à réduire les coûts.
En réponse à des questions sur cette pratique et les implications financières, un porte-parole de Spotify a déclaré à NPR: « Spotify priorise la satisfaction de l'auditeur, et il y a une demande de musique pour s'adapter à certaines occasions ou activités, y compris l'humeur ou la musique de fond. travail, y compris s'ils publient leurs chansons avec de vrais noms, sous un nom de groupe ou un pseudonyme. «
Une plate-forme le fait déjà
En juin, Deezer a déployé le premier système de détection et de marquage d'IA à utiliser par une grande entreprise de diffusion musicale. La plate-forme, fondée à Paris en 2007, avait suivi de près les développements technologiques qui ont permis aux modèles d'IA de produire des chansons de plus en plus réalistes.
Manuel Moussallam, responsable de la recherche chez Deezer, dit que son équipe a passé deux ans et demi à développer l'outil. Ils ont également publié un rapport reconnaissant que l'outil se concentre principalement sur les générateurs basés sur la forme d'onde et ne peut détecter que des chansons créées par certains outils, ce qui signifie que la détection peut être contournée.
« Nous avons commencé à voir [AI] Contenu sur la plate-forme, et nous nous demandons si cela correspond à une sorte de nouvelle scène musicale, comme un genre de niche, « explique Moussallam. » Ou s'il y avait aussi une sorte d'effet générationnel – comme les jeunes vont-ils passer à ce genre de musique? «
Jusqu'à présent, dit-il, cela n'a pas été le cas. L'outil a identifié qu'environ 20% des chansons téléchargées sur Deezer au quotidien sont générées par AI, totalisant près de 30 000 pistes par jour. Mais une grande partie, dit Moussallam, est essentiellement un spam. Lors de la détection, Deezer a supprimé les chansons générées par l'IA des listes de lecture automatisées et organisées éditoriales afin d'évaluer le nombre de personnes diffusées organiquement ce contenu. Ils ont constaté qu'environ 70% des cours d'eau étaient frauduleux, ce qui signifie que les gens ont créé de faux artistes et ont utilisé des robots pour générer de faux flux afin de recevoir des paiements. Après détection, Deezer exclut les cours d'eau frauduleux des paiements de redevances. La société estime que la dilution des revenus liée à la musique générée par l'IA – ce qui signifie des flux légitimes de personnes réelles écoutant ce contenu – est inférieure à 1%.
« La seule chose que nous n'avons pas vraiment trouvée est une sorte d'émergence de consommation organique et consensuelle de ce contenu », explique Moussallam. « C'est assez frappant. Nous avons une énorme augmentation de la quantité de pistes générées par l'AI, et il n'y a aucune augmentation de la vraie personne qui diffuse ce contenu. »
Au lieu de cela, dit-il, un contenu généré par l'AI comme le Sundown Velvet voit un pic dans l'audience lorsqu'il y a l'attention des médias, mais cela se complique rapidement lorsque les auditeurs sortent de la nouveauté.
Qui est responsable?
Hany Farid, professeur à l'Université de Californie à Berkeley qui étudie la criminalistique numérique, dit qu'il est important de noter que toute utilisation de l'IA n'est pas explicitement mauvaise. Il existe de nombreux cas dans lesquels les artistes peuvent utiliser l'intelligence artificielle pour augmenter ou améliorer leur travail – mais à la fois dans et hors de l'industrie musicale, la transparence est la clé de l'utilisation de l'IA.
« Quand je vais à l'épicerie, je peux acheter toutes sortes de nourriture. Une partie est saine pour moi; une partie est malsaine. Ce que le gouvernement a dit, c'est que nous allons étiqueter la nourriture pour vous dire à quel point c'est sain et malsain, combien de sucre, combien de sodium, combien de gros », dit Farid. « Ce n'est pas un jugement de valeur. Nous ne disons pas ce que vous pouvez et ne pouvez pas acheter. Nous vous informons simplement. »
S'entendant avec l'analogie de l'épicerie, Farid dit que la responsabilité de ces étiquettes ne tombe pas sur le magasin – il incombe à quiconque fabrique les produits. De même, sur les plateformes de médias sociaux, il dit que le fardeau de divulguer l'utilisation de l'IA devrait idéalement être sur les épaules de quiconque télécharge une chanson ou une image. Mais parce que les entreprises technologiques comptent sur du contenu généré par les utilisateurs pour vendre des annonces – et parce que plus de contenu équivaut à plus d'argent publicitaire – il n'y a pas beaucoup d'incitations à appliquer cette divulgation des utilisateurs ou pour l'industrie à l'auto-politique. Comme pour les avertissements de cigarettes ou les étiquettes alimentaires, Farid dit, la solution peut se résumer à la réglementation gouvernementale.
« Il y a la responsabilité du gouvernement aux plateformes, aux créateurs, aux consommateurs, à l'industrie technologique », explique Farid. « Par exemple, vous pourriez dire, quelqu'un a créé de la musique, mais ils ont utilisé [an AI software tool]. Pourquoi cet outil ne ajoute-t-il pas un filigrane là-dedans? Il y a des responsabilités de haut en bas du personnel ici. «
Les modèles générés par l'IA se déplacent à un rythme aussi rapide, dit Farid, il est difficile de donner aux gens des conseils sur la façon d'identifier les Fakes Deep ou d'autres contenus générés par l'IA. Mais quand il s'agit d'écouter de la musique, lui et Pelly suggèrent de retourner aux bases.
« If music listeners are concerned with not accidentally finding themselves in a situation where they are listening to or supporting generative AI music, I would say the most direct thing to do is go straight to the source, » Pelly says, « whether that be buying music directly from independent artists and independent record labels, getting recommendations not through these anonymous algorithmic news feeds, and investing in the networks of music culture that exist outside of the centers of power and the tech industry. »