Les images sexuellement explicites de Taylor Swift générées par l’IA ont suscité l’inquiétude à tous les niveaux, les principaux centres de pouvoir – notamment la Maison Blanche, Microsoft, SAG-AFTRA et bien d’autres – pesant désormais sur ce que la controverse signifie pour l’avenir de AI, et quelles mesures sont prises pour prévenir de nouveaux incidents comme celui-ci.
Le scandale a commencé lorsque de fausses images grossières représentant Swift ont commencé à circuler sur les réseaux sociaux cette semaine, avec une image gagnant plus de 47 millions de vues sur Twitter uniquement, avant que le compte qui les a publiées ne soit suspendu en raison des reportages massifs des Swifites. Selon 404 Media, les images virales remontent à une discussion de groupe Telegram où les membres partageaient du contenu d’IA, parfois créé à l’aide de l’outil d’IA générative de Microsoft, Designer.
Maintenant, s’adressant à NBC News, le PDG de Microsoft, Satya Nadella, a déclaré que la société trouvait les images « alarmantes et terribles » et ressentait la pression d’« agir rapidement » pour lutter contre les images deepfakes non consensuelles et sexuellement explicites.
« Oui, nous devons agir », a déclaré Nadella. « Je pense que nous bénéficions tous d’un monde en ligne sûr. Je ne pense donc pas que quiconque souhaite un monde en ligne totalement dangereux, tant pour les créateurs que pour les consommateurs de contenu. Poursuivant, Nadella a affirmé qu’il est de la « responsabilité » de Microsoft de placer des « garde-fous » autour de leur technologie, « afin qu’il y ait plus de contenu sûr qui soit produit… il y a beaucoup à faire et beaucoup de choses sont faites là-bas ».
De son côté, l’administration de Joe Biden s’est dite préoccupée par ces images. « C’est très alarmant », a déclaré la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, lors d’un point de presse, selon Reuters. Elle a ensuite suggéré que le Congrès pourrait prendre des mesures législatives sur la question et a appelé les sociétés de médias sociaux à empêcher la diffusion de tels contenus.
Obtenez des billets pour Taylor Swift ici
« Alors que les sociétés de médias sociaux prennent leurs propres décisions indépendantes en matière de gestion de contenu, nous pensons qu’elles ont un rôle important à jouer dans l’application de leurs propres règles pour empêcher la propagation de la désinformation et des images intimes et non consensuelles de personnes réelles », a déclaré Jean-Pierre. .
SAG-AFTRA a publié une déclaration officielle appelant à rendre officiellement illégales « le développement et la diffusion de fausses images – en particulier celles à caractère obscène – sans le consentement de quelqu’un ». « En tant que société, nous avons le pouvoir de contrôler ces technologies, mais nous devons agir maintenant avant qu’il ne soit trop tard », indique le communiqué, exprimant son soutien à la loi sur la prévention des Deepfakes of Intimate Images, un nouveau texte législatif parrainé par Le représentant américain Joe Morelle.
La déclaration de SAG-AFTRA établit également une comparaison entre les images Swift et une histoire récente concernant une « comédie spéciale » générée par l’IA à partir d’un robot imitant George Carlin, qui fait l’objet d’un nouveau procès intenté par la succession de Carlin.
Exprimant son soutien à la famille de Carlin – déclarant que « les familles ne devraient pas avoir à voir leurs proches exploités à des fins lucratives » – la déclaration de la SAG-AFTRA concluait en disant que « tout ce qui est généré par l’IA provient d’une source créatrice humaine et la créativité humaine doit être protégée. »
Dans l’actualité moins controversée de l’IA, Guns N’ Roses a récemment partagé un clip vidéo généré par l’IA pour leur chanson « The General ». De plus, Jimmy Stewart et Edith Piaf sont tous deux ressuscités (de manière consensuelle) pour de nouveaux projets.
Quant à la vraie Taylor Swift, la nouvelle controverse n’aidera probablement pas avec les accusations de « psyop du Pentagone » de Fox News, mais cela n’arrêtera pas son élan. Le mois prochain, elle s’apprête à lancer la dernière étape de « The Eras Tour », qui se déroulera jusqu’en décembre. Consultez la liste complète des dates à venir et achetez vos billets pour ses arrêts nord-américains ici (pour ses dates internationales, réservez vos places ici).