Les images et les textes générés par l’IA en enthousiasment plus d’un. Dans certains cas, la technologie a été utilisée à mauvais escient. Des deepfakes ont été créés par de grandes streameuses sur Twitch.
Hambourg – Sur Internet, la majorité célèbre actuellement la performance des IA de texte et d’image, qui créent en quelques minutes des devoirs, des poèmes ou des œuvres d’art. Mais la technologie a aussi son côté obscur. Certains* utilisent l’IA dans les profondeurs d’Internet pour des images ou des films sales. Ainsi, de grandes streameuses sur Twitch ont réalisé des deepfakes pervers. Un autre streamer les a regardées, s’est fait prendre et s’est ensuite excusé en pleurant. Mais la création de telles images est-elle punissable ?
Le streamer Twitch Atrioc regarde des films cochons générés par l’IA de Pokimane et d’autres streameuses
Que s’est-il passé ? Lors d’un livestream, le streamer Twitch américain Atrioc a montré par erreur un onglet ouvert sur Google Chrome. Celui-ci affichait des images deepfake générées par l’IA de grands streamers* comme Pokimane ou Maya Higa dans un contexte explicite.
Qu’est-ce qu’un deepfake ?
En termes crus, un deepfake est une image ou une vidéo falsifiée générée par une IA. Pour la falsification, l’IA analyse des milliers d’images d’un visage et le place ensuite sur un autre corps. Un exemple célèbre est le cas où des comiques russes se sont fait passer pour Vitali Klitschko lors d’une conversation téléphonique avec Franziska Giffey. Une forme atténuée de cette technologie sont certains filtres sur les plateformes de médias sociaux qui mettent votre visage sur celui d’Indiana Jones.
Voici comment le streamer réagit : Après l’incident, Atrioc s’est excusé en larmes dans le stream, en compagnie de sa petite amie. « C’est tellement gênant », a-t-il déclaré, expliquant que par intérêt, il avait beaucoup lu sur les intelligences artificielles et les choses générées par l’IA. Il s’agit par exemple d’outils comme Dall-E ou Chat GPT.
Sur un site de contenu pour adultes, il aurait trouvé une publicité sur les deepfakes de Pokimane et Maya Higa. « J’étais sur un site normal et il y avait une publicité sur chaque vidéo. Et puis j’ai cliqué dessus et je me suis retrouvé dans ce Rabbithole.«
Plus loin, il s’excusait : « J’ai été maladivement curieux et j’ai cliqué sur quelque chose. C’est dégoûtant et je suis désolé. C’est gênant« . Il a également estimé que « il ne s’agit pas d’un modèle de comportement« . Il a ajouté qu’il pouvait présenter des factures prouvant qu’il avait payé les deepfakes le jour où le clip a été réalisé. « Il n’y a pas d’excuse pour cela. Je n’essaie pas de le défendre d’une manière ou d’une autre. Je pense que tout ce truc est faux« a-t-il affirmé.
Les deepfakes générés par l’IA incriminent les pokimans et autres streamers
Ce qu’en disent les victimes Le clip a très vite fait le tour de la toile et il n’a pas fallu longtemps pour que les victimes des deepfakes en prennent connaissance. Sweet Anita, qui a également été utilisée pour des deepfakes, a écrit à ce sujet sur Twitter « .J’ai vraiment dépensé des millions pour travailler [in dieser Branche, Anm. d. Red.] pour qu’un drogué de P*, couvert de puces, utilise mon corps sans mon consentement.. »
Je ne sais pas si je dois pleurer, casser quelque chose ou simplement rire.
Pokimane s’est également exprimée sur la situation sur Twitter. Elle a écrit tout simplement : « .Arrêtez de sexualiser les gens contre leur gré. C’est tout, c’est le tweet« . Maya Higa a publié une déclaration plus complète.
Dans sa déclaration, elle dit notamment ceci : « J’ai fondé un refuge pour animaux à but non lucratif à 22 ans. À 24 ans, j’ai récolté un million de dollars de dons pour des activités de conservation. J’ai produit zéro contenu sexuel au cours de mes trois années de création sur Twitch. Et pourtant, des hommes ont volé mon visage pour faire de moi un objet sexuel qu’ils peuvent utiliser.« .
Des deepfakes générés par l’IA sont vendus par des streameuses – voici comment s’y opposer en Allemagne
Comment la situation doit-elle être évaluée selon le droit allemand ? On ne sait pas encore si et comment les streameuses vont intenter une action en justice contre les deepfakes. Ce qui est sûr, c’est qu’il ne s’agit pas de cas isolés. La streameuse allemande Fibi « xFibii » Pfeifer est elle aussi confrontée à des deepfakes et est donc déjà en contact avec la police.
Nous avons demandé à un avocat spécialisé dans le droit d’auteur et des médias de nous donner son avis sur la manière dont la situation devrait être jugée selon le droit allemand et nous développerons l’article dès que nous en disposerons.
Ce que peut faire l’IA si elle est utilisée pour abuser des femmes
Chat GPT pour les images : L’IA alternative crée de l’art – comment elle fonctionne
ChatGPT : Rédiger des devoirs avec l’IA – Voilà pourquoi c’est une mauvaise idée
Vous êtes vous-mêmes des victimes ? Voici de l’aide : si vous ou quelqu’un de votre entourage est victime de violences sexuelles, il existe plusieurs services d’aide auxquels vous pouvez vous adresser. Les victimes de tous types de criminalité peuvent obtenir de l’aide auprès du « Weißer Ring ». Le numéro contre le chagrin est également un bon point de contact. Les femmes et les jeunes filles peuvent s’adresser à Ophelia.
Fleury a un amour profond pour les jeux vidéo et le sport, deux passions qui ont façonné sa vie et tout ce qu’elle fait. En grandissant, Fleury était entouré de jeux vidéo et d’équipements sportifs et a rapidement développé un intérêt pour ces derniers. Elle est ainsi devenue rédactrice chez Essonneinfo sur ces thématiques.
Poster un Commentaire