L'Allemagne a averti les plateformes de médias numériques concernant la diffusion de fausses images de l'Holocauste générées par l'IA. Le gouvernement et les institutions mémorielles de l'Holocauste ont demandé aux plateformes de médias numériques de mettre fin à la diffusion de fausses images qui, selon eux, déforment et banalisent l'histoire.
Des préoccupations ont été exprimées par les sites mémoriaux des camps de concentration et les centres de documentation dans une lettre récente, critiquant la montée de ce qu'on appelle le contenu IA de mauvaise qualité ou les images falsifiées, concernant l'assassinat de plus de six millions de Juifs en Allemagne par les nazis pendant la Seconde Guerre mondiale. Ces images incluent des illustrations émotionnelles d'incidents inventés, tels que des rencontres entre des détenus de camps de concentration et leurs libérateurs ou des enfants derrière des fils barbelés.
L'Allemagne veut mettre fin à la diffusion de fausses images de l'Holocauste générées par l'IA
Dans la lettre envoyée par les organisations, elles ont noté que le contenu généré par l'IA déforme l'histoire en banalisant des événements graves qui se sont produits il y a longtemps. Elles ont mentionné que de telles images pourraient alimenter la méfiance parmi les utilisateurs de documents historiques authentiques. Wolfram Weimer, ministre d'État allemand de la culture et des médias, a mentionné qu'il soutenait les mesures et les efforts entrepris par les institutions mémorielles dans ce cas, révélant qu'il s'agit de la bonne décision à prendre.
Wolfram a également mentionné qu'il soutenait leur décision de faire marquer les images générées par l'IA des incidents anciens et, dans les cas où cela est nécessaire, de les retirer des plateformes de médias numériques. Il a mentionné qu'il s'agit d'une question de respect pour les millions de personnes qui ont été tuées et persécutées sous le régime de terreur de l'Allemagne nazie. Selon la lettre des institutions mémorielles, elles ont noté que les créateurs des images semblaient les utiliser pour générer de l'attention en ligne et gagner de l'argent.
Les organisations ont également mentionné que les auteurs avaient en partie l'intention de diluer les faits, d'inverser les rôles de victime et d'auteur, et de diffuser des récits révisionnistes. Les institutions comprennent des centres mémoriaux pour Belsen, Buchenwald, Dachau et d'autres camps de concentration où des Juifs, ainsi que d'autres personnes, y compris des Roms et des Sintis, ont été tués. Elles ont demandé aux plateformes de médias numériques d'agir de manière proactive contre les fausses images générées par l'IA concernant l'Holocauste plutôt que d'attendre que les utilisateurs les signalent.
Les organisations de l'Holocauste veulent que les images générées par l'IA soient étiquetées
De plus, elles ont demandé aux plateformes de les étiqueter clairement, car elles croient que cela empêchera les utilisateurs qui ont généré les images de pouvoir les monétiser. La diffusion de contenu IA de mauvaise qualité, qui comprend de faux textes, images ou vidéos, a suscité l'alarme parmi de nombreux experts. Ils croient que cela polluerait le paysage de l'information et rendrait difficile pour les utilisateurs de séparer la vérité du mensonge. L'incident suit celui auquel les entreprises pilotées par l'IA, notamment xAI d'Elon Musk, qui possède le chatbot Grok, sont actuellement confrontées.
L'entreprise a été sous pression au cours des dernières semaines concernant certains utilisateurs générant des milliers d'images deepfake sexualisées de femmes et de mineurs et les diffusant sur plusieurs plateformes de médias numériques. Cette menace a vu plusieurs dirigeants de pays rappeler l'entreprise à l'ordre, tandis que d'autres leur demandent de développer les mesures de protection appropriées pour faire face aux incidents. Des pays comme l'Indonésie ont également annoncé une interdiction temporaire du chatbot jusqu'à ce que tout soit résolu.
Entre-temps, la plateforme a confirmé qu'elle bloquerait géographiquement la capacité des utilisateurs de Grok et X à générer des deepfakes de personnes dans les endroits où les actions sont considérées comme illégales. Cependant, il reste à voir si les nouvelles mesures de protection s'appliqueront à son application autonome ou à son site web. Il reste également à voir si les mesures empêcheront les utilisateurs de générer ce type d'images ou les pousseront à chercher de nouvelles façons d'accéder au service.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Source : https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
