La Germania ha avvertito le piattaforme digitali riguardo alla diffusione di false immagini dell'Olocausto generate dall'IA. Il governo e le istituzioni commemorative dell'Olocausto hanno chiesto alle piattaforme digitali di fermare la diffusione di immagini false, che secondo loro distorcono e banalizzano la storia.
Le preoccupazioni sono state espresse dai siti commemorativi dei campi di concentramento e dai centri di documentazione in una lettera recente, criticando l'aumento delle cosiddette immagini IA di bassa qualità o falsificate, riguardanti l'uccisione di oltre sei milioni di ebrei da parte dei nazisti in Germania durante la Seconda Guerra Mondiale. Queste immagini includono illustrazioni emotive di incidenti inventati, come incontri tra prigionieri dei campi di concentramento e i loro liberatori o bambini dietro recinzioni di filo spinato.
La Germania vuole fermare la diffusione di false immagini dell'Olocausto generate dall'IA
Nella lettera inviata dalle organizzazioni, hanno osservato che i contenuti generati dall'IA distorcono la storia banalizzando eventi gravi accaduti molto tempo fa. Hanno menzionato che tali immagini potrebbero contribuire ad alimentare la sfiducia tra gli utenti nei confronti di documenti storici autentici. Wolfram Weimer, ministro di stato tedesco per la cultura e i media, ha dichiarato di sostenere i passi e gli sforzi intrapresi dalle istituzioni commemorative in questo caso, rivelando che è la decisione giusta da prendere.
Wolfram ha anche menzionato di sostenere la loro decisione di far contrassegnare le immagini generate dall'IA degli antichi incidenti e, nei casi in cui è necessario, rimuoverle dalle piattaforme digitali. Ha sottolineato che è una questione di rispetto per i milioni di persone che furono uccise e perseguitate sotto il regime di terrore della Germania nazista. Secondo la lettera delle istituzioni commemorative, hanno notato che i creatori delle immagini sembravano utilizzarle per generare attenzione online e guadagnare denaro.
Le organizzazioni hanno anche menzionato che gli autori avevano in parte l'intenzione di diluire i fatti, invertire i ruoli di vittime e carnefici e diffondere narrazioni revisioniste. Le istituzioni includono centri commemorativi per Belsen, Buchenwald, Dachau e altri campi di concentramento dove furono uccisi ebrei, oltre ad altri, tra cui rom e sinti. Hanno chiesto alle piattaforme digitali di agire proattivamente contro le false immagini IA sull'Olocausto piuttosto che aspettare che gli utenti le segnalino.
Le organizzazioni dell'Olocausto vogliono che le immagini generate dall'IA siano etichettate
Inoltre, hanno chiesto alle piattaforme di etichettarle chiaramente, poiché ritengono che ciò impedirà agli utenti che hanno generato le immagini di poterle monetizzare. La diffusione di contenuti IA di bassa qualità, che includono testo, immagini o video falsi, ha sollevato allarme tra molti esperti. Ritengono che inquinerebbe il panorama informativo e renderebbe difficile per gli utenti separare la verità dalla falsità. L'incidente segue quello con cui le aziende IA, in particolare xAI di Elon Musk, che possiede il chatbot Grok, stanno attualmente lottando.
L'azienda è stata sotto pressione nelle ultime settimane per il fatto che alcuni utenti hanno generato migliaia di immagini deepfake sessualizzate di donne e minori e le hanno diffuse su diverse piattaforme digitali. La minaccia ha portato diversi leader di paesi a richiamare l'azienda all'ordine, con altri che chiedono di sviluppare le adeguate misure di protezione per affrontare gli incidenti. Paesi come l'Indonesia hanno anche annunciato un divieto temporaneo del chatbot fino a quando tutto non sarà risolto.
Nel frattempo, la piattaforma ha confermato che bloccherà geograficamente la capacità degli utenti di Grok e X di generare deepfake di persone in località dove tali azioni sono considerate illegali. Tuttavia, resta da vedere se le nuove misure di protezione si applicheranno alla sua applicazione autonoma o al suo sito web. Resta anche da vedere se le misure impediranno agli utenti di generare questo tipo di immagini o li spingeranno a cercare nuovi modi per accedere al servizio.
Non limitarti a leggere le notizie crypto. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Fonte: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
