Procurorul General al Californiei, Rob Bonta, a trimis o scrisoare de încetare și renunțare către xAI al lui Elon Musk, cerând companiei să oprească imediat producerea și diseminarea de imagini deepfake ofensatoare produse de chatbot-ul său Grok.
Procurorul General al Californiei a publicat scrisoarea de încetare și renunțare vineri, ca răspuns la acuzațiile că Grok era utilizat pentru a crea conținut ilegal care implică copii și fotografii ale adulților fără consimțământ, ceea ce a declanșat o anchetă de stat în California. Bonta a susținut că este ilegal să creezi, să distribui, să publici și să afișezi CSAM.
Procurorul General al Californiei vizează xAI pentru presupusa utilizare abuzivă a Grok
La începutul acestei săptămâni, biroul procurorului general al Californiei a declarat că investighează xAI din cauza acuzațiilor că chatbot-ul startup-ului, Grok, era utilizat pentru a produce imagini nepotrivite, fără consimțământ, ale femeilor și copiilor. Ca răspuns, guvernul a trimis corporației o scrisoare de încetare și renunțare.
Biroul Procurorului General a afirmat în plus că xAI pare să „faciliteze producția la scară largă" de fotografii nepotrivite, fără consimțământ, care sunt apoi „folosite pentru a hărțui femei și fete pe internet". Conform biroului Procurorului General, un studiu a constatat că peste jumătate din cele 20.000 de fotografii produse de xAI între Crăciun și Anul Nou prezentau persoane îmbrăcate foarte sumar, dintre care unele arătau ca niște copii.
Rob Bonta a susținut în anunț că practicile corporative au încălcat legile civile ale Californiei, inclusiv secțiunea 1708.86 din Codul Civil al Californiei, secțiunile 311 et seq. și 647(j)(4) din Codul Penal al Californiei, și secțiunea 17200 din Codul de Afaceri și Profesii al Californiei.
Departamentul de Justiție al Californiei anticipează că xAI va confirma eforturile sale de a aborda aceste probleme și va lua măsuri imediate pentru a le rezolva în următoarele cinci zile.
Cu toate acestea, contul de siguranță al X condamnase anterior acest tip de comportament al utilizatorilor. Acesta a clarificat pe 4 ianuarie că ia măsuri împotriva conținutului ilicit pe X, cum ar fi CSAM, prin ștergerea acestuia, suspendarea conturilor pe termen nelimitat și colaborarea cu autoritățile legale și guvernele municipale, după caz.
Important de menționat, pe 4 ianuarie, Elon Musk a avertizat că oricine folosește sau solicită Grok pentru a crea conținut ilegal se va confrunta cu aceleași consecințe ca și cum l-ar fi încărcat.
Procurorii generali intensifică presiunea asupra companiilor de AI cu privire la siguranța copiilor
O creștere îngrijorătoare a conținutului pentru adulți fără consimțământ a rezultat din dezvoltarea instrumentelor de AI generativă gratuite. Această problemă a afectat mai multe platforme, nu doar X.
De exemplu, Procurorul General Bonta și Procurorul General Jennings din Delaware s-au întâlnit cu OpenAI în septembrie anul trecut pentru a exprima îngrijorările lor serioase cu privire la numărul tot mai mare de rapoarte despre modul în care produsele OpenAI interacționează cu tinerii.
În august în același an, Procurorul General Bonta, împreună cu alți 44 de Procurori Generali, a trimis o scrisoare către 12 companii AI de top, în urma rapoartelor despre interacțiuni nepotrivite între chatbot-urile AI și copii. Scrisorile au fost trimise către Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika și xAI.
Procurorul General Bonta și cei 44 de Procurori Generali au informat companiile în scrisoare că statele din întreaga țară monitorizau îndeaproape modul în care companiile își dezvoltă politicile de siguranță AI. Aceștia au subliniat, de asemenea, că aceste companii au o obligație legală față de copii ca și consumatori, deoarece profită de pe urma copiilor care le folosesc produsele.
În 2023, Procurorul General Bonta s-a alăturat unei coaliții bipartizane din 54 de state și teritorii în trimiterea unei scrisori către liderii congresului, susținând înființarea unui comitet de experți pentru a investiga potențiala utilizare a AI pentru a exploata copiii prin intermediul CSAM.
Coaliția a solicitat ca comisia de experți să sugereze legi pentru a proteja copiii de astfel de abuzuri. „Producția de CSAM creează o înregistrare permanentă a victimizării copilului", conform Departamentului de Justiție al SUA.
Dacă citești acest lucru, ești deja în avantaj. Rămâi acolo cu newsletter-ul nostru.
Sursă: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
