馬斯克的 X 平台又有大麻煩了。旗下的 AI 聊天機器人 Grok 最近因為生成含有未成年人的色情圖片，遭到歐盟「嚴肅審查」。歐盟執委會與多國監管機構對此表達高度關切，直指這不只是內容不當，而是徹頭徹尾的違法行為。雖然 Grok 標榜「更寬鬆開放」，但全球監管單位普遍認為防護機制漏洞百出，根本擋不住非法內容。
根據外媒報導，歐盟執委會發言人托馬斯·勒尼耶在週一的記者會上重砲抨擊，他們注意到 X 平台與 Grok 推出的「火辣模式」（Hot Mode）。這個模式原本是為了生成帶有性暗示的內容，結果卻出現露骨色情資訊，甚至包含兒童形象。勒尼耶強調，這絕不是什麼「火辣內容」，而是絕對的違法行為。
最近 X 平台的使用者頻繁利用 Grok 的功能，把照片拿來「數位脫衣」，受害者大多是女性，處理後的人物只剩下內衣或比基尼。這類圖片在社群平台上到處流竄，讓全球監管機構與網路安全倡議者警鈴大作，包括印度、英國、法國等多國官員都出面譴責。
負責營運 X 平台與 Grok 的 xAI 公司目前還沒回應。不過，馬斯克週日在 X 發文滅火，強調平台會清理非法內容，永久封鎖相關帳號，必要時也會配合官方調查。他警告，利用 Grok 生成非法內容的使用者，下場會跟直接上傳非法內容一樣嚴重。
雖然市面上大多數 AI 模型都嚴格禁止生成色情圖片與影片，但 xAI 卻把 Grok 定位成「更寬鬆開放」的工具。系統允許生成成年人局部裸露或帶有性暗示的圖片，雖然條款說禁止製作真實人物的露骨色情內容或涉及未成年人的性內容，但顯然防護機制沒發揮作用。在美、英等國，未經同意散布 AI 生成的私密 Deepfake（深偽）圖片本身就違法。能不能守住這條紅線，現在變成檢驗 AI 工具安不安全的關鍵指標。
針對 Grok 防護失靈，荷蘭議員傑倫·萊納斯痛批：「如果 AI 平台堅持要開放色情內容生成，就得先建立健全、有效且能獨立驗證的防護措施。」他強調，等兒童色情內容生成後才來刪除根本沒用，因為傷害已經造成，且無法挽回。他認為商業利益似乎總是壓過兒童網路保護工作。
英國通訊管理局週一也表示，已經收到外界對 Grok 的嚴重關切，並緊急聯繫 X 平台與 xAI 公司，要求說明到底採取了什麼措施來保護英國使用者。法國政府則在上週五指控 Grok 未經同意生成明顯違法的色情內容，可能違反歐盟的《數位服務法》（DSA）。這項法案要求大型平台必須採取措施，降低非法內容傳播風險。
印度電子與資訊科技部已下令全面審查 Grok 的安全功能；馬來西亞官方也表示收到投訴，正在調查 Grok 生成的不雅內容。
這不是 X 平台第一次惹上麻煩。先前 X 就因涉嫌違反歐盟《數位服務法》遭到調查，並在去年 12 月因為合規不力，吞下 1.2 億歐元（約新台幣 41.4 億元）的天價罰單，這也是該法案開出的第一張罰單。雖然美國川普政府批評歐盟的做法是在審查言論自由，但隨著各國監管壓力加大，馬斯克與 X 平台面臨的挑戰恐怕只會越來越多。
- 延伸閱讀：Razer Project AVA 實體化！搭載 Grok 的「全息 AI 萌妹」現身，是電競教練也是生活祕書
- 延伸閱讀：馬斯克 xAI 下戰帖挑戰 T1戰隊，Faker即將對決Grok 5 打 LOL？
- 延伸閱讀：Grok AI 說馬斯克比耶穌更擅長復活？本人自嘲：我只是個又胖又笨的人
