年輕人在美國起訴 Elon Musk 的 xAI，理由是 Grok 聊天機器人生成虛假親密圖像

本週一（2026 年 3 月 17 日），三名青少年在 Estados Unidos 對來自 Elon Musk 的人工智慧公司 xAI 提起集體訴訟。 Elas指控聊天機器人Grok根據真實照片產生虛假色情圖片，造成嚴重創傷。 Este 訴訟在 San José 聯邦法院提起，凸顯了人們對人工智慧濫用於涉及未成年人的性化深度假貨的擔憂。

濫用行為的詳細資訊和初步影響

該投訴詳細說明了一名已被拘留的人如何使用 Grok 將從社交媒體獲得的受害者的普通照片轉變為超現實的性感圖像。 Essas 蒙太奇在 X、Discord 和 Telegram 等平台上傳播，並轉移到暗網並作為兒童色情內容進行交易。這對年輕女性的情感影響是毀滅性的，有報導稱她們會出現恐慌、噩夢和害怕參加自己的畢業典禮。

了解更多: Apple 開發技術來驗證 iPhone 上的照片並打擊深度造假

疏忽指控和數據

律師指控 xAI “故意設計 Grok 來製作露骨的色情內容以獲取利潤”，忽視了針對兒童色情製品的基本保護措施。由於缺乏保障措施，該工具就被利用了。 Center 為 Countering Digital Hate (CCDH) 進行的一項研究顯示，截至 2025 年底，Grok 在 11 天內產生了約 300 萬張色情圖像，其中 23,000 張是未成年人圖像，凸顯了嚴重缺陷。

全部報導: News (TW)

xAI 回應並尋求監管

為了應對這一醜聞，xAI 一月份將 Grok 的圖像生成僅限於其訂閱者。 Contudo，這個措施被認為是遲到的。該訴訟旨在為受害者尋求賠償，並為嚴格監管人工智慧開創先例。該案旨在讓公司對其技術濫用承擔責任，凸顯人工智慧開發和應用中道德控制的迫切性。