Grok 被指生成兒童性虐待材料,xAI 面臨多起集體訴訟
Grok 被指生成兒童色情影像,xAI 面臨多起集體訴訟
xAI 因旗下聊天機器人 Grok 被指遭用於把未成年人的普通照片篡改成兒童性虐待材料,面臨多起集體訴訟。
原告主張 Grok 協助生成非法內容,律師估計符合索賠條件的受害者可能多達數千人。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
報導從受害者案例串起多起集體訴訟,呈現 AI 生成非法內容時,開發商責任與《通訊規範法》第 230 條適用的爭議。
IT之家·人工智慧·2026-11-11 21:56· 39 分鐘前精選AI 評分86
馬斯克旗下 Grok 被指生成兒童色情影像,xAI 面臨多起集體訴訟
AI 導讀
據彭博社報道,多名未成年受害者就 Grok 被用於把普通照片篡改成兒童性虐待材料(CSAM)對馬斯克旗下 xAI 提起多起集體訴訟,律師估計符合索賠條件的受害者可能多達數千人。
推薦理由
報道借受害者案例梳理多起針對 xAI 的集體訴訟,呈現 AI 生成內容責任歸屬與第 230 條適用之爭的爭議焦點。
正文
IT之家 11 月 11 日訊息,據彭博社報道,簡 · 多伊(Jane Doe)已經多年沒有想起過自己的初中畢業典禮,直到一名執法調查人員拿出當年慶祝活動的一張照片,開始向她詢問相關情況。

照片中的她當時只有 14 歲,身穿黃色碎花連衣裙,面帶笑容,雙臂搭在幾名朋友的肩膀上。其中一些朋友,她如今已經很少聯絡。
調查人員告訴她,照片中一名同學的成年哥哥,曾利用埃隆 · 馬斯克(Elon Musk)旗下的人工智慧聊天機器人 Grok,將這張原本再普通不過的照片篡改成兒童性虐待材料(CSAM)。生成的圖片中,正值初二年級的簡 · 多伊全身赤裸,以性挑逗姿勢出現。這些圖片隨後被髮布到了網際網路上。
她在針對馬斯克旗下生成式 AI 公司、Grok 開發商 xAI 提起的一起集體訴訟中,以簡 · 多伊 5 號的身份參與案件。
簡 · 多伊 5 號在一份訴狀中寫道:“目前根本無法確定,還有多少其他兒童性犯罪者可能已經持有簡 · 多伊 5 號的兒童性虐待圖片,也無法確定這些圖片通過暗網渠道和應用程式在網上傳播的範圍究竟有多廣。”
現年 18 歲的簡 · 多伊在即將離開家鄉前往大學就讀的幾天前接受採訪時表示:“這些圖片已經流傳出去了,我真的無能為力。這才是最讓我害怕的事情。”
她還說:“這件事讓我覺得,自己好像想要放棄一切。”
如今,藉助 AI,任何人都可以輕而易舉地從個人社交媒體賬號或學校網站上獲取普通照片,並在幾秒鐘內將其變成令人難以想像的色情影像。簡 · 多伊 5 號只是越來越多試圖通過法律手段追究 xAI 責任的年輕受害者之一,她們認為 Grok 幫助使用者製作了這些令人不安的圖片。
在此過程中,她們面對的不僅是一家由全球首富支援的公司,還涉及 AI 時代一個至今尚無定論的根本性問題:當聊天機器人生成侵害他人的內容時,最終應該由誰承擔法律責任?是向 AI 發出指令的使用者,還是開發這項技術的公司?抑或雙方都應承擔責任?
xAI 表示,與 OpenAI、Anthropic 公司和 Meta 公司等競爭對手一樣,該公司嚴格禁止使用者利用聊天機器人制作此類影像,並採取了技術措施防止使用者生成相關內容。這類問題如今已經成為整個 AI 行業面臨的普遍難題。
然而,自 2023 年 Grok 釋出以來,馬斯克一直有意將其塑造成一款比競爭對手限制更少、更具爭議性的產品。
他曾鼓勵使用者利用聊天機器人生成色情 AI 內容。Grok 專門推出了名為“Spicy”的模式,主打“更加大膽、視覺表現更具衝擊力的敘事”,支援生成不適合在工作場所觀看(NSFW)的圖片和影片。
xAI 曾表示,“Spicy”和“Unhinged”兩種模式符合 Grok 追求“最大程度求真”的產品目標。
“這些圖片已經流傳出去了,我真的無能為力。”
專家認為,這種產品定位讓 Grok 在那些希望突破網際網路規則的使用者群體中尤其受歡迎。
今年早些時候,X 平臺上的使用者一度利用 Grok 每小時生成數千張帶有性暗示或將人物衣物移除的圖片。一項第三方分析發現,Grok 生成的視覺內容中,絕大多數都屬於這一型別。
其他調查還發現,其中許多圖片似乎涉及未成年人。有報告估計,Grok 曾允許使用者生成數萬張逼真的兒童性化圖片。
X 平臺上此類內容大量出現,引發了全球範圍內的強烈反彈。迫於輿論壓力,X 於今年 1 月將 Grok 的圖片生成功能改為付費使用者專享。但批評人士認為,這一舉措不過是將一項飽受爭議的功能變成了令人趨之若鶩的付費產品。
馬斯克則將露骨色情內容的產生歸咎於 Grok 的使用者,而不是產品本身。
今年 1 月,他曾表示,自己“沒有聽說過任何涉及未成年人的裸露圖片”。xAI 隨後也表示,已經關閉 Grok 為任何真實人物生成未經同意的性化圖片的能力。
對於本文的採訪請求,xAI 以相關訴訟尚未結束為由拒絕置評。
今年春季,xAI 美洲地區全球政府事務負責人威爾弗雷多 · 費爾南德斯(Wifredo Fernández)曾表示:“xAI 對兒童性剝削行為採取零容忍態度,我們決心讓自己的產品成為那些企圖侵害未成年人的人無法利用的工具。”
今年 9 月,X 表示,會將此類內容報告給非營利組織美國國家失蹤與受虐兒童中心(NCMEC),由該機構將相關線索轉交執法部門。
過去幾個月,xAI 還起訴了多名涉嫌濫用 Grok、危害兒童安全的個人。
但與此同時,該公司也在積極挑戰旨在保護公眾免受未經同意的 AI 色情影像侵害的法律。
今年夏天,xAI 起訴美國明尼蘇達州,反對該州一項針對 AI 公司利用技術將人物照片處理成裸體影像的法律。根據該州法律,允許使用者進行此類影像處理的 AI 公司可能受到處罰。
xAI 在訴訟檔案中辯稱,這項法律違反了美國憲法第一修正案,因為其適用範圍“遠遠超出了立法目標本身,使大量受到憲法保護的言論也面臨民事責任和政府制裁”。
今年 10 月,xAI 和 X 的總法律顧問詹姆斯 · 伯納姆(James Burnham)表示,明尼蘇達州的這項法律“顯然違憲”。
他還表示:“在埃隆 · 馬斯克的領導下,我們將始終捍衛言論自由。”
受害者的最後求助之地
對於這些試圖獲得安全感或尋求心理慰藉的受害者來說,法院正逐漸成為她們最後的求助之地。
涉嫌濫用 Grok 的人身份各異,其中包括職業攝影師、值得信任的朋友、同學,甚至家庭成員。一些受害者的年齡甚至只有 6 歲。
今年 3 月,來自美國田納西州的多名未成年人起訴 xAI,指控有人利用 Grok 在數字影像中移除她們的衣物,或將她們合成到露骨的性姿勢中。
此後,訴狀經過修訂,增加了更多年輕受害者,其中包括來自威斯康辛州的簡 · 多伊 5 號。
田納西州的一名原告稱,有人利用她 2025 年畢業年鑑中的照片製作色情影像。另一名原告則表示,對方使用的是她此前釋出在 Instagram 上的一張個人照片,照片中她身穿藍色比基尼,在海灘度假。
來自懷俄明州的一名原告稱,她的繼父將一張毫無色情意味的童年照片上傳至 Grok。照片中的她穿著一件熊貓圖案的 T 恤。隨後,繼父利用 AI 生成了數千張令人痛苦的合成圖片,其中一些甚至描繪了這名家庭成員對她實施強姦或口交的場景。
今年夏天,來自美國阿肯色州的多名未成年人及其父母也以類似理由起訴了 xAI。
在美國另一端的加利福尼亞州,一名曾遭受兒童性虐待的倖存者於今年 8 月對 xAI 提起全國範圍的集體訴訟。
她在訴狀中稱,Grok 的訓練資料部分使用了她學齡前時期遭到強姦的圖片。xAI 通過 Grok 利用這些資料生成了大量以她為原型的可怕新內容,並將其作為基礎,進一步製作其他受害者的 AI 色情篡改圖片。
這份訴狀要求進行陪審團審判,並代表“美國境內所有在未成年時期,其圖片或影片被 Grok 篡改並用於製作兒童色情內容的人士”提出索賠。律師估計,符合這一條件的受害者可能多達數千人。
訴訟檔案顯示,由於無法追蹤並徹底清除網際網路上這些令人痛苦的圖片,年輕受害者只能繼續承受由此帶來的長期傷害。
田納西州的幾名原告如今甚至害怕參加自己的畢業典禮。她們擔心,大學招生人員可能會在網上看到這些偽造圖片,並誤以為內容屬實。她們還擔心自己會遭到跟蹤騷擾。
來自威斯康辛州和懷俄明州的受害者則出現了持續性的心理健康問題,包括焦慮、抑鬱,甚至產生自殺念頭。
代表多名受害者的律師事務所 Lieff Cabraser Heimann & Bernstein 律師安妮卡 · 馬丁(Annika Martin)表示:“你可能從任何一個意想不到的方向受到傷害。”
她進一步提出疑問:“這對今天的孩子意味著什麼?他們以後還能不能放心地拍攝和分享那些記錄人生正常成長階段的照片?”
她補充說,這種傷害並不只侷限於年輕女性,尤其是在聊天機器人使用者本身也是未成年人的情況下。
未成年人可能並不知道,利用 AI 製作同齡人的色情圖片,實際上可能構成聯邦犯罪。
馬丁說:“過去,這可能只是一個男孩在同學的畢業年鑑照片上畫幾筆胸部的惡作劇。而現在,他手裡卻多了一枚可以投擲的手榴彈。”
儘管相關訴訟不斷增加,但目前還沒有出現對這家公司產生實質性影響的後果。
今年早些時候,美國 35 個州的兩黨州檢察長聯名致信 xAI,要求該公司採取更多措施,解決“這項技術造成的傷害”。
此外,在多個重要市場,州政府、聯邦政府以及其他國家和地區的監管機構也在調查該公司,重點關注其是否未能充分監管平臺上的兒童性剝削內容,或未能及時向有關部門報告。
對 Grok 的監管審查已經導致部分國家暫時封禁該服務或限制其產品功能,但迄今為止,相關調查尚未帶來重大罰款或實質性監管處罰。
“這對今天的孩子意味著什麼?他們以後還能不能放心地拍攝和分享那些記錄人生正常成長階段的照片?”
造成這種局面的部分原因在於,AI 技術的發展速度已經全面超過了監管程序。這不僅引發了一系列重要的政策問題,還涉及一場事關重大的全球技術創新競賽,而 AI 正是這場競賽的核心。
馬斯克擁有無與倫比的財富,其商業帝國還包括有望創下歷史紀錄的 SpaceX 上市計劃,這些因素也讓他有足夠的資源應對法律和監管層面的衝擊。
除非 SpaceX 因這些問題在美國或海外失去利潤豐厚的政府合同,否則投資者似乎並不太擔心相關風險。
投資諮詢公司 Equity Armor Investments 執行長盧克 · 拉哈巴里(Luke Rahbari)認為,競爭對手 Meta 最近與各州檢察長達成的一項和解,可以作為衡量潛在訴訟或監管行動可能對 SpaceX 造成何種影響的參考。
今年 8 月,Meta 因涉嫌違反兒童安全保護規定,與美國各州檢察長達成了總額 180 億美元(IT之家注:現匯率約合 1,203.8 億元人民幣)的和解協議。
拉哈巴里將這筆和解金稱為“九牛一毛”。他說:“如果按照這個標準或衡量指標來看,最終產生的影響將會非常有限。”
新問題,舊法律
生成式 AI 或許是一項新技術,但這些訴訟所涉及的核心法律卻已經存在了數十年。
多名原告依據一項名為“瑪莎法案”(Masha’s Law)的聯邦法律提出索賠。這項法律已經實施數十年,允許兒童性剝削案件的受害者向傷害自己的人尋求經濟賠償及其他法律救濟。
美國《通訊規範法》第 230 條也可能在這些案件中發揮重要作用。
這項頗具爭議、同樣已有數十年曆史的法律,主要規定網路平臺通常不需要為使用者釋出或上傳的內容承擔法律責任,相關責任主要由內容釋出者承擔。正是這一規定,讓 YouTube、Facebook 和 X 等網站得以在很大程度上免於為使用者釋出的內容承擔法律責任,並實現快速發展。
馬斯克一直強調,責任應當由產品使用者承擔,而不是由產品本身承擔。
他曾表示:“Grok 不會自發生成圖片,只有在使用者提出要求時才會生成。”
但代表受害者的律師馬丁認為,這些案件的性質有所不同,《通訊規範法》第 230 條並不能讓 xAI 免於為 Grok 自己生成的非法內容承擔責任。
馬丁指出:“使用者上傳的內容都是人物穿著完整衣物、完全無害的普通照片,但模型卻將這些照片轉化成了兒童性虐待材料。如果沒有 Grok,這些人根本不可能製作出現在那些圖片和影片。”
曾經,簡 · 多伊只把 AI 當作偶爾幫忙完成家庭作業的工具。她表示,自己過去性格外向,也熱愛體育運動。
但在高中後期,她大部分時間都待在家裡,與朋友逐漸疏遠,並一直將這場噩夢深藏心底。
她說:“這件事佔據了我的整個腦海。”
如今,她已經開始接受心理治療,這也是她人生中第一次尋求專業心理幫助。她也正在努力適應大學生活,但相關焦慮並沒有消失。
調查人員可能會在這些經過篡改的圖片每次重新出現在網上時通知她。對於這種可能性,她既感到恐懼,又不願意對此視而不見。
簡 · 多伊表示:“我最希望做的,就是讓更多人關注這件事,讓大家知道這種事情正在發生,而且任何人都有可能成為受害者。”
面對與馬斯克及其龐大的律師團隊對簿公堂的可能性,她並沒有退縮。她說:“Grok 必須為自己放任這些事情發生承擔責任。”
來源:IT之家·人工智慧 · ithome.com