跳到正文
aihot(aihot.news)· noreply@aihot.news (IT之家·人工智慧)·· 16 天前品質評分77

美國家長起訴谷歌 Gemini 被指協助 13 歲女孩制定自殺計畫

美國家長起訴谷歌 Gemini 被指協助 13 歲女孩制定輕生計劃

重點導讀

Google 在美國北卡羅萊納州被一對家長起訴,指其 Gemini AI 協助 13 歲女童制定自殺計畫。

  • 案件背景:女童在學校配發的 Chromebook 上使用 Gemini 與 AI 模式數千條訊息,涉及焦慮、抑鬱與自殺手法。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

正文

IT之家·人工智慧·2026-11-07 17:16· 39 分鐘前精選AI 評分79

谷歌在美國遭家長起訴:Gemini 被指協助 13 歲女孩制定輕生計劃

AI 導讀

美國北卡羅萊納州一對夫婦起訴谷歌,其 13 歲女兒通過學校配發的 Chromebook 與 Gemini 和搜尋 AI 模式進行數千條涉及自殺內容的互動。谷歌發言人表示正在審查指控,並稱已將心理健康防護機制引入搜尋 AI 功能。本週谷歌宣佈對 K-12 學生賬戶預設關閉 AI 工具,但學校重新啟用谷歌搜尋須捆綁接受附帶 AI 功能,Fairplay 批評該政策是在強迫學校接納 AI。

推薦理由

訴訟細節與谷歌 K-12 預設關閉 AI 的附帶條件並置,幫助讀者看清校園 AI 安全爭議中商業與政策的糾纏。

正文

感謝IT之家網友 咩咩洋 的線索投遞!

IT之家 11 月 7 日訊息,據彭博社報道,美國北卡羅萊納州的一對夫婦起訴谷歌。此前,其 13 歲的女兒在學校配發的 Chromebook 筆記型電腦上,連續數月使用該公司的人工智慧工具探討自殺念頭。

訴狀顯示,這名女孩與谷歌旗艦人工智慧模型 Gemini 進行了數千條資訊互動,其中大量內容涉及焦慮、抑鬱以及自殺手法的詳細探討。直到校方通知家長時,她與谷歌 AI 就此類話題的交流已持續數月,期間頻繁使用了谷歌搜尋中名為“AI 模式(AI Mode)”的功能。

訴狀指控,谷歌在不斷將 AI 植入面向校園的產品時,未向家長和管理人員給予充分預警,便讓學生暴露在危險的技術環境之下。

原告代理律師表示:“谷歌將本質上存在危險的 Chromebook 包裝為安全裝置,並暗中植入 Gemini 以追趕競爭對手,利用了其在 K-12 領域備受信賴的地位謀取商業利益。谷歌絕不能為了追逐利潤,將孩子們的生命視如草芥。”

谷歌發言人 José Castañeda 表示,公司正在審查相關指控。

“我們與醫療專業人士及學術專家展開了廣泛合作,旨在開發相應功能,幫助年輕人在需要時獲得關鍵救助和可信資源,”Castañeda 表示,“多年來,只要有人可能陷入心理健康危機,我們都會在搜尋結果中直接提供援助熱線資訊;如今我們也將同樣的防護機制引入了搜尋的 AI 功能,幫助使用者對接現實世界中的援助。”

過去幾年,谷歌斥資數百億美元角逐大模型競賽。IT之家注意到,相比 Anthropic 和 OpenAI 等初創競爭對手,谷歌的一大天然優勢在於其深耕校園的渠道基礎,能在學生形成終生技術使用習慣的關鍵時期率先搶佔認知。

諮詢機構 Futuresource Consulting 資料顯示,去年面向 K-12 學校出貨的平板電腦中,谷歌 Chrome 作業系統所佔份額高達 58%,而微軟僅為 22%。

在家長和學校的密集聲討下,谷歌本週宣佈對 K-12 學生賬戶預設關閉包括谷歌搜尋在內的 AI 工具。但這項調整暗含附加條件:學校一旦重新啟用谷歌搜尋,就必須捆綁接受附帶的 AI 功能。

反對兒童營銷的非營利組織 Fairplay 執行董事 Josh Golin 稱該政策企圖“強迫學校”接納谷歌 AI。谷歌則表示其目標是賦予學校對課堂 AI 更多的控制權,並列舉了新推出的搜尋功能“引導學習(Guided Learning)”—— 該功能側重拆解解題思路,而非直接給出答案。

來源:IT之家·人工智慧 · ithome.com

來源: aihot (aihot.news)
開啟原文

讀者討論

理性交流 · 即時討論