Grok 被指生成兒童性虐待材料,xAI 面臨多起集體訴訟
xAI 因旗下聊天機器人 Grok 被指遭用於把未成年人的普通照片篡改成兒童性虐待材料,面臨多起集體訴訟。原告主張 Grok 協助生成非法內容,律師估計符合索賠條件的受害者可能多達數千人。
推薦理由:報導從受害者案例串起多起集體訴訟,呈現 AI 生成非法內容時,開發商責任與《通訊規範法》第 230 條適用的爭議。
全網資訊安全動態:重大 CVE 與零日漏洞(0-day)、RCE、記憶體安全、系統應急修補、逆向工程、密碼學與數位隱私防護。
xAI 因旗下聊天機器人 Grok 被指遭用於把未成年人的普通照片篡改成兒童性虐待材料,面臨多起集體訴訟。原告主張 Grok 協助生成非法內容,律師估計符合索賠條件的受害者可能多達數千人。
推薦理由:報導從受害者案例串起多起集體訴訟,呈現 AI 生成非法內容時,開發商責任與《通訊規範法》第 230 條適用的爭議。
Google DeepMind公佈 AlphaProof Code,將 Signal 核心程式庫 libsignal 的安全性形式化證明延伸至編譯後的 AArch64 Linux 機器碼。
推薦理由:這項工作把 Signal 安全性證明延伸至特定版本 libsignal 編譯後的 AArch64 Linux 機器碼,並交代驗證範圍與底層假設。
推薦理由:這項工作呈現 AI 助理如何與人工撰寫規格、Lean 證明檢查器協作,將 Signal 程式碼的安全性驗證延伸至編譯後機器碼。
The Verge 向電視與串流裝置業者提出 17 個是非題,比較各家如何處理語音、觀看紀錄、裝置遙測與使用者資料。調查取得多家業者回覆,部分公司未直接回答問題,Hisense 則未回應聯絡。
推薦理由:這份調查把 17 個隱私問題逐項交給多家電視與串流裝置業者,呈現語音、觀看紀錄和退出設定的差異。
Firefox 在 Firefox 145 加入最新指紋辨識防護,減少瀏覽器與裝置資訊的可辨識差異,降低追蹤程式跨網站辨認使用者的精確度。
推薦理由:研究以近 2,500 萬名 Firefox 使用者的測量資料找出可降低指紋辨識度的瀏覽器特徵,並將結果轉化為實際防護,呈現隱私研究如何進入日常瀏覽。
Claroc 檢查的 37,571 個仍線上 Grok 建構應用中,有 35,578 個(94.7%)無需登入即可存取;報告指出,發布時預設選中「任何擁有連結的人」,應用的獨立子網域也可透過被動 DNS 資料庫搜尋。
推薦理由:報告以實際檢查的應用數量、預設分享設定與暴露案例,呈現 Grok 建構應用的存取風險及其成因。
Grok 建置的應用程式中,有 94.7% 可讓任何取得連結的人存取,Claroc 指出其中包含病患資料、明文密碼及 SpaceXSI 內部檔案。
推薦理由:Claroc 的檢查呈現 Grok 應用預設分享設定與子網域可搜尋性如何擴大資料暴露範圍,並列出已確認的個資與企業資料案例。
Times Car 外洩事件涉及 1,464,800 份遭傳出的加密身分證件影像;日本金融機構正加快改用 IC 晶片查驗,因應照片可能遭複製或偽造的風險。
推薦理由:文章整理日本身分證件影像外洩與銀行改採 IC 晶片查驗的脈絡,並說明縮短影像儲存時間可如何降低資料留存風險。
三名男子涉嫌利用 AI 變造企業主管與律師的聲音及影像,冒充兩種身分誘使員工匯出大筆款項,遭到逮捕。 - 作案方式:嫌犯先冒充企業主管,要求員工協助敏感金融交易,再冒充大型國際律師事務所的律師,指示員工匯款。
推薦理由:此案呈現 AI 變造聲音與影像如何串連主管及律師身分冒充,誘使員工匯款,具體說明企業詐欺的作案流程。
推薦理由:通報指出有 35,578 個 Grok 建置的應用程式未經登入即可存取,並說明搜尋 DNS 紀錄可能找到難以猜測的網址。
研究者在 GA100 上發現電壓故障注入漏洞,能改寫熔絲控制器設定,將 CMP 170HX 8GB 顯示卡解鎖為最多可使用 80 GB 記憶體的裝置,並啟用更多運算單元與 PCIe 功能。
推薦理由:文章拆解 GA100 熔絲控制器與電壓故障注入流程,並以實測說明 CMP 170HX 解鎖後的記憶體、運算與 PCIe 變化。
美國資料公司將 RL 環境賣給中國 AI 實驗室,ChinaTalk 分析這類交易如何協助模型後訓練、可能涉及的雙重用途風險,以及現行規範的限制。 - RL 環境的用途:環境搭配評分規則,讓模型反覆練習特定任務;文章指出,購買既有環境可能節省中國實驗室的推論運算資源與開發時間。
推薦理由:文章梳理美國資料供應商向中國 AI 實驗室出售 RL 環境的情況,並比較潛在雙重用途風險與交易對模型差距的實際影響。
FeeSaver 說明如何在簽署 TRON 上的 USDT(TRC-20)轉帳前,模擬 Energy 消耗、檢查 TRX 餘額並設定 fee_limit,以降低 OUT_OF_ENERGY 失敗風險。
推薦理由:文章將 TRON 資源計價、模擬結果判讀與 fee_limit 設定串成簽名前檢查流程,並說明如何用收據比對估算與實際消耗。
Google Cloud 推出醫療專用 AI 解決方案 Gemini for healthcare,可串接電子病歷與其他醫療資料,協助醫護人員整理病史及處理保險審查流程。
推薦理由:報導交代 Gemini for healthcare 如何串接病歷與保險流程,也說明連接器的讀取限制及專業人員保留最終審查決策。
Microsoft 研究人員展示,修改模型中不到 10 個較少啟用的神經元,就能在觸發字串出現時讓 AI 助理模型輸出攻擊者指定的命令,無須重新訓練模型。
推薦理由:研究將代理程式模型的風險連結到部署前的權重來源與檢查流程,並提供偵測率及誤報率,呈現現有防護的能力與限制。
Railway 表示,攻擊者在 10 月的入侵事件中竊取客戶儲存的 AI 服務金鑰,造成估計 740,000 美元未授權使用費;若 AI 服務商不退款,Railway 承諾自行負擔相關費用。
推薦理由:Railway 說明攻擊者如何從建置系統一路取得解密憑證,並交代受影響範圍、復原措施與各 AI 服務商的退款安排。
Linux 路由查詢效能更新至 Linux 7.3;文章比較 IPv4 與 IPv6 在不同路由表規模下的基準測試,並分析效能回歸原因。 - IPv6:Linux 6.5 的 SRSO 緩解措施帶來約 200 ns 的效能回歸;作者指出,這項緩解措施會在每次函式返回時增加約 20 個週期。
推薦理由:文章以多種路由表規模比較 Linux IPv4 與 IPv6 查詢效能,並追查核心版本變化與 SRSO 緩解措施對結果的影響。
推薦理由:此事件揭示了建置隔離缺陷可導致客戶 AI 金鑰被盜,造成高額未授權費用,提醒平臺需加強安全隔離與金鑰管理,並促使業界重視雲端環境的許可權分離與加密保護,避免類似大額損失重演。
Pull Request 模板 讓 AI 產生程式的審查更透明,並透過自動檢查確保關鍵資訊被填寫\n\n• 模板位置 放在 .github/ GitHub 會自動載入\n• AI 份額欄位 勾選 No AI-generated code 或 Larger parts generated with AI 等。
推薦理由:此文章說明如何透過 PR 模板與自動檢查,降低 AI 產生程式的自動化偏誤,提升審查品質,並可直接整合至現有工作流程。
MCP v2.4.0 釋出安全修復更新,修復六項漏洞,涵蓋檔案系統、Git 與 Fetch 服務。 - 安全修復:修復六項漏洞,涵蓋檔案系統、Git 與 Fetch 服務。
推薦理由:此版本修復多項安全漏洞,使用者應即時升級以避免潛在攻擊,確保系統安全與資料完整。