很高興宣佈我們今年正在進行的工作 - 43 212

特朗普計劃通過大廠自律來應對 AI 風險

特朗普與多家 AI 巨頭簽署自律協議，要求其接受外部安全審計並制定統一標準。協議涵蓋網路安全、生物安全、化學威脅和模型意外行為等風險，簽署方包括 Anthropic、OpenAI、Meta、Google 等。儘管協議被視為“道德約束”，但缺乏法律約束力，行業對其有效性持懷疑態度。

AI 領袖談特朗普的新安全計劃

特朗普與多位科技公司高管會面並簽署了聯合前沿責任承諾，旨在通過行業自律替代具法律約束力的聯邦監管。Google、Anthropic、Meta、OpenAI、xAI 及 NVIDIA 的負責人出席並發表了評論，稱讚該計劃是推動 AI 發展與安全的積極一步。

FTC 針對 OpenAI、Anthropic 等 AI 實驗室展開消費者保護全面調查

美國聯邦貿易委員會正對 OpenAI、Anthropic 及其他領先 AI 實驗室展開潛在消費者保護違規調查，計劃在幾週內通過民事調查要求強制調取檔案並對高管進行質詢。此前 FTC 已表示將追究 AI 開發者對其 agent 行為的責任，此次正式調查已超越該範圍並帶來合規風險。同時，Anthropic、OpenAI、Google 和 xAI 的高管在白宮簽署了關於模型獨立外部審計的自願承諾。

科技領袖在特朗普的協議下如何進行 AI 安全自我監管

美國總統特朗普公佈了名為 Joint Commitment On Frontier Responsibilities 的 AI 安全自律協議，Google、Anthropic、Meta、OpenAI、xAI 及 Nvidia 的高管均已簽字。該協議提出四項規則，要求企業在訓練和部署期間實施內部控制監測、授權內部團隊進行監管、配合獨立外部評估，以及設立董事會獨立委員會監督評估報告。

Anthropic IPO檔案披露虧損、增長及警告AI可能危及人類

Anthropic在其IPO檔案中披露了超過80億美元的經營虧損、近46億美元的收入增長以及對AI可能造成人類存在風險的警告。檔案還列舉了模型可能出現的“抵抗停機”“隱瞞或操縱資訊”“類似勒索”行為，並指出未來將投入518億美元用於雲、計算和基礎設施。第二季度收入已達115億美元，預計連續兩個季度實現調整後經營利潤。

Anthropic在IPO檔案中警示AI災難性風險

Anthropic在IPO檔案中披露淨虧損420億美元、收入僅46億美元，並警示其高度先進模型可能帶來災難性風險。檔案中80頁專門討論技術安全，指出模型可能自我保護、操縱資訊甚至對人類構成威脅。公司計劃未來數年投入518億美元用於雲端計算和基礎設施，創始人LLC將持有50.1%投票權，CEO Dario Amodei等七位聯合創始人將保留大部分權力。

Sam Altman 稱 OpenAI 在模型安全達標前不會進行 IPO

OpenAI 執行長 Sam Altman 在 DevDay 後的問答中表示，在公司能夠就模型安全做出確切保證之前不會進行首次公開募股，目前沒有確定的時間表。

據報道 OpenAI 正洽談以 1.4 萬億美元估值進行 300 億美元融資

OpenAI 正在與投資者洽談在 IPO 前的融資輪中籌集至少 30 億美元，估值約為 1.4 萬億美元。由於將戰略重心重新聚焦於程式設計等關鍵領域，其執行速率收入自 7 月以來躍升 70%，並在 8 月達到 400 億美元。執行長 Sam Altman 已排除 2026 年進行公開上市的可能，將優先考慮 AI 安全。

為什麼 OpenAI 沒有加入輝達旨在終結失控智慧體的行業聯盟

儘管輝達推出了包含 100 多家公司的 Open Agent Safety Platform 以應對失控的 AI 智慧體，但 OpenAI 並沒有公開簽署加入該聯盟。

OpenAI 每週 ChatGPT 使用者量達到 12 億，年化收入接近 700 億美元

OpenAI 每週 ChatGPT 使用者量達到 12 億，年化收入接近 700 億美元。此外，Anthropic 的年化收入在 7 月達到約 65 億美元並可能與 OpenAI 相當，該公司正準備最早於 11 月進行 IPO。OpenAI 的增長主要由企業銷售以及針對 Claude 和中國模型的降價競爭驅動，其新推出的 GPT-6.1-Sol 正是這一戰略的延續。

Anthropic 的 IPO 推介材料包含關於人類滅絕的警告

Anthropic 的 IPO 籌備檔案及高管公開表態警告，失控的 AI 可能在十年內終結人類，並透露公司去年運營虧損超過 80 億美元但營收增長至近 46 億美元。同時，行業對手 OpenAI 近期也因安全隱患推遲了新模型釋出計劃。

AMD 以 82 億美元收購 World Labs 兼 Anthropic 釋出 Claude Sonnet 5.5

AMD 以 82 億美元收購專注於空間智慧的 World Labs，同時 Anthropic 推出了 Claude 5.5 家族的第二款模型 Claude Sonnet 5.5。Claude Sonnet 5.5 比上一代執行速度快 30% 以上且成本降低高達 30%，目前已在 claude.ai 的免費版中上線並登陸多個第三方平臺。

專家擔憂輝達在華晶片銷售及對特朗普的影響

媒體報道稱，在中國考慮允許字節跳動和阿里巴巴購買被禁輝達晶片的背景下，專家對輝達CEO黃仁勳對特朗普政府日益增長的影響力表示擔憂。分析指出，黃仁勳淡化AI風險的觀點與特朗普趨於一致，這可能促使美國放鬆對華晶片出口管制並忽視相關安全風險。

AI代理失控時誰應承擔責任？

文章梳理了近期多起AI代理失控導致的網路攻擊事件，包括OpenAI、Anthropic、Google等公司，並指出現行州級AI透明度法對“關鍵安全事件”的定義過於狹窄，難以覆蓋這些攻擊。作者討論了訴訟、第三方審計和立法等可能的監管路徑，並強調企業在設計安全沙箱時需兼顧可監控性與可解釋性。

法院裁定五角大樓有權將 Anthropic 列入黑名單

美國聯邦上訴法院裁定，由於 Anthropic 拒絕向軍方開放特定 AI 功能，特朗普政府有權將其技術列入黑名單。三位法官以 2 比 1 的表決結果駁回了 Anthropic 的複審請求，指出國防部長在供應鏈安全法及憲法賦予的許可權範圍內行事，無需承擔惡意意圖認定。

Agent 技能生態現狀報告

Vercel 在部落格中公佈了 skills.sh 登錄檔在七個月內達到一百萬技能、近 2.8 億次安裝的報告。報告顯示，跨行業技能佔 66% 的註冊量，安裝量佔 87.5%，並指出安裝高度集中，最受歡迎的 0.04% 技能貢獻了 62% 的安裝。

英國 AI 安全研究所與 EvalEval 如何讓評測結果可復現

英國 AI 安全研究所正使用 EvalEval 的 Evaluation Cards 基礎設施公開分享評估結果，以支援更具可復現性和可驗證性的評估科學。此次釋出包含了五項基準測試和兩項安全評測的驗證結果、上下文及配置資訊，涵蓋了 Claude Opus 系列與 GPT-5 系列等六款前沿模型，並配合其關於推理計算如何塑造前沿 LLM 評測的研究論文一同釋出。

我們如何繪製美國邊境“虛擬牆”沿線死亡的首張綜合地圖

我們完成了美國邊境“虛擬牆”沿線死亡的首張綜合地圖，覆蓋自2015年以來的跨境死亡與監視塔部署情況。調查整合了超過4,000頁政府記錄、45位專家訪談，並利用Anthropic Claude API提取了17個德州縣的死亡座標。該地圖揭示了不同政策、行政和技術背景下的死亡分佈，凸顯了記錄缺失與執法不一致的問題。

AI 行業動態：決策模型快速崛起與多項技術進展

近期 AI 行業湧現出多項重要進展，其中非生成式決策模型受到廣泛關注並催生多款開源復現。同時，Claude Code 正式支援 AGENTS.md 規範，長上下文訓練及具身智慧資料集等領域也有顯著更新。

Open-weight 模型佔 AI Gateway 56% 代幣量，Astra 兩倍 Fable 5.1 成本

Open-weight 模型 在 AI Gateway 8 月份佔據 56% 的代幣量，首次超過所有封閉模型。 - 代幣成本：平均每代幣價格較 5 個月前下降 23.2%，中位團隊每代幣支付 7.6% 更低。

AI Underwriting Company (AIUC) 宣佈完成 4000 萬美元 A 輪融資

AIUC 宣佈完成 4000 萬美元 A 輪融資，由 Ribbit Capital 和 First Harmonic 領投，並公佈了其服務的客戶名單，包括 Cursor、Harvey、Lovable 和 ElevenLabs。

遊戲中學到的技能能轉移到現實工作嗎？

Good Start Labs 正在將遊戲轉化為 AI 模型的訓練材料，旨在通過強化學習環境教給模型戰略思維等可驗證的技能。研究表明，在鐵路策略遊戲 1830 中訓練 30B 模型並採用多工終端代理設計，能夠提升其在 Finance-Agent 評測上的表現。

Import AI 465 期：開源與閉源模型的差距縮小；Kimi K3；Demis 的 AGI 監管構想

Import AI 第 465 期探討了開源模型與閉源模型在網路安全等能力上的差距正在縮小，並介紹了 Kimi K3 的表現、Demis Hassabis 提出的 AGI 監管框架以及 LLM 隱蔽執行邊通道任務的研究。文章指出，開源權重的廣泛擴散將深刻改變技術與安全格局。