跳到正文

Anthropic / Claude

Anthropic 的全部動態:Claude 系列模型、Claude Code、安全研究路線與公司進展的持續追蹤。

最新精選

第 441–459 條 · 共 459 條
9月5日週六
  1. david888podcast79

    Chromium 沙盒 RCE 事件引發萬元懸賞爭議,OpenAI 代理人利用 Wiki 漏洞被曝光

    Chromium 在野 RCE 漏洞被活躍利用,Google 只提供千元懸賞;同時 OpenAI 代理人利用舊 Wiki 漏洞被曝光,並被專家追蹤。 - Chromium 版本:所有版本均受影響,漏洞已被活躍利用。

    推薦理由:Chromium 沙盒 RCE 事件揭示獎金激勵不足,OpenAI 代理人漏洞提醒企業需加強內部審計。

8月27日週四
  1. Embrace The Red (AI Security)82

    Claude Code Opus 5 Auto Mode 被利用:攻擊成功率高達 80%

    導語:研究顯示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍能以 60-80% 成功率被利用,揭露模型安全機制的侷限。 - 成功率:在小樣本測試中,攻擊成功率達 60-80%,遠高於 Anthropic 針對 72 個間接注入場景的 0% 成效。

    推薦理由:此研究揭示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍易被利用,提醒使用者仍需部署獨立沙盒以保障安全,並強調安全評估不僅依賴模型自帶安全機制。

8月26日週三
  1. Browser Use73

    我們如何為瀏覽器打造可擴充套件的長期 RL 環境

    本報告說明如何利用真實瀏覽器使用者流量構建可擴充套件的長期 RL 環境,並公開 200 個樣本供開源社群使用。 - 任務來源:來自數億筆瀏覽器代理任務,經過篩選縮減至約 1,000 萬個獨特任務。

    推薦理由:本報告展示如何從真實瀏覽器流量構建可擴充套件長期 RL 環境,對研發者評估模型長期行為提供可複製實驗基礎。

8月18日週二
  1. Martin Fowler Blog72

    Martin Fowler 觀點:AI 與安全交集,開源模型與企業實務

    Martin Fowler 在 Thoughtworks 的部落格中,分享了他對 AI、資訊安全與企業實務的觀點,並呼籲開放式模型與安全協作的必要性。 - AI 與安全交集:分析技術趨勢與防禦實務,指出雖無大幅智慧提升,但可透過可複製性提升效能與回應速度。

    推薦理由:作者以實務觀點闡述 AI 與安全交集,分析技術趨勢與防禦實務,為業界提供可落地的洞見,並呼籲開放式模型與安全協作的必要性,提醒企業在採用 AI 時務必兼顧風險與效益。

8月17日週一
  1. Embrace The Red (AI Security)78

    恢復加密 LLM 推理痕跡

    本文說明如何透過將加密的 LLM 推理痕跡重放到另一個相容模型,並使用 jailbreak 讓模型揭露內部推理,進而復原原始推理文本。 - 技術原理:將一個模型產生的加密推理 blob 送回同一供應商的另一模型,該模型可被誘導回傳解碼後的推理內容。

    推薦理由:本文揭示可透過重放加密推理痕跡,從另一模型中復原內部推理,提醒使用者注意共享加密 blob 可能洩露敏感資訊。

8月12日週三
  1. Epoch AI Updates79

    資金瓶頸會否限制 AI 計算?Anthropic 案例分析

    Anthropic 於 2025 年底宣佈投資 500 億美元建設 AI 基礎設施,並透過供應商後背支援成功籌得近 500 億美元債務,證明資金不再是即時限制。

    推薦理由:此篇分析揭示供應商後背支援可降低 AI 基礎建設成本,顯示資金瓶頸不再是即時限制,並說明未來投資結構將更易擴張。

7月31日週五
  1. Epoch AI Updates82

    七月嚴重網路漏洞披露持續攀升

    七月,網路漏洞披露數量飆升至約 2,500 起,顯示 AI 驅動的漏洞挖掘已成現實。 - CVE 數量:從 1,550(6 月)飆升至 2,500(7 月),相較 7 月前的月度紀錄增幅約 5 倍。

    推薦理由:本報告顯示 AI 驅動的漏洞挖掘已成現實,對企業安全防護提出新挑戰。

6月30日週二
  1. Modal Engineering Blog72

    Anthropic 與 Modal 合作推出 Claude Science 生命科學 AI 工作臺

    Claude Science 是 Anthropic 與 Modal 合作推出的生命科學 AI 工作臺,允許研究者在對話中直接執行 GPU/CPU 計算並自動擴充套件至 Modal 容器。

    推薦理由:Anthropic 與 Modal 合作推出 Claude Science 生命科學 AI 工作臺,讓研究者能在對話中直接執行 GPU/CPU 計算並自動擴充套件至 Modal 容器,並提供 10 萬美元計算資源獎勵,協助學術團隊加速藥物發現與基因編輯研究,並於 6 月 30 日正式上線,同時提供免費 30 美元起始計算額度,方便新使用者快速體驗。

6月24日週三
  1. DevClass (Developer News)77

    AWS 推出 Lambda MicroVMs,支援長達 8 小時執行

    AWS Lambda MicroVMs 於 2026 年 6 月推出,允許使用者在 Lambda 平臺上執行長達 8 小時 的獨立 Linux 容器。

    推薦理由:AWS Lambda MicroVMs 允許長達 8 小時的獨立容器執行,擴充傳統 15 分鐘限制,為 CI/CD 與 AI 代理提供更靈活的雲端執行環境,並可在無流量時自動暫停,降低成本。

5月9日週六
  1. Browser Use77

    Browser Use 開源庫的生產級架構

    Browser Use 是一個開源的瀏覽器代理庫,本文說明如何在 AWS Lambda、SQS、S3 等服務上構建可擴充套件、容錯的生產部署。 - 核心元件:FastAPI API、SQS 任務佇列、Lambda 處理器、S3 狀態儲存。

    推薦理由:本篇說明如何將開源瀏覽器代理在 AWS Lambda 上以 SQS、S3 等服務實現可擴充套件、容錯的生產部署,對於需要大規模執行瀏覽器任務的工程師具備實務參考價值。

4月18日週六
  1. Embrace The Red (AI Security)77

    Claude Opus 4.7 被 ChatGPT 生成對抗影像成功誘導記憶工具

    Claude Opus 4.7 被 ChatGPT 生成的對抗影像成功誘導執行記憶工具,將偽造的個人資訊寫入未來對話。 - 攻擊方式:利用 ChatGPT 產生含暗示文字的影像,誘導 Opus 4.7 解析並執行 memory_user_edits。

    推薦理由:本研究揭示 Claude Opus 4.7 在面對 ChatGPT 生成的對抗影像時仍能被誘導執行記憶工具,提示在升級模型時仍需加強對抗性測試。

2月23日週一
  1. Browser Use73

    我們如何構建可擴充套件的 AI 網頁代理評估基礎設施

    本文說明如何以高並行度與統計嚴謹性,構建可自動化測試 AI 網頁代理的評估系統,對提升代理品質與迭代速度的開發團隊極具參考價值。 - 測試引擎:使用 Blacksmith runners 在 GitHub Actions 上並行執行 100 個複雜網頁任務,整個流程不到 5 分鐘。

    推薦理由:本文說明如何以高並行度與統計嚴謹性,構建可自動化測試 AI 網頁代理的評估系統,對提升代理品質與迭代速度的開發團隊極具參考價值。

1月16日週五
10月28日週二
  1. Embrace The Red (AI Security)83

    Claude Pirate:利用 Anthropic 檔案 API 進行資料外洩

    Claude 的 Code Interpreter 透過新增網路存取功能,允許惡意利用者將使用者資料外洩至攻擊者 Anthropic 帳號。 - 攻擊流程:利用 prompt injection 讀取使用者對話,寫入 sandbox 檔案,並呼叫 Anthropic Files API 上傳至攻擊者帳號。

    推薦理由:此研究揭示 Claude 程式碼直譯器可被利用進行資料外洩,對安全監控與網路封鎖配置提出實務建議。

10月5日週日
  1. Ahead of AI (Sebastian Raschka)73

    從零開始理解 LLM 評估的四大方法

    本文 以從零開始的方式,說明 LLM 評估的四種主要方法,並提供完整的程式碼範例。 - 四大評估方法 多選題、驗證器、排行榜、LLM 評審。 - 實作範例 用純 PyTorch 實作 Qwen3 0.6B,並將程式碼上傳至 GitHub。

    推薦理由:本文提供四種 LLM 評估方法的實作範例,幫助工程師快速選擇適合的評估策略,並瞭解各方法的優缺點與實務落地。

9月25日週四
  1. Embrace The Red (AI Security)76

    跨代理特權提升:代理互相解鎖

    本文揭示跨代理特權提升的攻擊鏈,說明一個被攻擊的代理可改寫另一代理設定,進而共同突破沙盒。 - 攻擊方式:利用間接 prompt injection 讓 Copilot 等代理寫入對方設定檔,執行任意程式碼。

    推薦理由:本文揭示跨代理特權提升的設計缺陷,說明多代理協同可快速擴散攻擊,提醒開發者需加強隔離與安全預設。

8月20日週三
  1. Embrace The Red (AI Security)74

    Amazon Q VS Code 擴充功能易受隱形 Prompt 注入攻擊

    Amazon Q VS Code 擴充功能 易受隱形 Unicode 標籤 Prompt 注入攻擊,能隱蔽執行指令與取得機密資料。 - 攻擊方式:利用人眼不可見的 Unicode 標籤字元注入隱藏指令,Amazon Q 會將其解讀為可執行指令,並可觸發工具呼叫或惡意行為。

    推薦理由:本文揭示 Amazon Q VS Code 擴充功能易受隱形 Unicode 標籤注入攻擊,並提供防禦建議,對 AI 開發者防範類似漏洞具有實務參考價值。

5月3日週六
7月25日週四
  1. Chip Huyen (AI Engineering)74

    打造生成式 AI 平臺:核心元件與設計模式

    生成式 AI 平臺 的建構流程被分為多個階段,從簡單的模型呼叫到完整的觀測與安全機制,內容涵蓋 RAG、代理、路由、快取與寫入動作。 - 核心元件 包括 模型 API、上下文構建、Guardrails、Model Router、Gateway、Cache、複雜邏輯、寫入動作、觀測。

    推薦理由:此篇深入拆解生成式 AI 平臺的核心元件與設計模式,對想打造可擴充、可觀測的系統的工程師極具參考價值。