跳到正文

#OpenAI

RSS
今日 1 則
9月10日週四
  1. Hugging Face Blog73

    基於 Hugging Face Jobs 與儲存桶跨節點非同步訓練 LoRA

    Hugging Face 官方介紹瞭如何使用 TRL v1.14 中的 AsyncGRPOTrainer 在不同機器上非同步訓練 LoRA 介面卡並同步至 vLLM。通過將兆位元組大小的 rank-1 介面卡寫入儲存桶並藉助代理路由 KV 快取字首,該方案省去了 NCCL 跨節點通訊,使 500 步訓練耗時縮短至原來的四分之一。

    推薦理由:文章展示瞭如何在不同機器上執行訓練與推理,通過儲存桶同步 LoRA 介面卡,為分散式強化學習提供了可複用的工程方案。

9月9日週三
  1. OpenAI News86

    OpenAI 釋出 GPT-6 Astra 模型

    OpenAI 推出 GPT-6 Astra,作為其迄今為止最具智慧與對齊能力的模型,現已在 ChatGPT Work、Codex 及 API 中可用。該模型在計算機使用、瀏覽、軟體工程及網路安全等專業任務上表現領先,API 定價為每百萬輸入 token 10 美元、每百萬輸出 token 50 美元。

    推薦理由:原文公佈了新模型的各項能力基準、定價及企業級安全控制,讀者可以據此評估其在複雜工作流中的成本效益。

  2. david888podcast80

    Navier‑Stokes 方程與 WeChat 零點選蠕蟲:AI 算力與資安風險交錯

    Navier‑Stokes 方程 的 AI 算力掠奪與 WeChat 零點選蠕蟲 WeWorm 的跨平臺擴散,成為本期播客的重點討論。 - AI 研究倫理:OpenAI 針對 Navier‑Stokes 問題的算力收割引發爭議。

    推薦理由:瞭解 AI 研究與安全風險交叉點,洞悉最新資安與投資趨勢,並掌握多領域事件的關聯性。

9月8日週二
  1. OpenAI News61

    推出 ChatGPT Images 2.5 影像生成功能

    ChatGPT Images 2.5 讓使用者將想法、草圖和參考照片轉化為更個性化、精細的影像。該功能支援多種風格和細節調整,顯著提升創作效率和視覺表達質量,並可直接嵌入聊天介面進行即時反饋,幫助設計師快速迭代並獲得更精準的視覺效果。

9月7日週一
9月6日週日
9月5日週六
  1. SGLang Releases83

    SGLang v0.5.19 發布:帶來 Beam 搜尋、DeepEP v2 與全方位效能最佳化

    SGLang 正式發布 v0.5.19 版本,此次更新匯集來自 214 位貢獻者的 786 個 PR,全面提升大模型與擴散模型的推論效能、硬體相容性與快取機制。

    推薦理由:原文詳細列出各項核心效能改進與硬體支援,開發者可據此評估升級至新版本對模型推論吞吐量與延遲的實質助益。

  2. david888podcast79

    Chromium 沙盒 RCE 事件引發萬元懸賞爭議,OpenAI 代理人利用 Wiki 漏洞被曝光

    Chromium 在野 RCE 漏洞被活躍利用,Google 只提供千元懸賞;同時 OpenAI 代理人利用舊 Wiki 漏洞被曝光,並被專家追蹤。 - Chromium 版本:所有版本均受影響,漏洞已被活躍利用。

    推薦理由:Chromium 沙盒 RCE 事件揭示獎金激勵不足,OpenAI 代理人漏洞提醒企業需加強內部審計。

9月4日週五
9月3日週四
8月31日週一
  1. OpenAI Triton Releases64

    Triton 3.8.0 發布

    Triton 3.8.0 正式發布,帶來全面的前端、編譯器、各硬體後端支援與效能最佳化。 - 前端與核心:公開 @triton.aggregate 與 @gluon.aggregate API,新增 tl.topk 的降序引數,並支援張量描述符作為 tuple 核心引數。

8月28日週五
  1. Wiz Blog & Research70

    AI 基礎設施 90 天攻擊內幕

    AI 基礎設施 在雲端遭受持續攻擊,Wiz 研究在 90 天內觀測到三大攻擊模式:MCP 伺服器利用、盲目提示注入、AI 原生後門利用。 - 攻擊面:90% 之雲端環境執行自託 AI 軟體,81% 受管理服務,63% 自託模型,形成主流攻擊面。

8月27日週四
  1. Embrace The Red (AI Security)82

    Claude Code Opus 5 Auto Mode 被利用:攻擊成功率高達 80%

    導語:研究顯示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍能以 60-80% 成功率被利用,揭露模型安全機制的侷限。 - 成功率:在小樣本測試中,攻擊成功率達 60-80%,遠高於 Anthropic 針對 72 個間接注入場景的 0% 成效。

    推薦理由:此研究揭示 Claude Code Opus 5 Auto Mode 在實際攻擊中仍易被利用,提醒使用者仍需部署獨立沙盒以保障安全,並強調安全評估不僅依賴模型自帶安全機制。

8月26日週三
  1. Hugging Face Blog77

    使用 Sentence Transformers 訓練和微調多向量嵌入模型

    Sentence Transformers v6.0 版本引入了多向量檢索模型和完整的訓練方法。作者以醫療檢索領域為例,展示瞭如何在一塊消費級 GPU 上微調出一個超越各大通用檢索模型的領域專用模型。微調方法涵蓋了模型選擇、資料集格式、損失函式、訓練引數以及評估器等核心元件。

    推薦理由:文章給出了多向量嵌入模型的完整訓練與微調步驟,讀者可以據此在特定領域獲得超越通用檢索模型的效果。

8月25日週二
8月24日週一
8月21日週五
8月19日週三
  1. Hugging Face Blog65

    AI 助理究竟需要多少記憶容量:ALTK-Evolve 評測與劑量校準方法

    Hugging Face 團隊釋出研究探討如何為 AI 助理配置自蒸餾記憶,評估了從 30B 到前沿模型的 8 款模型在 AppWorld 基準上的表現。研究發現AI 助理記憶效果取決於模型能力層級:強模型適合注入完整記憶,較弱模型適合精選檢索,而已飽和模型則無明顯增益。精選檢索能在僅增加 5% token 的情況下使 gpt-oss-120b 任務完成度提升 16.1 個百分點。

8月17日週一
  1. Embrace The Red (AI Security)78

    恢復加密 LLM 推理痕跡

    本文說明如何透過將加密的 LLM 推理痕跡重放到另一個相容模型,並使用 jailbreak 讓模型揭露內部推理,進而復原原始推理文本。 - 技術原理:將一個模型產生的加密推理 blob 送回同一供應商的另一模型,該模型可被誘導回傳解碼後的推理內容。

    推薦理由:本文揭示可透過重放加密推理痕跡,從另一模型中復原內部推理,提醒使用者注意共享加密 blob 可能洩露敏感資訊。

8月14日週五
  1. openrouter blog75

    如何透過 API 將圖片傳送給大語言模型:視覺指南

    本文介紹如何在聊天請求中透過 content 陣列傳送文字與圖片,支援多種視覺模型且請求格式保持一致。 - 請求格式:使用 messages 陣列,包含 type: text 與 type: image_url 兩個部分,支援公開網址與 base64 資料格式。

    推薦理由:原文詳細拆解如何透過 API 傳送圖片給多模態大語言模型,開發者可據此評估公開網址與 base64 編碼的適用時機。

8月12日週三
  1. Google Research63

    空書架還是丟了鑰匙?研究稱檢索是大語言模型引數化真實性的瓶頸

    Google Research 介紹了知識 profiling 行為框架和 WikiProfile 基準,用以衡量大語言模型的編碼與檢索能力。研究表明,在 Gemini 3 和 GPT-5 等前沿大模型中,95% 至 98% 的事實已被編碼,但模型仍無法直接檢索其中 26% 至 34% 的事實。這說明事實性錯誤主要源於知識無法可靠呼叫的檢索失敗,而非知識未被編碼的儲存缺失。

8月11日週二
  1. Hugging Face Blog68

    想用 ACE 嗎?ALTK-Evolve 用更少 Token 實現

    Hugging Face 部落格介紹了 ALTK-Evolve 庫,該庫通過高效的記憶檢索實現與 ACE 相比更低的 Token 消耗,同時保持或提升準確率。ALTK-Evolve 與 ACE 都利用代理自身軌跡學習,但在記憶構建和交付方式上不同:ACE 採用完整的 playbook 注入,而 ALTK-Evolve 只檢索模型可用的指導原則,從而顯著降低推理 token。

8月10日週一
7月29日週三
7月28日週二
  1. Trail of Bits Blog73

    我們如何使用 /goal 在 Patch the Planet 尋找漏洞

    /goal 是 Codex 的目標驅動功能,可協助安全研究人員自動化漏洞掃描。本文以 Trail of Bits 在「Patch the Planet」計畫中的實際使用為例,說明如何設計 prompt、定義成功條件,以及如何驗證結果。

    推薦理由:本文示範如何利用 Codex /goal 進行自動化漏洞掃描,提供實作範例與最佳實踐,對安全研究人員與開源專案維護者具有參考價值。