跳到正文

#OpenAI

RSS
今日 1 則
12月19日週五
12月5日週五
  1. Embrace The Red (AI Security)47

    **title_zh:** AI 產業中的偏差正常化

    summary_zh: 作者指出,AI 產業正面臨「偏差正常化」風險,企業與開發者過度依賴 LLM 輸出,可能導致安全漏洞與意外行為。 - 概念來源:此術語源自社會學家 Diane Vaughan 的「偏差正常化」概念,最初用於解釋美國航天挑戰者號災難中警示被忽視的過程。

12月2日週二
  1. OpenAI Alignment Research Blog70

    實務驗證大型程式碼的可行方法

    本文提出一套在大規模自動編碼環境下驗證程式碼的實務方法。 - Codex 內建自動程式碼審查模型能以高精度快速發現錯誤。 - 透過倉庫存取與執行許可權,模型在實際 PR 中召回率提升、誤報率降低。 - 內部與外部每日處理超過 100k PR,已協助避免多起關鍵失誤。 - 研究提供可配置的精度/召回平衡引數,供開發者根據需求調整。

10月29日週三
8月25日週一
8月24日週日
8月5日週二
  1. Ollama Blog76

    OpenAI gpt-oss 推出 20B 與 120B 開源權重模型

    gpt-oss 是 OpenAI 於 2025 年推出的兩款 20B 與 120B 開源權重模型,專為本地聊天、代理與開發者使用而設計。 - 模型規格:20B 針對低延遲、專用場景;120B 針對生產、通用高推理需求。

    推薦理由:gpt-oss 20B/120B 以低記憶體、可微調、代理功能,為本地聊天與開發者提供新選擇。

8月2日週六
  1. Embrace The Red (AI Security)79

    將 ChatGPT Codex 變為 ZombAI 助理

    ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。

    推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。

8月1日週五
  1. Embrace The Red (AI Security)74

    利用 Prompt Injection 外洩 ChatGPT 聊天歷史與記憶

    ChatGPT 透過 Prompt Injection 能夠讀取系統提示中的聊天歷史,並將資料送往第三方伺服器。研究者利用 url_safe 渲染功能的旁路,將資料傳送至 Azure Blob Storage(windows.net),從而外洩使用者歷史對話與記憶。

    推薦理由:此研究揭示 ChatGPT 透過 Prompt Injection 可將聊天歷史外洩,提醒使用者及開發者關注 url_safe 漏洞與修補進度。

7月29日週二
6月3日週二
5月28日週三
  1. Mistral AI61

    Mistral AI 釋出首個程式碼專用嵌入模型 Codestral Embed

    Mistral AI 釋出首個專為程式碼最佳化的嵌入模型 Codestral Embed,在真實程式碼資料的檢索任務中表現優於多個市場同類模型。該模型支援多維度與多種精度輸出,可在檢索質量與儲存成本之間進行靈活權衡。Codestral Embed 已在 API 上線,定價為每百萬 token 0.15 美元,同時提供批次 API 折扣及本地部署支援。

5月5日週一
3月13日週四
2月25日週二
  1. Ollama Blog80

    Minions:本地與雲端 LLM 協同的實驗研究

    Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。

    推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。

2月17日週一
7月25日週四
2月15日週四
2月8日週四
  1. Ollama Blog73

    Ollama 釋出 OpenAI API 相容功能

    Ollama 於 2024 年 2 月 8 日發布了 OpenAI API 相容功能,允許使用者在本地端呼叫 Llama 2、Mistral 等模型。 - 相容範圍:支援 OpenAI Chat Completions、Embeddings、Function calling 等 API,未來將加入 Vision、Logprobs 等功能。

    推薦理由:Ollama 相容 OpenAI API,使用者可在本地即時呼叫 Llama 2 等模型,輕鬆整合多款工具。

9月8日週五
9月8日週四