跳到正文

#產品更新

RSS
今日 1 則
10月15日週四
  1. ollama release36

    ollama v0.40.5-rc0 發布

    summary_zh: ollama 發布了 v0.40.5-rc0 版本,帶來 Metal 轉 CUDA、模型建議與語言標準化、OpenAI 允許自訂工具呼叫、雲端付款錯誤說明、MLX 版本升級等改進。

  2. Google Research79

    Deep Review:分析技術檔案的 AI 助手

    Deep Review 是 Google Research 推出的 AI 系統,能自動化檢查長篇技術檔案的邏輯與數學正確性。 - 功能範圍:先前針對電腦科學論文,現已擴充套件至法律、財務等多領域。

    推薦理由:此系統可自動化檢查長篇技術檔案,減輕學術同行評審負擔,對科研與法律等領域的審核流程具有廣泛應用價值。

  3. LMSYS Org Blog76

    SGLang 和 Miles 加入 Muse Spark Open 支援,並公佈多平臺效能測試

    大型多模態模型要在不同硬體上執行,常得處理長提示詞、圖片影片輸入和模型運算量大的問題。SGLang 和 Miles 加入 Muse Spark Open 支援,涵蓋推論、微調與多輪強化學習訓練;模型可讀取文字、圖片、影片和音訊,並支援 1M token 的上下文視窗。文章也列出 NVIDIA、AMD、Intel 和 TPU 平臺的支援進度,以及多組程式開發工作負載測試。在 8 張 B300 GPU 的 OpenHands 測試中,單一對話每位使用者每秒產生 543 個 token;128 個對話同時執行時,則為每位使用者每秒 61 個 token。這些數字來自特定硬體與測試設定,可用來瞭解不同工作量下的速度變化。

    推薦理由:文章整理 Muse Spark Open 在多種硬體上的支援方式與實測結果,並說明長提示詞和多輪程式開發工作如何影響推論速度。

10月14日週三
  1. Hacker News (official RSS)40

    Grok Bot 讓我一週管理創業公司

    summary_zh: 我讓 Grok Bot 在一週內以 AI 方式管理我的創業公司。 - 多代理協作:Grok Bot 由支援、工程、安裝等多個代理組成,能自動處理客戶 bug、編寫程式碼、監控 Cloudflare 與伺服器日誌。

  2. Supabase Blog72

    Supabase CLI 允許每個 Agent 擁有獨立本地專案,支援 Docker 與原生執行

    Supabase CLI 現已支援在單機上為每個 Agent 建立獨立本地專案,且可選擇不使用 Docker 的原生執行方式。 - 多專案同時執行:每個 git worktree 皆可獨立啟動,並自動分配 Postgres、Storage、Edge Functions 等服務。

    推薦理由:Supabase CLI 允許在單機上同時執行多個本地專案,降低記憶體佔用並提升啟動速度,對多個獨立資料庫環境的開發流程尤為有價值。

  3. LangChain Blog76

    Deep Agents 上下文管理:利用檔案系統與摘要壓縮提升長期任務效能

    導語:Deep Agents SDK 透過檔案系統與摘要壓縮,最佳化長期任務的記憶管理,提升效能與可靠性。 - 關鍵技術:在 20,000 tokens 以上的工具回應會自動 offload 至檔案系統,並以檔案路徑取代原始內容。

    推薦理由:文章說明 Deep Agents SDK 透過檔案系統與摘要壓縮,最佳化長期任務的記憶管理,對實務開發者提升效能與可靠性具有參考價值,並可輕鬆整合至現有工作流程。

  4. AWS Machine Learning Blog77

    Orca Security 以 Amazon Bedrock 建置 Discovery AI,將安全查詢成本降 90%

    Discovery AI 是 Orca Security 以 Amazon Bedrock 建置的自然語言安全查詢系統,能將 900+ 雲端資源模型的查詢成本降低 90%,輸入 token 下降 93%,延遲縮短 75%。

    推薦理由:Discovery AI 透過 Amazon Bedrock 的 RAG 與多階段模型配置,將查詢成本降低 90%,令使用者能以更低成本、更快速度執行 900+ 族群的安全查詢。

10月13日週二