Ollama 新增即時串流工具呼叫功能
Ollama 於 2025 年 5 月 28 日發布即時串流工具呼叫功能，讓聊天應用可同步顯示內容並即時執行工具。 - 支援模型：Qwen3、Qwen2.5、Qwen2.5-coder、Llama3.1、Llama4 等已訓練工具使用的模型。
推薦理由：Ollama 透過即時串流工具呼叫，提升聊天應用的互動性與開發效率，並透過改進的解析器確保工具呼叫可靠性。
開源生態
全部主題開源模型、框架與倉庫動態：權重開放、社群專案爆火、開源與閉源的力量消長。
480條精選相關主題模型發布Hugging FaceAI 程式開發
最新精選
第 461–480 條 · 共 480 條Ollama Blog精選品質評分6464
Ollama Blog精選品質評分7272 Ollama 推出多模態模型新引擎
Ollama 推出多模態模型新引擎，首次支援 Meta Llama 4、Google Gemma 3、Qwen 2.5 VL、Mistral Small 3.1 等視覺模型，並可在本地即時處理影像與文字互動。
推薦理由：Ollama推出的新多模態引擎與多款視覺模型支援，讓使用者能即時測試影像與文字互動，對於需要本地多模態推理的開發者提供可直接落地的解決方案。
Mistral AI精選品質評分6565 Mistral AI 釋出 Mistral Small 3.1 模型
Mistral AI 宣佈推出 Mistral Small 3.1，這是一款在其體量級別表現出色的開源模型。該模型帶來改進的文本效能、多模態理解以及高達 128k tokens 的上下文視窗，並以 Apache 2.0 許可證開源。
推薦理由：原文給出了開源模型的新版本效能與多維度升級，讀者可以據此評估其在端側和多模態任務中的應用潛力。
Embrace The Red (AI Security)精選品質評分7171 Sneaky Bits：進階資料隱匿技術（ASCII Smuggler 更新）
Sneaky Bits 是一個可將任何 Unicode 字元或位元組序列編碼為兩個隱形字元的工具，讓 LLM 能夠進行資料隱匿與指令注入。 - 核心功能：利用兩個隱形 Unicode 字元（U+2062、U+2064）將任何字元轉換為二進位碼，支援 ASCII、Unicode、Emoji 等。
推薦理由：掌握 Sneaky Bits 兩隱形 Unicode 字元的資料隱匿方式，協助安全工程師評估 LLM 輸入驗證風險。
Browser Use精選品質評分6767 Browser Use 成為最先進 Web Agent
Browser Use 在 WebVoyager 基準上以 89.1% 的成功率取得領先成績。 - 核心指標：89.1% 成功率，涵蓋 586 個多樣化網頁任務。
推薦理由：Browser Use 以 89.1% 的成功率在 WebVoyager 基準上突破現有水平，展示其在多域網頁任務中的高效規劃與執行，讀者可據此評估在自身 Web Agent 專案中的可遷移性。
Ollama Blog精選品質評分6868 Ollama 釋出結構化輸出功能，支援 JSON schema 定義
Ollama 於 2024 年 12 月 6 日正式推出結構化輸出功能，允許使用 JSON schema 定義回傳格式。 - 功能範圍：支援 Python、JavaScript 兩大語言庫，可直接傳入 Pydantic 或 Zod 定義的 schema，並以 format 引數指定。
推薦理由：結合 Pydantic 或 Zod，開發者可將模型回傳對映至結構化資料，提升資料處理效率與可靠性。
Ollama Blog精選品質評分6262 Ollama Python library 0.4 釋出函式作為工具功能升級
導語：Ollama Python library 0.4 釋出函式作為工具功能升級，新增完整型別支援與 JSON Schema 生成，方便開發者將 Python 函式直接作為模型工具。
推薦理由：此更新提升了Python函式作為工具的使用便利性，並提供完整型別支援，方便開發者快速整合至工作流程；同時新增對現有函式庫的工具化支援，擴大應用範疇，並改進JSON Schema生成流程，減少手動配置負擔，以提升開發效率。
Ollama Blog精選品質評分6666 Meta Llama 3.2 釋出小型多模態版本
Meta Llama 3.2 現已透過 Ollama 可本地執行，提供 1B、3B、11B、90B 四個版本。 - 1B、3B：純文字模型，專為手機或邊緣裝置最佳化，可即時處理訊息或行事曆摘要，並保留隱私。 - 11B、90B：視覺模型，支援檔案、圖表、圖片說明等影像推論。 - 所有模型皆為開源，使用者可自行下載 Ollama 並直接執行。
推薦理由：Meta Llama 3.2 以小型多模態模型示範本地端推論的可行性，對隱私保護與即時回應的需求提供實際解決方案。
Mitchell Hashimoto Blog精選品質評分6060 Zig 的 Comptime：條件式停用程式碼的實務教學
Zig 的 comptime 允許在編譯時執行程式碼，本文示範如何利用它來條件式停用程式碼，並與 C 事先處理器與 Go 的建置標籤做對比。 - 條件式停用：可根據目標作業系統、debug 設定或建置配置，直接在同一檔案中排除不需要的程式碼，減少二進位檔大小與執行時判斷。
推薦理由：本文示範 Zig 的 comptime 如何取代傳統編譯時條件編譯，並與 C、Go 的做法做對比，提供實務上可直接套用的技巧。
Ollama Blog精選品質評分7272 Google Gemma 2 以三種規模發布，27B 版效能超越同類兩倍規模模型
Gemma 2 是 Google 推出的新一代大語言模型，提供 2B、9B、27B 三種規模。 - 核心特性：27B 版本在多項基準測試中，效能超越同類規模兩倍以上，展現出高效能與最佳化架構。
推薦理由：Gemma 2 以三種規模提供，27B 版本效能超越同類兩倍規模模型，讀者可評估其高效架構對開發效能的影響。
Ollama Blog精選品質評分6060 在編輯器內完全開源的 AI 程式碼助手
Continue 與 Ollama 讓開發者可在 VS Code 或 JetBrains 內部直接使用開源 LLM 進行程式碼補完與聊天。 - Codestral 22B：具備補完與聊天功能，需 22B 引數、較高 VRAM，適合研究測試。
推薦理由：此文示範如何在本地 VS Code 內整合 Continue 與 Ollama，並列舉多種 LLM 配置，方便開發者快速上手
The Gradient (AI Research Pub)精選品質評分6969 Mamba 解說：State Space Model 取代 Transformer 的長序列解法
**Mamba 是一種基於 State Space Model 的長序列語言模型，能在保持 Transformer 相近表現的同時，以線性時間與空間複雜度處理多達 100 萬 token 的上下文。
推薦理由：本文以 Mamba 為例，詳細說明 State Space Model 如何在長序列上取代 Transformer，為長距離推理提供可行且高效的替代方案。
Chip Huyen (AI Engineering)精選品質評分6666 我從審視 900 個熱門開源 AI 工具得出的 5 大洞見
導語：作者 透過對 845 個星數達 500 的開源 AI 工具進行梳理，呈現了 AI 堆疊演進、產業趨勢與中國生態差異。
推薦理由：作者透過對 845 個受星星門檻的開源 AI 工具的梳理，呈現了 AI 堆疊演進與中國生態差異，幫助讀者快速掌握趨勢與關鍵工具。
Ollama Blog精選品質評分6161 Ollama Windows 版預覽正式推出
Ollama 於 Windows 發布預覽版，允許使用者直接在本機拉取、執行並建立大型語言模型，並支援 NVIDIA GPU 加速與 AVX/AVX2 CPU 指令集。
推薦理由：Windows 版 Ollama 讓開發者可直接在本機使用 GPU 加速的大語言模型，並可即時連線 OpenAI 相容 API，提升開發效率。
Ollama Blog精選品質評分7373 Ollama 釋出 OpenAI API 相容功能
Ollama 於 2024 年 2 月 8 日發布了 OpenAI API 相容功能，允許使用者在本地端呼叫 Llama 2、Mistral 等模型。 - 相容範圍：支援 OpenAI Chat Completions、Embeddings、Function calling 等 API，未來將加入 Vision、Logprobs 等功能。
推薦理由：Ollama 相容 OpenAI API，使用者可在本地即時呼叫 Llama 2 等模型，輕鬆整合多款工具。
Ollama Blog精選品質評分6565 Ollama Python 與 JavaScript 庫正式發布
Ollama Python 與 JavaScript 庫於 2024 年 1 月 23 日正式推出，允許開發者以極少程式碼整合 Ollama 的 REST API。
推薦理由：Python 與 JavaScript 庫的即時發布，讓開發者可快速整合 Ollama 服務，提升開發效率與多模態應用能力。
Ollama Blog精選品質評分7272 利用瀏覽器端技術打造 LLM 驅動的網頁應用
Mistral 7B 透過 Ollama 在瀏覽器端實現本地 LLM，搭配 LangChain、Voy 與 Transformers.js 完成 RAG 網頁應用。
推薦理由：本文示範如何利用瀏覽器端本地模型構建 RAG 應用，提供可直接套用於前端開發的實作範例，並說明如何透過 Ollama 與 LangChain 連結本地 LLM，降低成本與提升隱私。
Ollama Blog精選品質評分7171 Ollama 官方 Docker 影像正式上線
Ollama 以官方 Docker 影像形式上線，提供本地部署大型語言模型的全新方式。 - 官方 Docker 影像：直接使用 ollama/ollama，無需自行構建。
推薦理由：官方 Docker 影像使本地部署大型語言模型更簡單，減少對第三方服務的依賴，方便開發者快速上手。 同時支援 Nvidia GPU 加速，並提供 REST API 與 CLI 兩種介面，降低部署門檻。
Davis Summarizes Papers精選品質評分6060 2023-7-23 arXiv 摘要：OpenAI 重大變更、最佳化注意力與影像標題
本期彙整多篇 arXiv 研究，從改進注意力機制到 OpenAI API 變更，涵蓋模型架構、訓練技巧與推理最佳化。 - Retentive Network：提出新型注意力，去除 softmax，使用 state 向量，實現 O(1) 生成，提升長序列效率與記憶體使用。
推薦理由：本期彙整多篇前沿研究，從注意力機制到量化方法，涵蓋模型架構、訓練技巧與推理最佳化，幫助讀者迅速掌握最新模型與技術動向。
Mitchell Hashimoto Blog精選品質評分6565 Zig Parser 深入剖析：解析器與 AST 結構全解
Mitchell Hashimoto 在其部落格中詳細說明 Zig 編譯器的解析器與 AST 結構，並以 MultiArrayList 為核心說明資料導向設計。
推薦理由：深入剖析 Zig 編譯器中解析器與 AST 的結構，幫助開發者掌握資料導向設計與記憶體最佳化。