Show HN:Audionaut — 開源跨平臺多軌音訊編輯器
Audionaut 是一款免費、跨平臺的多軌音訊編輯器,支援 AI 代理透過 MCP 進行編輯。 - 功能:精準剪輯、逐軌播放列表、靈活多通道支援與乾淨匯出,並整合 Essentia 音訊分析與 Demucs 立體聲分離。
Audionaut 是一款免費、跨平臺的多軌音訊編輯器,支援 AI 代理透過 MCP 進行編輯。 - 功能:精準剪輯、逐軌播放列表、靈活多通道支援與乾淨匯出,並整合 Essentia 音訊分析與 Demucs 立體聲分離。
TEEs 與 MPC 的結合雖能提升安全,但若未正確驗證與防禦,仍可能被回滾攻擊與測試失效等漏洞利用。 - 安全模型:在 TEE 內執行的 MPC 可將半誠實模型提升為惡意安全,但前提是 attestation 能驗證正確實作。
推薦理由:本文深入剖析 TEE 與 MPC 組合的安全陷阱,並提供實務防禦建議,對安全工程師設計可信系統具有指導意義。
summary_zh: Ollama 釋出 v0.34.4 更新,新增單次傳遞結構化輸出、修復本地大型庫錯誤與 macOS 應用程式無回應問題,並提升 Qwen 3.8 與 Gemma 4 在 Apple Silicon 上的效能。
官方 Linux 支援:高通宣佈 Snapdragon X2 系列筆電可使用官方 Linux 驅動,並將 GPU 與 NPU 驅動上游推進至主線。 上游推進:驅動程式已整合至 Linux 核心主線,開發者可直接在 Linux 環境部署。 影響範圍:此舉提升 Snapdragon X2 在開源社群的可用性,促進 Linux 在筆電市場的擴張。
Together Fine‑Tuning 於 2026 年 9 月 11 日推出新版,支援更多開放權重模型、即時實驗追蹤、專家 LoRA 及早停功能,並降價 30–70%。
推薦理由:此更新提供更完整的實驗追蹤與成本最佳化,讓使用者能即時調整訓練策略,並以更低成本部署多模型,同時支援專家 LoRA 及早停功能。
Axolotl v0.19.0 釋出宣告式模型支援與多新模型家族,提供更簡易的微調流程並提升推理效能。 - 宣告式模型支援:模型只需宣告差異,省去多處配置。
本集聚焦多項重大模型發布與科技產業動態,重點包含 Meta 釋出 Muse Spark 1.3 與 Google 推出 Gemini 3.8 Flash Cyber。
vLLM-Omni 0.27.0 版加入分散式層級解除安裝 (DLO) 與 AllGather,可讓 200B+ DiT 模型跨多個 NPU 或 GPU 以最小主機記憶體執行。
推薦理由:此文詳細說明如何利用 vLLM-Omni 的分散式層級解除安裝,讀者可快速部署 200B+ DiT 模型並評估效能。
大型語言模型推論會連續啟動許多 GPU 操作,反覆由 CPU 發出指令可能拖慢速度。SGLang 團隊整理了 CUDA Graph 的做法,並把執行流程和捕捉方式拆開,讓預填充、解碼等工作能選用不同策略。文中重點介紹 BCG:遇到不適合錄進圖形的操作時,先讓它照常執行,再接著捕捉後面的工作,因此不必先用編譯器分析整個流程。團隊測得,單看預填充速度,BCG 比直接執行快 1.70 倍;完整捕捉快 1.93 倍,但目前仍屬實驗功能,主要支援 FlashAttention(fa4)和 FlashInfer。
推薦理由:文章比較三種 CUDA Graph 預填充捕捉方式,說明 BCG 如何減少編譯等待與重複記憶體佔用,並交代完整捕捉目前的適用限制。
跨模型工具呼叫:一次編寫迴圈,隨意切換模型 - 工具定義:使用 OpenAI 相容的 JSON schema 定義 get_weather(location, unit),同一套工具可在所有模型上重用。
Muse Glimmer 是 Meta Superintelligence Labs 推出的 30B 多模態模型,支援 128K+ 上下文長度,適合本地代理工作負載。
推薦理由:Meta 推出 Muse Glimmer,可在本地執行 30B 多模態模型,支援 128K+ 上下文與 Apple Silicon 高效運算。
Meta 推出了全新的 30B 引數開源多模態模型 Muse Glimmer,採用 Apache 2.0 協議釋出,專門面向本地AI 助理和隱私保護應用。該模型結合了 2B 的視覺感知編碼器與 28B 的文本解碼器,支援影像、影片理解以及多模態工具呼叫,並提供 transformers、llama.cpp 和 vLLM 的首日支援。
推薦理由:文章詳細介紹了 Meta 開源多模態模型 Muse Glimmer 的架構設計與本地部署方法,讀者可以據此瞭解其在端側AI 助理和多模態任務中的應用潛力。
想在自己的電腦上執行多模態 AI 助理,速度和硬體需求常是難題。SGLang 宣佈從 Muse Glimmer 推出的第一天就提供支援,讓開發者能在多種 NVIDIA 顯示卡、DGX Spark 和 Apple Silicon 裝置上執行這個 30B 模型。文章列出不同硬體與設定下的速度:在 RTX 5090 上使用 NVFP4 和 DFlash 時,每位使用者每秒可生成 236 個 token,批次輸出速度最高為每秒 1,452 個 token。DFlash 能加快多數測試設定的互動速度,但 Apple Silicon 的 MLX 後端目前不支援這項功能。
推薦理由:Muse Glimmer 加入 SGLang 首日支援後,可在多種本機硬體上執行;文中資料也比較了不同平臺與解碼方式的速度差異。
vLLM 在 Arm Neoverse CPU 上的服務效能大幅提升。 - 可用性:新增預建 wheels、Docker、INT8、INT4 推理支援,並支援 GPT‑OSS、Whisper、Qwen 3.5/3.6。
推薦理由:本報告詳述 vLLM 在 Arm CPU 上的效能最佳化,對於需在低成本硬體上部署 LLM 的工程師提供可落地的改進方案。
Divide & Conquer 框架讓弱 LLM 在長上下文任務中可與 GPT‑4o 相媲美。 - 核心實驗:在 ICLR 2026 研究中,Llama‑3‑70B、Qwen‑72B 透過規劃、分工與聚合,在長文本檢索、問答、摘要等任務上,表現超越 GPT‑4o 單次處理。
Together AI 推出新版微調服務,新增工具呼叫、推理與視覺語言模型支援,並提升至 100B+ 引數模型的高效微調。 - 工具呼叫:提供結構化驗證、全流程支援,適用 Qwen、Moonshot AI、Z.AI。
推薦理由:此更新提升工具呼叫、推理與視覺功能,讓團隊可每日迭代、成本降低 2–3 倍、準確率提升至 87%,並支援 100B+ 引數模型與 100GB 資料集的高效微調,並提供預估成本與 ETA 以利實驗規劃,並可在多模態任務中使用 Vision‑Language 模型微調。
Ollama 於 2025 年 5 月 28 日發布即時串流工具呼叫功能,讓聊天應用可同步顯示內容並即時執行工具。 - 支援模型:Qwen3、Qwen2.5、Qwen2.5-coder、Llama3.1、Llama4 等已訓練工具使用的模型。
Ollama 推出多模態模型新引擎,首次支援 Meta Llama 4、Google Gemma 3、Qwen 2.5 VL、Mistral Small 3.1 等視覺模型,並可在本地即時處理影像與文字互動。
推薦理由:Ollama推出的新多模態引擎與多款視覺模型支援,讓使用者能即時測試影像與文字互動,對於需要本地多模態推理的開發者提供可直接落地的解決方案。
Sneaky Bits 是一個可將任何 Unicode 字元或位元組序列編碼為兩個隱形字元的工具,讓 LLM 能夠進行資料隱匿與指令注入。 - 核心功能:利用兩個隱形 Unicode 字元(U+2062、U+2064)將任何字元轉換為二進位碼,支援 ASCII、Unicode、Emoji 等。
Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。
推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。
Llama 3.2 Vision 已在 Ollama 上線,提供 11B 與 90B 兩個尺寸。 - 模型尺寸:11B 需至少 8GB VRAM,90B 需至少 64GB VRAM。
Meta Llama 3.2 現已透過 Ollama 可本地執行,提供 1B、3B、11B、90B 四個版本。 - 1B、3B:純文字模型,專為手機或邊緣裝置最佳化,可即時處理訊息或行事曆摘要,並保留隱私。 - 11B、90B:視覺模型,支援檔案、圖表、圖片說明等影像推論。 - 所有模型皆為開源,使用者可自行下載 Ollama 並直接執行。
Continue 與 Ollama 讓開發者可在 VS Code 或 JetBrains 內部直接使用開源 LLM 進行程式碼補完與聊天。 - Codestral 22B:具備補完與聊天功能,需 22B 引數、較高 VRAM,適合研究測試。