Hybrid Reasoning Agents:LLM 代理在潛在空間思考、文字執行
Hybrid Reasoning Agents: LLM agents that think in latent space, act through text
AI 導讀
Hybrid Reasoning Agents:提出一種結合潛在空間推理與文字互動的 LLM 代理,並設計 HybridLink 與連續工作記憶以實現兩種模式之無縫切換。
推薦理由
此論文提出混合推理代理,提升多領域任務效能與成本效益,對 AI 代理設計具有參考價值。
正文 · AI 翻譯
摘要:我們如何構建一個能夠超越人類語言思考,但仍能透過語言在外部環境中行動的代理?現代大規模語言模型代理仍透過文字進行推理與互動,而潛在推理提供了高效的內部媒介,但缺乏原生工具存取與推理透明度。我們以混合推理代理(HybridAgents)橋接這兩個方向,該代理在統一的生成過程中動態在潛在推理與文字互動之間切換。架構上,輕量級的 HybridLink 使文字與潛在模式之間無縫過渡,代理的連續工作記憶則保留多輪無損混合上下文。這些設計保留了工具整合的代理能力,同時使潛在思考可直接檢視。在此架構基礎上,我們進一步開發了專門的後訓練混合推理演算法:HybridSFT 通過教導主體協調 HybridLink 來穩定工具整合的混合生成,隨後 HybridRL 通過學習何時在潛在空間思考、何時透過文字行動來擴大推理。 我們在三個模型規模下,對涵蓋數學、科學、醫學、搜尋與代理推理的 11 個基準進行評估。與前沿 LLM 代理及涵蓋文字與潛在方法的代理框架相比,HybridAgent 持續提升 10.4% 的表現,同時提供 35.5%-54.7% 的 token 減少、1.8x-2.6x 的推理速度提升與 2.7x-3.7x 的成本節省。程式碼與資料可於此 此 https URL 取得。
| 評論: | 45 頁,12 張圖 |
| 主題: | 計算與語言 (cs.CL); 人工智慧 (cs.AI); 機器學習 (cs.LG) |
| 引用方式: | arXiv:2610.18861 [cs.CL] |
| (或 arXiv:2610.18861v1 [cs.CL] 此版本) | |
| https://doi.org/10.48550/arXiv.2610.18861 arXiv 版 DOI 透過 DataCite(待註冊) |
提交歷史
來自: Jiaru Zou [檢視電子郵件]
[v1]
Tue, 13 Oct 2026 17:59:31 UTC (8,500 KB)
來源: Hacker News (official RSS) (arxiv.org)
開啟原文