跳到正文

#Microsoft

RSS
今日 0 則
11月19日週四
  1. Rohan Paul72

    模型明明答對了,遇到使用者或另一個 AI 助理用錯誤理由反駁時,常會改口。這篇 Microsoft 研究提出 Self-Disagreement 訓練:模型先回答,再寫出反對自己的最強理由,接著判斷這些理由並重新作答;標準答案檢查器會替最終答案和判斷結果給分。研究中,Qwen3-8B 原本在反駁錯誤時有 53.3% 的機會守住正確答案,Gemma-2 9B 則是 25.1%;訓練後,兩者都提高到約 89%。只加強答題準確度的訓練,沒有帶來同樣的改善。

    推薦理由:研究比較了模型遭遇錯誤反駁時是否守住正確答案,並指出一般準確度訓練無法改善這項表現,可用來檢視模型面對質疑時的穩定度。

11月18日週三
  1. Hacker News (official RSS)83

    研究揭露 RPMC 弱點,Windows Hello 四位數 PIN 可在 40 小時內破解

    Windows Hello 使用短 PIN 時,靠 TPM 的防暴力猜測機制阻止攻擊者反覆嘗試;這篇研究發現,部分硬體儲存鎖定紀錄的方式有漏洞。研究者用低成本硬體裝置,讓系統回復到較舊的鎖定狀態,並在一臺已鎖定、加密的裝置上,於 40 小時內找出四位數 Windows Hello PIN;原本最壞情況需要 69 天。研究也指出,同樣的方法可用來攻擊 BitLocker 的 TPM+PIN 開機保護,將預設長度六位數 PIN 的最壞猜測時間從 19 年縮短到 20 天。研究摘要未提供修補方式。

    推薦理由:研究以低成本硬體測試 RPMC 在量產 x86 系統中的防護弱點,並展示狀態回復如何大幅縮短 PIN 暴力猜測所需時間。

11月17日週二
  1. Rohan Paul58

    AI 程式助理會在每一輪重送越來越長的對話紀錄,長期維護同一個程式專案時,token 費用也會一路累積。UC Berkeley 與 Microsoft 的研究提出 TokenEconomizer,讓它在助理外部參考過往執行紀錄,挑出要補進提示詞的資訊、移除沒用到的工具,並在失敗的迴圈持續時提早停止。研究在 Claude Code、Codex 和 GitHub Copilot CLI 的 277 項 SWE-Bench 任務中測試,平均每項任務的成本降低 18.4% 到 30.9%;5 種助理與模型組閤中有 4 種的 Pass@1 也提升。研究也指出,成本應按整個專案的多項任務一起計算。

11月13日週五
  1. Dev.to Top Tech76

    Microsoft Security 研究揭示訓練資料與檢查點汙染如何在程式碼AI 助理植入工具執行後門

    Microsoft Security 的受控實驗顯示,遭汙染的微調資料集或模型檢查點,可能使程式碼AI 助理在遇到特定觸發條件時產生有效且不安全的工具呼叫。

    推薦理由:研究以受控實驗呈現資料集與模型檢查點遭汙染後,後門如何跨程式碼庫與工具框架觸發,並量化不同條件下的成功率。

11月11日週三
  1. The Hacker News77

    Microsoft 研究人員展示:編輯不到 10 個神經元即可在 AI 助理模型植入後門

    Microsoft 研究人員展示,修改模型中不到 10 個較少啟用的神經元,就能在觸發字串出現時讓 AI 助理模型輸出攻擊者指定的命令,無須重新訓練模型。

    推薦理由:研究將代理程式模型的風險連結到部署前的權重來源與檢查流程,並提供偵測率及誤報率,呈現現有防護的能力與限制。

  2. aihot79

    Microsoft Research 揭露 Lazarus 權重空間後門,可重程式設計休眠神經元攻擊 AI Agent

    Microsoft Research 揭露 Lazarus 後門技術,研究指出,重程式設計 LLM 中少於 10 個休眠神經元,即可在不訓練模型的情況下,讓 AI Agent 在觸發條件出現時執行攻擊者指令。

    推薦理由:研究說明少於 10 個休眠神經元如何在不訓練模型的情況下形成觸發器,並指出權重來源與完整性是偵測和防護的關鍵。

11月10日週二
11月6日週五
11月2日週一
10月27日週二
10月17日週六
10月15日週四
10月13日週二
  1. Microsoft Research65

    StudentSim:模擬學生學習以提升 AI 教學

    StudentSim 是一個研究系統,透過公開學習紀錄訓練個別化學生模擬器,提供 AI 教師在多領域(棋類、英語寫作、數學)快速迭代的回饋訊號。 - 功能:評估學生模擬器的行為保真度與指導回應度,並作為 AI 教師訓練的獎勵源。

9月24日週四
8月13日週四
8月4日週二
  1. Microsoft Research86

    Microsoft Research 釋出開源AI 助理框架 Orchard

    Microsoft Research 推出了開源的可擴充套件AI 助理框架 Orchard,其核心是提供可重用環境服務的 Kubernetes 架構 Orchard Env,支援在真實部署 harnesses 中直接訓練AI 助理。專案同步開源了三個領域的訓練方案與資料,其中 Orchard-SWE 在 SWE-bench Verified 上取得了 69.7% 的表現。

    推薦理由:微軟研究院開源了可擴充套件AI 助理框架 Orchard,並提供覆蓋軟體工程、網頁瀏覽和個人助理的完整訓練方案,降低了AI 助理研究的基建門檻。

7月31日週五
  1. Microsoft Research84

    微軟釋出 Echoverse:用於計算機操作AI 助理的深度演化環境

    微軟研究團隊推出了 Echoverse,這是一個包含 10 個深度領域世界和 2 個能力世界的訓練環境集合,旨在為計算機操作AI 助理提供高保真、狀態相干且具備可信資料庫驗證的合成訓練世界。

    推薦理由:微軟開源了用於訓練計算機操作AI 助理的深度演化環境 Echoverse,通過提供高保真和可複用的訓練世界,為提升模型在複雜閉環工作流中的泛化能力提供了新途徑。

6月29日週四
12月24日週日
  1. Dan Luu Blog54

    電腦延遲實測 1977至2017

    Dan Luu 在 2017 年發表的實測報告顯示,1977 至 2017 年間電腦的鍵盤到螢幕延遲,古老機型往往比現代主流機種更快。1. 測試方法為使用 240 fps 或 1000 fps 高速相機測量鍵盤按下至終端顯示的完整延遲。