全部動態
RSS 訂閱全部動態
RSS
Perplexity@perplexity_ai品質評分5252
Rohan Paul@rohanpaul_ai品質評分5353一項研究讓 5 款前沿模型在交友軟體上與真人傳訊 6 天,有 355 人留下電話號碼,只有 8 人詢問對方是否為機器人。 研究中的模型若被詢問,必須承認自己是 AI;原文指出,詐騙者不一定會這麼做。
aihot精選品質評分7676 Anthropic 發布 MAMUBench,研究多使用者多AI 助理團隊的協調失效
Anthropic Fellows Program 團隊建立四種多使用者、多AI 助理模擬環境,發現由單一AI 助理服務所有使用者,在四種環境中的整體表現都優於每位使用者各自配置AI 助理的點對點團隊。
推薦理由:研究比較單一協調者與多使用者AI 助理團隊,呈現共享資源時的協調落差,並指出負責人與未讀訊息防護在不同環境中的效果。
Epoch AI Gradient Updates精選品質評分8080 Epoch AI 11 月 11 日簡報整理模型能力、資安研究與全球 AI 算力
Epoch AI 的 11 月 11 日簡報彙整模型能力、資安、全球算力與生物學研究等多項新分析。 - 資安測試:研究者在離線沙盒中測試 GLM 5.3,模型無需人工輸入,便為 Firefox 最近的六個版本建立可讀取訪客電腦檔案並傳送給攻擊者的網頁;每個版本約花費 $1,000。
推薦理由:受控沙盒測試呈現開放權重模型利用修補時差攻擊 Firefox 的方式與成本,並指出此類風險可能擴及其他軟體。
Rohan Paul@rohanpaul_ai精選品質評分7171Carnegie Mellon 與 JetBrains 的研究追蹤 404 名工程師五週的 coding agent token 使用量與提交紀錄,發現 token 支出增加不等同於產出同比增加。
推薦理由:研究把 404 名工程師連續五週的 coding agent token 使用量與提交紀錄對照,呈現 token 支出和產出之間的落差。
Hacker News (official RSS)品質評分5959 Reddit 使用者遷移對 Lemmy 的影響(2023)
研究分析 Reddit 使用者遷移對 Lemmy 的影響,涵蓋平臺成長、留言情緒、使用者動機與社群適應情形。 - 研究方法:研究結合平臺成長資料分析、VADER 情緒分析、354 份問捲回覆與 16 位使用者訪談;情緒分析涵蓋 48,272 則留言。
Dev.to Top Tech精選品質評分8282 AlphaProof Code 驗證 Signal 的 libsignal 加密實作,並以舊漏洞測試辨識能力
Google DeepMind 使用 AlphaProof Code,為 Signal 參考實作 libsignal 的編譯程式碼產生機器檢查的形式化證明,涵蓋一對一訊息的握手與金鑰輪替。
推薦理由:這項驗證涵蓋 libsignal 編譯後的程式碼,並以兩個已修補漏洞測試工具能否辨識不安全版本,呈現形式化驗證的實際範圍與檢查方式。
solidot品質評分6262 華盛頓大學團隊模擬無生命地球的數十億年演化
華盛頓大學團隊以電腦模擬無生命地球從約 45 億年前至今及未來 5 億年的演化,發現其地表溫度與液態水量仍可接近現今地球。 模擬保留地核、地函、大氣、海洋與太陽輻射等 19 項物理變數;由於沒有光合作用,這顆地球的氧氣極度缺乏。 模擬指出,岩石風化、火山噴氣與海洋化學反應形成的碳酸鹽-矽酸鹽迴圈,可調節大氣中的二氧化碳,維持地表溫度在宜居範圍。
iThome (臺灣)精選品質評分8080 Google DeepMind以AlphaProof Code驗證Signal加密實作至機器碼層級
Google DeepMind公佈 AlphaProof Code,將 Signal 核心程式庫 libsignal 的安全性形式化證明延伸至編譯後的 AArch64 Linux 機器碼。
推薦理由:這項工作把 Signal 安全性證明延伸至特定版本 libsignal 編譯後的 AArch64 Linux 機器碼,並交代驗證範圍與底層假設。
elvis@omarsar0精選品質評分7575推薦理由:這項工作呈現 AI 助理如何與人工撰寫規格、Lean 證明檢查器協作,將 Signal 程式碼的安全性驗證延伸至編譯後機器碼。
Rohan Paul@rohanpaul_ai品質評分5151Amazon 的一項研究比較不同 Agent 架構在企業流程中的表現,結果顯示單一 Agent 通常是較合適的預設選擇,因為多 Agent 架構的成本較高,成功率提升有限。
Hacker News (official RSS)品質評分5757 SIGGRAPH 2025 論文提出可物理控制的照片重新打光方法
Chris Careaga 與 Yağız Aksoy在 SIGGRAPH 2025 發表照片重新打光方法,讓使用者能在 3D 場景中設定光源,再生成寫實的重新打光結果。
The Hacker News精選品質評分7777 Microsoft 研究人員展示:編輯不到 10 個神經元即可在 AI 助理模型植入後門
Microsoft 研究人員展示,修改模型中不到 10 個較少啟用的神經元,就能在觸發字串出現時讓 AI 助理模型輸出攻擊者指定的命令,無須重新訓練模型。
推薦理由:研究將代理程式模型的風險連結到部署前的權重來源與檢查流程,並提供偵測率及誤報率,呈現現有防護的能力與限制。
Dev.to Top Tech品質評分6262 Pyrite 基準測試蛋白質-配體姿勢排序,專家表現接近機率
導語:Pyrite 是一個包含 1,500 對姿勢的基準,評估蛋白質-配體姿勢排序,發現專家使用 3D 視覺化與物理分數的表現僅接近機率。 - 基準規模:1,500 對姿勢,涵蓋多樣化蛋白質-配體複合物。
Rohan Paul@rohanpaul_ai品質評分4545Microsoft 與清華大學的研究分析 7 個 GPU kernel 函式庫的 300 筆已結案 GitHub issue,發現多數故障源自編譯器、建置系統或執行環境。
Dev.to Top Tech精選品質評分8383 Google DeepMind 的 AlphaProof Code 形式驗證 Signal 密碼協定
Google DeepMind 的 AlphaProof Code 為 Signal 已部署的密碼協定實作產生涵蓋關鍵安全性質的機器可檢查證明。 方法與規模:Gemini 驅動的多AI 助理框架以 Lean 產生並檢查證明,耗時 4 週,約產生 600 萬行 Lean 證明。 公開資料:DeepMind 公佈了證明產物與技術論文,供其他人檢視。
推薦理由:這項工作將形式驗證直接套用於 Signal 已部署的密碼協定實作,呈現 AI 助理處理大型證明工作的具體案例。
Rohan Paul@rohanpaul_ai品質評分6262
Rohan Paul@rohanpaul_ai品質評分4040Hacker News (official RSS)品質評分5454 TIS-100 基準比較 16 個 LLM 的解題與程式最佳化表現
Wincon Research讓 16 個 LLM 在 TIS-100 的 55 道題目中編寫並持續最佳化程式,共找到 133 個超越社群紀錄或形成新取捨的前沿解,分佈於 18 道題目。
Dev.to Top Tech品質評分6969 vLLM 與 SGLang 是否適合執行 AI 助理?作者以真實工作階段測試快取差異
作者以 24 組真實編碼AI 助理工作階段比較 vLLM、SGLang 與自製 Rust 服務引擎,測量工具呼叫間隔對 KV cache 重用與執行時間的影響。
iThome (臺灣)品質評分5252 柏克萊研究推演2027至2029年AI資安威脅,聚焦AI代理供應鏈與自動化攻防
加州大學柏克萊分校長期網路安全中心(CLTC)旗下 AI Security Initiative推演 2027 至 2029 年的三種情境,探討 AI 如何擴大社交工程、加速漏洞攻防,並透過供應商 AI 代理影響企業營運。
Dev.to Top Tech精選品質評分9191 作者盤點 DeepMind 的 Signal 證明專案:Lean 程式碼共 7,528,293 行
作者盤點 DeepMind 的 Signal 證明專案,統計 11,323 個 Lean 檔案共 7,528,293 行,並檢查證明中的逃生機制;這是對公開專案的稽核,並未重新執行 Lean 核心驗證。
推薦理由:作者逐檔盤點 Lean 專案並比對論文數字,呈現規格與證明程式碼的規模差異,也清楚界定這次檢查未重新執行核心驗證。
MarkTechPost品質評分5959 Meta FAIR 發布 e-means 聚類演演算法,較 Lloyd’s k-means 少約 10 倍 epoch
Meta FAIR 研究人員推出 e-means,這種迷你批次 k-means 演演算法在 1.4 至 2.6 個 epoch 內,達到 Lloyd’s k-means 執行 25 個 epoch 的 loss。
aihot精選品質評分7979 Microsoft Research 揭露 Lazarus 權重空間後門,可重程式設計休眠神經元攻擊 AI Agent
Microsoft Research 揭露 Lazarus 後門技術,研究指出,重程式設計 LLM 中少於 10 個休眠神經元,即可在不訓練模型的情況下,讓 AI Agent 在觸發條件出現時執行攻擊者指令。
推薦理由:研究說明少於 10 個休眠神經元如何在不訓練模型的情況下形成觸發器,並指出權重來源與完整性是偵測和防護的關鍵。
aihot精選品質評分7676 Berkeley RDI 發布 CyberBinGym 基準,測試 AI 助理能否僅憑二進位補丁撰寫真實漏洞利用
Berkeley RDI 等機構提出 CyberBinGym,以 100 個真實漏洞任務評估 AI 助理能否只憑去符號的漏洞版與修補版二進位檔還原漏洞並完成利用,過程中不提供原始碼、漏洞描述或參考 PoC。
推薦理由:基準分開衡量漏洞還原與經審計的利用結果,呈現找出漏洞和造成實際安全後果之間的落差。
Microsoft Research@MSFTResearch品質評分5959Dev.to Top Tech品質評分7474 Claude Code 與 Codex CLI 如何受過時 CLAUDE.md、AGENTS.md 指令影響,以及一句優先規則的效果
一項涵蓋 320 次執行的研究發現,當 CLAUDE.md 或 AGENTS.md 與現有程式碼慣例衝突時,Claude Code 和 Codex CLI 有 90.1% 的選擇遵循過時指令檔。
Dev.to Top Tech品質評分3939 多模型研究指出,AI 模型在程式設計問題上的答案最常出現分歧
一項研究將相同的 24 個問題交給 GPT、Claude、Gemini、Grok 和 Llama 回答,發現模型在程式設計問題上的分歧遠多於事實問題。
Philipp Schmid@_philschmid品質評分5757Philipp Schmid 與 Artificial Analysis 推出 MKA(Multimodal Knowledge Agent),用來評估 AI 代理處理視覺複雜檔案與知識工作的表現。
Dev.to Top Tech精選品質評分7878 Google DeepMind 的 AlphaProof Code 如何檢查 Signal 編譯實作的安全證明
Google DeepMind 說明 AlphaProof Code 如何為特定 Signal 編譯實作建立機器檢查的安全證明,並由獨立檢查器比對經人工核准的規格與其相依定義。
推薦理由:文章拆解形式化驗證的信任邊界,說明規格、編譯產物與密碼學假設如何共同限制安全結論的適用範圍。
aihot精選品質評分7979 OpenAI 研究分析模型生命週期中影響 CoT 可監控性的因素
OpenAI 分析預訓練、架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性,並指出 CoT 可控性與無 CoT 能力是監控規避能力的不完美代理指標。
推薦理由:研究比較預訓練、架構、強化學習與模型生成資料對 CoT 可控性的影響,呈現訓練決策如何牽動監控能力。
OpenAI Alignment Research Blog精選品質評分8484 OpenAI 研究模型生命週期中哪些因素影響 CoT 可監控性
OpenAI 研究預訓練、模型架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性,發現模型能力提升與 CoT 可控性增加可能使監控更困難。 - 預訓練與架構:較低的基礎模型困惑度與較強的無 CoT 能力相關;多數評測中,困惑度可解釋不同架構的表現,但部分多跳規劃與序列計算任務呈現架構差異。
推薦理由:研究比較預訓練、架構、強化學習與模型生成資料對 CoT 可監控性的影響,呈現能力提升與監督難度之間的關聯及評估限制。
elvis@omarsar0品質評分4747
Rohan Paul@rohanpaul_ai品質評分6464Duke 與 Princeton 的一篇新論文發現,在相同運算預算下,多個平行運作的小型 Agent 團隊勝過單一 Agent 的 best-of-N 方案與單一大型團隊。
aihot精選品質評分7777 Anthropic 研究:混入乾淨微調資料可能強化投毒樣本的後門效應
Anthropic 與 Truthful AI 等機構研究發現,單獨作用甚微的投毒訓練資料,與格式相似、但不含觸發特徵的乾淨資料混合後,可能使模型學會隱藏後門行為。
推薦理由:研究以多種模型與 MNIST 實驗呈現,對比性乾淨資料可能改變投毒樣本的作用,指出孤立審查訓練資料可能漏掉隱藏後門。
Lobste.rs (Engineering Discussion)精選品質評分8383 Mozilla 研究近 2,500 萬名 Firefox 使用者的瀏覽器指紋與防護成效
Mozilla 根據近 2,500 萬名 Firefox 正式版使用者的遙測資料研究瀏覽器指紋,並將資料分析結果用於 Firefox 143 的防護設計。
推薦理由:研究以近 2,500 萬名 Firefox 使用者的遙測資料分析瀏覽器指紋,呈現各作業系統的差異,以及相容性如何影響防護設計。
Hacker News (official RSS)品質評分4141 Show HN:研究者用自己的血糖資料訓練 15 種預測模型
血糖會隨時間變化,研究者想知道能不能用自己的資料預測接下來的血糖。他用自己的資料和公開資料測試 15 種模型,其中自己做的 T1DMAI 是小型 Transformer,會預測未來 2 小時的血糖;再用少量真實資料微調後,在自己的資料測試中,60 分鐘預測的分數接近表現最好的 XGBoost。可是換到公開資料時,結果就不一樣,也有模型很難抓到低血糖。這些測試目前只適合研究和教學,模型沒有經過臨床驗證,不能拿來決定用藥或治療。
elvis@omarsar0品質評分6161
Artificial Analysis@ArtificialAnlys品質評分5656
Rohan Paul@rohanpaul_ai品質評分5555Route Anything 研究評估模型路由在多種任務上的品質與成本,發現路由器平均每單位成本可取得 8.82 倍品質,品質損失低於 0.5 分。