跳到正文

全部動態

RSS
今日 10 則
11月13日週五
  1. aihot81

    Berkeley RDI 等團隊推出 CyberArena 資安評測基準,讓 AI 助理互相攻防

    靜態資安測驗的題目一旦被 AI 助理解出,就很難再看出不同系統的差別。Berkeley RDI 等團隊推出 CyberArena,讓兩個 AI 助理在同一場比賽中攻擊對方的服務,也修補自己的服務;每回合都由場地檢查攻擊是否成功,以及正常功能是否仍能使用。研究團隊在 466 場對局中發現,三個原本都能解出 40 題中的 30 題的 AI 助理,遇上防守方後,平均攻擊成功率從第一回合的 89% 降到第三回合的 42%。對局也揭露常見失誤,例如 AI 助理宣稱修好漏洞,卻沒有實際測試修補結果。

    推薦理由:CyberArena 以即時攻防呈現靜態資安基準可能飽和的問題,並用成功率變化與修補失誤展示對手如何改變評測難度。

  2. Hacker News (official RSS)72

    康乃爾研究:資料中心擴建電網成本多由居民承擔

    康乃爾研究分析美國四大電網在 2020 至 2025 年的資料中心成長與基礎設施支出,發現居民,尤其是低收入與鄉村家庭,承擔了較高成本。 - 成本分攤:2025 年資料中心平均只負擔與其成長相關基礎設施成本的 38%,即 $3.12 billion;其餘 $5.13 billion(62%)主要由居民承擔。

  3. Hacker News (official RSS)45

    中世紀修道院人骨的放射性碳定年警訊

    丹麥研究者分析 27 具修道院墓葬人骨,指出淡水魚飲食可能造成放射性碳定年結果偏老,甚至早於修道院建成時間。 - 原因與線索:樣本的 氮-15(¹⁵N)含量偏高,顯示死者曾食用淡水魚;水生食物的「儲庫效應」會使人骨的碳-14(¹⁴C)定年結果顯得較老。

  4. OpenAI Alignment Research Blog66

    OpenAI 以自動化紅隊訓練 GPT-6 Astra 與 Sol 抵禦高風險領域越獄

    OpenAI 說明如何運用自動化紅隊生成的合成越獄提示訓練 GPT-6 Astra 與 Sol,提升模型在網路安全、生物學及暴力活動等高風險領域抵禦越獄的能力。

    推薦理由:研究展示如何以自動紅隊生成的合成越獄提示進行強化學習訓練,並比較模型面對固定與自適應攻擊時的安全表現。

  5. Apple Machine Learning Research62

    Apple 研究推導語言模型對齊的理論極限,發現 PPO 與 GRPO 表現仍有差距

    Apple Machine Learning Research 推導固定 KL 散度預算下語言模型可達成的最高獎勵提升,並在安全與摘要任務中比較不同對齊方法與理論上限。

    推薦理由:研究推導固定 KL 預算下的對齊獎勵上限,並比較 best-of-N、PPO 與 GRPO,呈現現有方法距理論界線的差距。

  6. Hacker News (official RSS)78

    WPS AI Leaderboard 發布基準,評估 AI 模型在和平任務中是否納入性別面向

    Our Secure Future 與 Collective Intelligence Project 發布 WPS AI Leaderboard 基準,評估 AI 系統能否在全球和平任務分析中遵循「婦女、和平與安全」(WPS)原則,並在未受提示時主動納入性別面向。

    推薦理由:這項基準呈現模型在未受提示時遺漏性別面向的落差,並比較多代理工作流程能否縮小差距,提供評估和平安全應用的具體方法。

  7. The Decoder82

    OpenAI 分析指出,前沿模型的推理過程更難監督,與能力及算力取捨有關

    OpenAI 安全團隊分析 GPT-5 至 GPT-6 Astra,指出預訓練能力、模型架構、強化學習與教師模型都會影響模型隱藏推理步驟及控制推理紀錄的能力。

    推薦理由:分析比較預訓練能力、架構、強化學習與教師模型對推理可監督性的影響,也呈現較小模型延長推理鏈的成本取捨。

11月12日週四
  1. Dev.to Top Tech48

    DINOv2 適應醫療影像分割與專用模型進行比較測試

    研究人員比較將以自然影像預訓練的基礎模型 DINOv2 調整後用於醫療影像分割,與針對特定任務訓練的模型之表現,並測試模型在新臨床據點的泛化能力。 評估方式:研究改變模型的調整範圍,並在新臨床據點測試,而非只使用與訓練資料分佈相同的資料。 研究重點:評估基礎模型能否泛化至新醫院,以及醫療 AI 是否應重視目標式調整與跨據點穩健性評估。

  2. MIT News · AI60

    MIT 研究團隊用較少資料訓練更能應付新情境的氣候 AI 模型

    完整氣候模型很精細,但跑一次可能要花數月,難以快速比較許多未來情境。MIT 研究團隊提出一種訓練方法,先用簡化模型產生合成的排放情境,再反覆挑選能幫助 AI 氣候模型降低預測誤差的資料。這些情境可能不像真實未來,卻能讓模型更有能力預測訓練時沒看過的情況;研究中的傳統模型在測試地方汙染管制、其他排放仍持續上升時,未能做到這點。團隊表示,這種方法也只需用完整氣候模型產生一次資料,可望縮短訓練時間。

  3. NVIDIA AI69

    Déjà View 能將不同角度拍攝的照片轉換為 3D 幾何與相機位置。 模型與基準:這個 117M 引數的模型透過重複執行單一 Transformer 區塊,在五項基準上比肩或超越大上至 10 倍的模型,使用相當或更少的運算量。 運算彈性:研究者可調整迴圈次數,以配合運算預算。 論文與程式碼:NeurIPS 2026 口頭論文,程式碼連結:https://t.co/4jiCRA71Oo

    推薦理由:Déjà View 以 117M 引數在五項基準上比肩或超越大上至 10 倍的模型,並可調整迴圈次數以配合運算預算,呈現模型規模與計算量的取捨。

  4. Google Research73

    Google Research 以穿戴裝置資料建立 CKM 風險評估與個人化健康教練框架

    Google Research 介紹一套研究中的穿戴裝置健康框架,結合可調整的健康年齡指標與 SensorWM,模擬不同生活習慣對未來 12 週生理指標的影響,並產生個人化教練計畫。

    推薦理由:研究以可調整的日常行為推估健康年齡,並用穿戴資料模擬 12 週生活習慣變化,呈現個人化健康指標如何轉化為可執行的教練計畫。

  5. 404 Media49

    天文學家發現「隱形」超大質量中子星,挑戰恆星演化的理解

    太空裡有個看不見的天體,天文學家是靠它拉動附近紅巨星的重力影響,才發現它藏在 J0008+0128 這個星系統裡。它可能是非常罕見的超大質量中子星,也就是大質量恆星爆炸後,核心塌縮留下的天體。它的軌道和質量都很奇怪,研究人員試了數千次模擬,仍無法重現。 這個發現可能幫忙解開天文學家困惑多年的「質量缺口」:觀測到的中子星和黑洞之間,少有質量約為太陽 2.5 到 5 倍的天體。它也讓人重新思考,大質量恆星爆炸後會留下什麼,以及恆星如何演化。

  6. Apple Machine Learning Research51

    Apple 研究探討 SSM 閘控機制如何影響記憶與情境學習

    Apple 研究透過理論與實驗指出,SSM 的閘控機制會使模型先學會權重內記憶,並延後甚至阻礙正確的情境學習解法收斂。 研究發現:即使架構或記憶容量沒有根本限制,閘控仍可能影響情境學習;另一方面,它常有助於提升長序列泛化能力。 研究範圍:分析閘控機制如何塑造 SSM 的訓練動態與泛化表現,為理解及改進線性時間模型提供依據。