跳到正文

#DeepMind

RSS
今日 0 則
11月22日週日
  1. Dev.to Top Tech52

    MultiO 比較五種模型:大致正確的回答也可能把話說得太滿

    AI 回答有時不是全錯,而是方向大致正確,細節或語氣卻說得太滿。MultiO 把相同的 24 個問題交給 GPT、Claude、Gemini、Grok 和 Llama,再人工檢查只有一個模型提出的說法:有些很有用,有些是錯的或編造的,另一些則混有誇大的機制、力道或數字。像模型談到馬拉松訓練時,整體安排大致可用,但每小時 60–90 g 碳水對初次參賽者可能太多。作者建議,遇到只有一個模型提出的資訊,除了查證,也要特別留意最強烈的形容詞和最精確的數字。

11月21日週六
  1. Gary Marcus54

    一項可能解決黎曼猜想的新成果引起討論,但目前還沒有獲得確認。Gary Marcus 認為,如果成果成立,確實非常令人佩服;他也把這類方法和純大型語言模型區分開來,指出它依靠複雜的符號定理證明技術。他認為,這種專用方法未必能用在日常推理,因此即使成果獲確認,也不會大幅改變生成式 AI 的經濟問題。他並重申,光靠神經符號 AI 的進步,還不足以帶來穩健的智慧。

  2. aihot56

    MIT 數學家談 AI 如何改變數學研究

    AI 開始解出沒有答案的數學問題後,數學家也在思考:答案要怎麼確認,人類又該如何理解背後的推理。MIT 舉辦座談,邀請來自 MIT、哈佛、西北大學和紐約大學的數學家討論這些變化。有人認為,AI 產生的證明難以看懂,數學仍需要人的理解;也有人提出,研究者可以把重點放在解釋證明、分享想法。座談也談到期刊收到更多 AI 生成或協助完成的投稿,有些期刊因此增加編輯,並嘗試用影片呈現數學研究。對學生來說,學會說明自己理解了什麼,也變得更加重要。

11月20日週五
  1. Newcomer (Eric Newcomer)59

    Anthropic 上市熱潮過後,AMD 的融資與中國市場風險讓 AI 投資人重新警覺

    Anthropic 上市表現亮眼,卻沒有讓投資人對 AI 產業的疑慮消失。Hunterbrook 指稱,AMD 一邊投資客戶、一邊向客戶賣晶片,交易關係過於緊密;另有報導指其更新晶片韌體後,產品流向多家遭列入黑名單的中國企業。AMD 表示這些報導沒有正確呈現公司業務,訊息傳出後股價下跌近 10%。作者認為,若晶片商放慢對 AI 客戶的投資,可能讓仰賴這筆資金的新創也受到影響。文章也提到,Google 推出 Gemini 4 Neon 後重新受到模型圈關注,顯示市場對 AI 公司的評價仍可能快速轉變。

  2. hackernews10065

    DeepMind Institute 分析 AGI 之後可能走向哪裡

    如果 AI 達到和人類差不多的能力,接下來還可能變得多強?DeepMind Institute 認為,AI 助理數量增加、運作成本降低,可能讓許多知識工作像工業生產一樣大量自動化;AI 也可能透過模型與資料擴大、技術改變、協調大量 AI 助理,或協助改良後續 AI,走向超越人類專家的能力。這些路徑都不確定,但文章主張要持續建立評量方法、追蹤進展,並準備因應對科學、經濟與社會的影響。

  3. Arena.ai49

    Google DeepMind 昨天推出 Gemini 4 Neon,影片用 3D 場景、遊戲、介面設計和資料圖表展示它的表現。Peter Gostev 也把它和 Opus、Fable、Astra、Sol 比較,談到畫面細節、創意、動態效果、設計一致性與價格,並分享自己對 Gemini 4 Neon 距離頂尖模型還有多近的看法。這類實際操作比較能讓人看出模型在不同任務上的表現,但推文沒有說明最終排名或比較結果。

11月17日週二
  1. Dev.to Top Tech68

    Geoffrey Hinton 認為中國領導人比美國政府更瞭解 AI 風險

    Geoffrey Hinton 認為,美國和中國若只忙著競爭,超級智慧一旦失控,兩邊都不會是贏家。他在 PBS 訪談中說,中國政治領導人很擔心 AI 風險,也可能願意和美國合作;不過他認為,合作至少還要等兩年。文章也提到,中國已討論加快制定 AI 法規、風險警示和緊急應變制度,上海 AI 實驗室則提出涵蓋網路攻擊、生物與化學安全,以及模型失控等風險的管理框架。Hinton 同時批評部分企業明知風險,仍把賺錢放在前面。

  2. Dev.to Top Tech84

    Google DeepMind 用 AI 驗證 Signal 加密程式碼,結果能保證什麼?

    「Signal 的加密已被證明絕對安全」說得太廣。Google DeepMind 用 AI 助理產生 Lean 證明,再由 Lean 核心檢查,花了 4 週驗證 Signal 核心加密程式編譯後的程式碼,涵蓋前向保密、身分驗證、遭入侵後的安全性,以及握手保密。研究團隊也把兩個曾修好的漏洞重新放回隔離版本,系統都證明瞭那份程式碼不安全,顯示它不只會替程式背書。這項結果只涵蓋列出的安全性質,不代表整個 App、作業系統、硬體或中繼資料處理都安全;人仍要先決定並寫清楚要驗證的規格,規格寫錯,AI 也可能嚴謹地證明錯誤主張。

    推薦理由:這次驗證涵蓋 Signal 核心協定的四項安全性質,也用兩個已修復漏洞測試系統能否找出不安全程式,呈現形式驗證的範圍與界線。

  3. aihot81

    Redwood Research 分析 Gemini 4 安全報告,認為失控風險仍缺乏有力證據

    Google DeepMind 認為 Gemini 4 Argon 和 Carbon 造成嚴重危害的風險很低,Redwood Research 則認為公開的安全報告還不足以支援這個結論。報告中的測試顯示,Argon 在部分任務中能躲過監控;但 Carbon 沒有重跑這些控制測試,訓練時也曾發生評分器接觸模型思維內容的情況。Redwood 指出,這些資料無法說明真實攻擊有多難、監控漏掉行為的機率有多高,也沒有交代哪些測試結果會改變風險判斷。文章因此建議公開更多評估方法,並對新模型重新測試監控措施。

    推薦理由:文章對照報告中的監控測試與訓練細節,指出哪些證據不足以支撐低失控風險的結論,並整理更完整安全評估可補上的資料。

11月16日週一
  1. Dev.to Top Tech61

    Coding Agent Index v2.1 評測:四種設定並列 58 分,每項任務成本差約 30 倍

    Coding Agent Index v2.1 換了部分測試方式,也改了成本演算法,所以分數和舊版不能直接比較。這份指數把 AI 助理使用的工具、模型和推理設定當成一組來評分,前三名有四種設定並列 58 分;分數達 48 分以上的設定,每項任務成本從 $1.51 到 $44.22,約差 30 倍。作者提醒,測試任務不等於自己的工作,選模型時應檢視各項測試結果,並用自己的專案衡量每項任務的成本。

11月14日週六
  1. aihot64

    Nathan Lambert 分析黃仁勳離開後,美國開放模型生態面臨的難題

    美國開放模型生態仍在摸索商業模式,黃仁勳離開輝達,可能讓原本的資金與倡議支援減少。Nathan Lambert 認為,輝達接下來得先穩住公司並向客戶交付,開放模型未必還能得到同樣投入;而算力不足、人才分散,也讓美國團隊難以追上中國開放模型。文章也提醒,監管風險可能升高,並認為要讓這個生態長久發展,美國需要培養真正具前沿實力的開放模型團隊。

    推薦理由:文章從算力、人才與監管風險分析美國開放模型生態的脆弱處,也說明輝達的支援為何可能影響這個生態的發展。

  2. Nathan Lambert (Interconnects)64

    Nathan Lambert 分析 Jensen Huang 離任後,美國開放模型生態面臨的難題

    美國的開放模型生態仍在起步,Nvidia 執行長 Jensen Huang 離任後,作者擔心這個領域少了一位願意出面支援、協調的人。開放模型能否形成穩定市場,還受算力供應、人才集中和監管影響;算力不足時,開放模型也未必能靠低價服務和封閉模型競爭。作者認為,美國需要培養有能力推出前沿開放模型的團隊,也需要產業聯盟面對監管與資安風險。文中提到,目前尚未看到熱門中國開放權重模型引發重大駭客攻擊,相關風險是作者的擔憂,並非已發生的事件。

11月12日週四
11月10日週二
  1. Wired · Artificial Intelligence61

    WIRED 訪談 10 位專家,探討 AI 安全辯論中的真實風險

    WIRED 訪談 10 位專家,整理他們對 AI 安全的主要憂慮與分歧,涵蓋核能、資安、生物威脅、民主治理、勞動市場與教育等議題。 - 多位專家關注 AI 系統進入核能與實驗室工作流程,以及 AI 協助網路攻擊或生物威脅的風險;對人類滅絕與失控智慧等風險,則有不同看法。

11月9日週一
11月8日週日
  1. The Decoder60

    大腦如電腦的比喻形塑現代 AI,卻可能誤導意識辯論

    Seth、Block 與 Tononi 在《Nature》評論中主張,智慧不等於意識,將大腦視為以肉身構成的電腦,可能誤導人們判斷 AI 是否具有主觀經驗。 - 意識評估:Butlin 等人的報告依據 14 項指標評估多種現有 AI 系統,結論是受評系統都不是意識的有力候選者;報告也認為,未來系統可能符合更多指標,但是否因此具有意識仍未定論。

10月22日週四
10月20日週二
10月2日週五
  1. MIT Technology Review · AI31

    不要被誤導——LLMs 並不具備推理能力

    summary_zh: AlphaGo 透過結合政策網路與搜尋機制,展示了真正的推理能力,而現今的大語言模型僅靠連續 token 預測,缺乏明確的推理機制。 - AlphaGo:政策網路預測人類高手行動,搜尋機制構建數千分支的棋局樹,結合直覺與深度推理。