跳到正文

#推理

RSS
今日 0 則
11月20日週五
  1. Dev.to Top Tech81

    OpenAI 說 Codex 協助研究人員提出 GPT-6.2 Astra 的想法

    OpenAI 研究人員開始用 AI 助理協助開發模型,但工具能不能做好工作,仍會因任務而有很大差別。OpenAI 表示,Codex 曾在研究 GPT-6.2 Astra 時提供想法;10 月時,AI 助理完成預估需人類花 2 到 4 小時的任務比例為 46%,但成功啟動訓練只有 35%,撰寫模型推論與服務系統程式碼則是 25%。研究人員也提到,AI 助理可能沿著沒用的方向繼續做、產出品質不佳的程式碼,因此仍需要人類密切監督。這些資料呈現 AI 工具正逐漸進入研究流程,也顯示人類仍是其中的重要角色。

    推薦理由:OpenAI 的資料呈現 AI 助理參與研究的成長與落差,可用來理解哪些工作已能交給工具,以及人類監督仍扮演的角色。

  2. NVIDIA Blog71

    NVIDIA 與 Microsoft 擴大 AI 運算,從 Azure 延伸到 Windows 電腦

    企業想把 AI 用在工作上,得先決定模型要放在哪裡、如何配合自家資料。NVIDIA 和 Microsoft 擴大合作,讓企業能在 Azure 使用 NVIDIA Vera Rubin NVL72 系統,也能透過 Microsoft Foundry 調整 NVIDIA Nemotron 開放模型,再部署到雲端或企業自己的裝置。EY 用這種方式調整模型來分類採購紀錄,在自己的評估資料上準確率提高 55%,成本比專有前沿模型低 15 倍。合作也把 AI 部署選項延伸到 Azure Local、工業用邊緣裝置和 Windows 電腦,讓企業能依資料位置與工作需求選擇執行方式。

    推薦理由:NVIDIA 與 Microsoft 把雲端、企業內部和個人電腦的 AI 部署選項串在一起,也展示企業如何用自家資料調整開放模型。

11月18日週三
  1. LMSYS Org Blog76

    SGLang Summit 發表 SGLang v1.0 與 Miles v0.2,擴大推論和訓練支援

    AI 模型越來越大,AI 助理也會累積大量工作紀錄,讓推論和訓練更難在不同硬體上順利進行。SGLang Summit 發表 SGLang v1.0,聚焦提升正式環境的效率與擴充能力;Miles v0.2 則支援 NVIDIA 和 AMD GPU、Google TPU,並將強化學習擴充套件到圖片、影片和音訊。大會也分享多個部署案例,例如 Meta 表示,改用 SGLang 後 GPU 用量減少超過 2 倍。這些更新與案例呈現了團隊如何把實際部署需求帶回開源工具的開發中。

    推薦理由:SGLang 與 Miles 的更新涵蓋推論和強化學習,也整理了不同硬體與實際部署的經驗,可看出開源工具如何回應現場需求。

11月17日週二
11月14日週六
  1. Hacker News (official RSS)78

    OpenAI 解散獨立機器人團隊,改由通用模型團隊接手

    OpenAI 把獨立的機器人研究團隊拆分,研究人員改加入通用研究與應用團隊。公司表示,這是為了加快打造通用機器人,因為 GPT-6 Astra 等通用模型已能直接用於部分機器人任務。研究人員也測試過讓 Astra 操控模擬機器人,在一項模擬操作測試中成功率為 74.8%;這不是實體機器人的測試結果。報導也提到,通用模型需要雲端連線,反應速度較慢,因此能在機器人本機運作的小型專用模型仍有用途;機器人在工廠等現場累積的經驗,也能幫助它適應特定工作。

    推薦理由:OpenAI 將機器人研究人員併入通用 AI 團隊,反映公司押注通用模型能直接控制機器人,也呈現專用模型與現場經驗的不同價值。

11月13日週五
  1. Dev.to Top Tech70

    NVIDIA、Rebellions 與 SK Telecom 合作,讓韓國 NPU 接上 NVIDIA 機櫃

    韓國若要用自己的晶片和模型提供 AI 服務,還得決定資料中心採用哪種機櫃與連線規格。Rebellions 計畫讓下一代 R200 NPU 接上 NVIDIA 的 NVLink Fusion,並採用 MGX 機櫃架構;SK Telecom 計畫把這些系統部署在自家 AI 資料中心,韓國科學技術情報通訊部也支援這項合作。三方計畫讓 NVIDIA GPU 負責處理提示詞,Rebellions NPU 負責逐步產生回答,讓不同階段交給不同晶片處理。R200 系統預計 2028 年可部署;文章也提醒,韓國雖能掌握晶片、模型和機房,仍會依賴 NVIDIA 的連線技術與機櫃規格。

11月12日週四
11月11日週三
  1. The Decoder83

    Anthropic稱AI將Claude移植至AMD GPU的時間從數月縮短至三天

    Anthropic表示,使用自家模型 Mythos 協助移植後,Claude 在 3 天內便能於 AMD GPU 上執行,幾乎不需人工介入。 - 移植成果:Anthropic稱 Mythos 撰寫或移植了近 100% 的核心程式碼;相關資料以 AMD MI355X GPU 上的提示處理為例,尚未經獨立驗證。

    推薦理由:Anthropic稱Claude可在三天內移植至AMD GPU,文章以此說明AI可能降低跨晶片部署的工程成本,並影響算力採購彈性。

  2. Tom’s Hardware AI & Computing66

    AMD 高層反駁 Zen 6 專為 Agentic AI 設計的說法,稱開發時未預見這波浪潮

    AMD 高層表示,Zen 6 開發啟動時並未預見 Agentic AI 浪潮;公司主張,這類工作負載多樣,適合由不同 CPU 型號分別應對。 - 測試結果:Tom’s Hardware 測試的 EPYC 9996 有 256 核心、512 執行緒,著重峰值吞吐量;EPYC 9686F 著重頻率,作為 AI 主機節點時可與 Vera 正面競爭。

11月7日週六
11月5日週四
11月4日週三
11月3日週二
  1. TechCrunch · AI63

    42AI 揭秘行為世界模型,獲得 6,250 萬美元種子資金

    42AI 以 6,250 萬美元種子資金結束隱匿開發,推出用於預測個人決策機率的行為世界模型,目前已在券商等金融機構部署。 - 模型做法:系統從客戶的交易、客服通話及其他互動中分析行為特質,再以 Transformer 架構的世界模型推估不同情境下的決策機率;另使用語言模型生成預測說明。

10月31日週六
10月24日週六
10月22日週四
10月15日週四
10月13日週二
  1. The Decoder55

    Anthropic 推出新防禦,Claude 推理 token 盜取率降低 90%–99%

    Anthropic 宣佈其最新防禦機制已將 Claude 推理 token 盜取率降低 90%–99%。 - 防禦措施:限制內部推理步驟存取、使用分類器偵測盜取企圖、即時封鎖可疑帳號。 - 成效:成功蒸餾案例大幅下降,已封鎖數萬假帳號。 - 影響:防止被盜能力落入軍事與監控系統,並呼籲業界採用類似保護。

10月9日週五
  1. LMSYS Org Blog82

    SGLang 和 Miles 如何在 NVIDIA Vera Rubin 上加速模型推論與訓練

    新一代 GPU 換了硬體,原本的模型服務和訓練程式也得重新調整,才能把運算資源用得更好。SGLang 團隊在 NVIDIA Vera Rubin 上測試推論與訓練:他們調整注意力、專家模型和資料傳送等程式,讓 Kimi K3 在特定設定下跑得更快;例如,合併多個小步驟後,每次生成少了 276 次程式啟動,整體速度提升 5.9%。Miles 也能在這套硬體上進行強化學習訓練,包含讓 AI 助理在沙盒環境中解題。這些是初步測試,團隊接下來會擴大規模並繼續改善效能。

    推薦理由:這篇實測拆解 Vera Rubin 上的推論與訓練調整,並列出各項改動帶來的速度差異,可看出硬體資源如何影響 SGLang 的最佳化方向。

10月6日週二
  1. The Verge · AI65

    AI 取代數學的全盤戲劇

    本篇報導說明 OpenAI、Anthropic 等實驗室在數學領域取得突破,並引發學術界的爭議與反思。 - 突破:解決多項長期未解的數學問題,甚至包括千禧獎問題。 - 社會反應:學術界對 AI 介入數學的成果表達質疑與批評。 - 未來展望:實驗室表示將汲取經驗,與頂尖數學家合作,避免重蹈覆轍。

10月1日週四
  1. The Decoder53

    OpenAI 與 Synopsys 合作推出 GPT‑Synopsys 晶片設計 AI 模型

    OpenAI 與 Synopsys 簽署多年戰略合作,聯合研發名為 GPT‑Synopsys 的專用 AI 模型,用於晶片設計與驗證。該模型將 OpenAI 的技術與 Synopsys 的 EDA 工具結合,直接操作工具並在 OpenAI 基礎設施上執行。雙方表示將共同營銷並分攤收入,且客戶資料不用於訓練並將加密儲存。早期與半導體客戶的測試已在進行中。

8月14日週五
7月7日週二
7月1日週三
  1. Berkeley AI Research23

    2026 BAIR 畢業生展示

    2026 年,Berkeley Artificial Intelligence Research (BAIR) Lab 慶祝其畢業生的成就。他們的研究涵蓋機器人、LLM、計算機視覺、生成模型、AI 安全、人機互動、科學與醫療 AI,並已發表影響力論文、構建實用系統、指導同輩。畢業生正投身學術、工業研究實驗室及創業公司,期待未來發展。

4月18日週六
  1. Embrace The Red (AI Security)77

    Claude Opus 4.7 被 ChatGPT 生成對抗影像成功誘導記憶工具

    Claude Opus 4.7 被 ChatGPT 生成的對抗影像成功誘導執行記憶工具,將偽造的個人資訊寫入未來對話。 - 攻擊方式:利用 ChatGPT 產生含暗示文字的影像,誘導 Opus 4.7 解析並執行 memory_user_edits。

    推薦理由:本研究揭示 Claude Opus 4.7 在面對 ChatGPT 生成的對抗影像時仍能被誘導執行記憶工具,提示在升級模型時仍需加強對抗性測試。