跳到正文
Hacker News (official RSS)(theregister.com)·· 3 小時前精選AI 評分77

IBM CEO:開源權重模型已逼近封閉模型效能,成本低至 10%

IBM CEO says open weight models are now irresistibly good and cheap on-prem

AI 導讀

IBM CEO Arvind Krishna 在 Q3 財報電話會議上表示,開源權重模型已逼近封閉模型效能,成本僅為 10%–25%。

  • 效能:開源模型可達 90% 封閉模型效能。
推薦理由

IBM CEO指出開源模型已逼近封閉模型效能,成本低至 10% 之多,對企業部署 AI 產生重大影響。

正文 · AI 翻譯

REG AD

系統

\n 90% 的效能以 10% 的價格,在僅兩到三個機架中,難以匹敵\n

IBM 總裁 Arvind Krishna 已告知投資者,開放權重模型現在對於本地企業使用非常合理。

在公司第三季財報電話會議上,Krishna 表示 2024 年封閉前沿模型明顯優於開放替代方案。

“如果你進行了一項廣泛的評估或基準測試,而非狹窄範圍,頂級模型可能得分 70,而開放模型可能得 20 或 30。”

REG AD

“在 2025 年底,我們開始看到這個差距縮小,可能不是 70 到 20 或 30,而是 70 到 50,”他繼續說。

REG AD

CEO 表示開放權重模型目前提供“相當於前沿模型 25% 至 10% 的代幣成本。這非常吸引人,因為它們現在已經達到 90% 的效能。”

“對任何企業來說,這是一個簡單的問題。你想要成本只有 10%、但效能達到最佳的 90%,還是願意支付高達 10 倍的成本?”

Krishna 認為企業大多會選擇不承擔更高成本。

“那麼問題是:有多少任務需要這樣?我會告訴你有些需要,但大多數任務,例如摘要電子郵件、審查合約、回答客戶來電、撰寫電子郵件,都可以用更便宜的答案完成。”

CEO 表示這些數字意味著 IBM 正在看到本地 AI 基礎設施的蓬勃興趣。雖然他認為大多數企業只需兩到三個機架即可構建有用的 AI 基礎設施,但他覺得許多企業將難以啟動。

“問題變成:你怎麼做到?”他說。“企業面臨的問題是:‘我的核心工程師在哪裡?誰負責關注底層網路?誰能確保模型被聚集在彼此網路相近的 GPU 上?誰能確保你正確地快取結果,從而得到驚人的回應?’”

他沒有答案,僅表示 IBM 將開發軟體以簡化 AI 部署。Krishna 也預測本地 AI 的需求將促進 Big Blue Spyre 主機加速卡的銷售。

CEO表示,當前世代的z17大型機已創造比任何前一款模型多10億美元的營收,並表示Big Blue的新rackable models帶來「近二十年來IBM Z最強的中階產品發布。」然而,大型機營收下跌20%,這符合IBM的預期,因為自z17推出以來已經18個月。

REG AD

IBM 的基礎設施營收同比增長 5%,遠低於 Dell、HPE 和 Lenovo 的增長幅度。

軟體表現相對較好,增長 9%,達到 78 億美元。Red Hat 為明星,增長 11%,年度經常性收入提升 30%。其中部分未來營收來自 Red Hat 的虛擬化產品,已獲得 8 億美元的交易,並有額外 7.5 億美元的管道。對於 2024 年推出的產品線而言,這是一個穩固的成果,IBM 也相信隨著部分 VMware 使用者可能轉移,還會有更多成長。

總季度營收達 171 億美元,增長 5%。IBM 股價在盤後交易中波動,最終下跌一兩個點。

『緊急維護』 for IBM Cloud

今天 The Register 正在關注的另一件 IBM 事件,是在 Big Blue 雲端發生的嚴重性一級事件,原因是「緊急維護」,導致使用者無法在 90 分鐘內建立新的資源或虛擬私有雲。IBM 於 2013 年從 SoftLayer 收購的 Classic Cloud 服務使用者已被告知,Big Blue 將於週四 UTC 08:00 前「恢復我們 Classic 環境中的新建資源與資源管理」,意味著此次事件至少會持續 16 小時。

IBM 在公告 critical bugs in PHP 之後僅數小時便開始進行該工作。我們已詢問修復該缺陷是否為此次事件的原因,若收到回覆將更新此報導。 ®

來源: Hacker News (official RSS) (theregister.com)
開啟原文