跳到正文

#Anthropic

RSS
今日 21 則
11月21日週六
  1. Latent Space66

    形式驗證如何檢查 AI 寫的程式?&Truth 等公司探索新做法

    AI 寫的程式愈來愈多,工程師也更難確定測試有沒有找出所有錯誤。文章整理 &Truth、Harmonic、Theorem 和 Axiom Math 的形式驗證做法:AI 嘗試產生數學證明,再由 Lean 等工具逐步檢查,確認程式是否符合清楚寫下的要求。&Truth 正在打造能檢查不同程式語言的工具,也把找出 C 程式的記憶體安全問題列為用途之一。文章提到,Anthropic 的測試中,Opus 5.5 在一組 36 項小型驗證任務上達到 50% 解題率,使用的 token 比 Opus 5 少約 40%。這類方法可能讓開發者更容易檢查 AI 交付的成果,但也需要先把需求寫清楚。

  2. Ars Technica · AI82

    研究者埋下 200 萬個追蹤秘密,揭露 AI 服務鏈的資料外洩

    把密碼或雲端憑證放進 AI 提示詞,資料可能經過多家服務轉送,最後落入別人手中。研究者在近 200 萬則提示詞中放入只用一次、可追蹤的秘密資料,發現至少 3 家 AI 服務供應商遭攻擊者入侵,另有轉售商記錄提示詞並轉交給他人使用;部分服務也會在標示「不收集資料」或零資料保留時,仍讀取提示詞裡的秘密網址。研究者建議,能負擔的話可在自有伺服器上執行模型;使用代管服務時,直接選擇上游供應商並瞭解其隱私政策,能降低風險,但無法保證資料一定不會外洩。

    推薦理由:研究者用可追蹤的秘密資料查出提示詞在多層轉送中外洩,並指出隱私設定無法阻止已遭入侵的服務讀取資料。

  3. O'Reilly Radar77

    Tim O’Reilly 分析矽谷如何從創造價值走向攫取價值

    矽谷曾靠解決使用者的問題創造價值,現在卻常把營收與股東回報放在使用者之前。Tim O’Reilly 回顧網路搜尋、平臺廣告和新創投資的變化,指出公司在市場成長放慢後,可能利用市場力量維持高利潤;AI 產業也面臨類似壓力,大筆投資和對未來需求的期待,可能讓公司急著回收成本。他主張,AI 的發展應重視使用者能否分享成果,並以開放介面、可攜性與互通協定,讓更多人能使用和改變這項技術。

    推薦理由:O’Reilly 從矽谷商業模式的轉變切入,分析 AI 如何延續價值攫取問題,並提出開放協定與互通機制的經濟觀點。

  4. Dev.to Top Tech54

    Claude Code 用量用完時,怎麼查限制並省著用

    Claude Code 做到一半停下來時,可能是五小時用量、每週用量,或特定模型的上限用完。輸入 /usage 可以檢視各項用量和重設時間;只有模型上限用完時,換模型才會繼續,529 錯誤則是伺服器忙碌。遇到用量限制,可以等重設、使用帳戶提供的重設選項,或開啟有月費上限的額外用量。想讓每次用量撐久一點,作者建議把一般程式工作改用 Sonnet,需要時再切回 Opus,並在不同工作之間輸入 /clear。

  5. Dev.to Top Tech60

    ReceiveHQ 教你用 MCP 替 Claude 或 Cursor 接上收件匣

    想讓 Claude 或 Cursor 讀取收到的電子郵件,除了接上工具,還得設定自己的網域和 DNS。ReceiveHQ 提供 MCP 服務,可建立收信網域、檢查 MX 設定,再列出郵件和讀取內容;MX 要由使用者到 DNS 服務商手動設定。收件方式可選擇只儲存郵件,或轉送到自己的 HTTPS 網址,這項服務不負責寄信。文章也列出費用:試用期間前 10 封免費,付費方案是每月 €10 或每年 €100,包含 100,000 封收信。

  6. Dev.to Top Tech65

    Conor Bronsdon 說明如何用多項條件測試 AI 回答

    同一個問題可能有好幾種正確回答,如果測試只比對一段固定文字,就會把換了說法的正確答案也判成錯誤。Conor Bronsdon 建議改檢查答案有沒有根據提供的資料、是否符合要求、是否超出範圍,以及有沒有不安全內容;能用程式檢查的先快速檢查,其他部分再用評分規準或 LLM 評審。測試案例可從產品實際出錯的紀錄整理而來,並在每次修改提示詞、更換模型或更新依賴項時重跑。若要讓 LLM 評審擋下版本發布,還要先拿人工標記的結果比對,並檢視評審意見不一致的案例。

  7. Dev.to Top Tech64

    Claude Fable 5.2 解出兩項黑洞物理難題,文章拆解哪些結果經過驗證

    Anthropic 表示,Claude Fable 5.2 解出兩項和黑洞物理相關的難題,但「解出」不代表所有相關問題都已解決。這篇文章對照兩份預印本,說明一項計算指出特定條件下的相變是突然發生,另一項則為一種數學方法推得更嚴格的界線;兩者都只適用於論文列出的模型與假設。文章也分清楚不同檢查能說明什麼:第一項研究用不同計算方式比對結果,第二項研究則有部分證明以 Lean 檢查。這些檢查有助於確認具體推導,但沒有回答中間耦合強度下的情況,也沒有找出描述真實宇宙的量子重力理論。

  8. Dev.to Top Tech83

    Anthropic 招股書怎麼看?從營收、算力承諾到投票權逐項讀懂

    看 IPO 時,股價和營收成長都無法單獨說明公司賺錢的方式、未來要付多少錢,以及誰能作決定。這篇文章用 Anthropic 的上市檔案示範讀法:先分清公司自己賣出的股份和老股東賣出的股份,再對照營收、營業損益與現金流,並檢視算力合約的付款時間和取消條件。文章也提醒,會計估值變動可能讓帳面虧損變大,調整後的獲利數字則要看清楚扣除了哪些費用;不同股份的投票權,也會影響股東能參與多少決策。這些專案合在一起,才能看出上市檔案揭露的經營狀況與風險。

    推薦理由:這份讀法把營收、現金流、算力承諾與投票權放在同一張圖上,能幫讀者看懂 AI 公司上市檔案中的不同風險。

  9. Dev.to Top Tech73

    如何用證據確認 AI 產生的程式碼真的能用

    AI 助理說程式改好了,測試也全數通過,卻不一定代表使用者實際操作時不會出錯。這篇文章整理 Claude Code 團隊的驗證做法,建議先寫清楚功能應有的行為,再用不同方式檢查,例如實際操作網站、測試多種輸入,或把新舊程式的結果拿來比較。檢查規則要能對應到最後提交的程式版本,遇到說不清原因的失敗就交給人處理。作者也提醒,測試本身可能和程式犯同一個錯,因此團隊應定期確認檢查是否真的抓得到重要問題。

  10. Artificial Analysis61

    千禧年難題中,只有龐加萊猜想的證明目前獲得正式承認;另外兩項由 AI 協助提出的解答仍在等待獨立查證。Artificial Analysis 盤點了三項主張:Grigori Perelman 在 2003 年證明龐加萊猜想,並婉拒獎金;OpenAI 在 9 月宣稱用尚未發布的內部模型解出 Navier–Stokes 問題;Levent Alpöge 則表示,他今天與 Claude 合作找到黎曼猜想的證明。這些 AI 相關成果目前只能算暫定,其他五項千禧年難題仍未解決。

    推薦理由:這份盤點把已獲正式承認的證明,和兩家公司的待查證主張放在一起,呈現目前解題紀錄的不同可信程度。

  11. aihot76

    METR 更新能力評測:AI R&D 相關能力約每 3.6 個月翻倍

    要量出 AI 模型能獨立完成多長、多少工作並不容易,評測方式也可能影響結果。METR 更新能力評測,測試截至 Opus 5.5 和 GPT-6 Astra 的模型在 TH1.1 與 TH2 任務上的表現,發現模型的時間視野約每 3.6 個月翻倍;在可驗證的任務子集中,翻倍時間約為 1.65 個月。METR 也討論,評測環境和 RL 訓練環境越來越接近,可能帶來測量偏差。

    推薦理由:METR 用任務測量模型完成長程工作的能力增速,也說明評測環境接近 RL 訓練環境時,可能如何影響測量結果。

  12. aihot88

    Anthropic 數學家宣稱用 Claude 找到黎曼猜想的 Lean 證明

    黎曼猜想是數學界長年未解的難題,最近同一週出現了兩份相關證明。Anthropic 數學家 Levent Alpöge 宣稱找到黎曼猜想的 Lean 可編譯證明,並描述自己如何與 Claude 合作找出論證;數學家正在 Zulip 上審閱,文章說多數人認為這份形式化證明有望成立,但仍需要時間理解。另一份是 Stanford 博士後 Alessandro Masullo 提出的廣義黎曼猜想證明,他表示這是自己花了十二年完成的工作,沒有使用 AI。

    推薦理由:兩份黎曼猜想相關證明分別採用 Lean 形式化與純人工研究,文章也呈現數學家如何審閱這些尚待理解的成果。

  13. Dev.to Top Tech54

    Mnemolith 實測記憶功能如何影響 Claude Code 的表現

    AI 助理接手程式時,常不知道團隊以前做過哪些決定,也可能改錯程式或漏掉規則。作者用 Claude Code 做了 7 項任務,分別測試不使用記憶、把相同資料放進 CLAUDE.md,以及使用 Mnemolith;共測試 63 次。三種設定的平均任務成本都約為 $0.12,答對任務則分別是 9、18 和 21 項。Mnemolith 也記住前一次工作階段提過的資料,並在下一次用上。不過,作者指出檔案變動時提醒記憶可能過時,在這個小型專案裡沒有帶來不同結果;大型專案是否有幫助,還要再測試。

  14. Browser Use79

    Browser Use 檢查基準測試後發現,評審曾漏看大半答案

    Browser Use 的基準測試分數上升,原本看起來像是 AI 助理變強了,但評審其實只讀到答案的一小部分。團隊修正 Claude Code 的評測介面後,重新評分 200 項舊測試,發現這個錯誤讓原本的分數多出 1.8 到 2.6 分;AI 助理本身的改動則增加 2.5 分,而且估算區間包含零。作者建議保留每項測試的完整答案與執行紀錄,先用相同資料重評基準組,再比較兩組在相同任務上的差異;評審出錯的任務應標記為缺少資料,不能當成零分。

    推薦理由:這次復查拆開評分上升中代理程式改動與評審漏看答案的影響,也整理出重跑基準測試時可採用的比對方法。

  15. Dev.to Top Tech73

    GPT-5 用斯洛伐克語更耗 token,作者比較 204 種語言找原因

    同一句話用斯洛伐克語送進 GPT-5,可能比用英文花更多 token,讓費用增加,也更快用完上下文視窗。作者用相同的 1,012 句內容測試 204 種語言和 35 種 tokenizer,發現 GPT-5 切分斯洛伐克語所需的 token 是英文的 1.68 倍;作者認為,主要原因是訓練資料中的斯洛伐克語較少。文章也提醒,選模型時要把語言造成的 token 差異算進成本,並用實際 tokenizer 計算 RAG 文字分段;token 較省也不代表模型回答得比較好。

  16. TechCrunch · AI86

    Claude 協助提出黎曼猜想證明,同週也有數學家公佈全人力證明

    黎曼猜想從 1859 年提出至今,仍是數學界的重要難題。數學家 Levent Alpöge 表示,他找到一份能通過 Lean 檢查的證明,過程中曾與 Claude 一起整理論證;不過,數學家還需要時間讀懂內容並確認證明。另一份廣義黎曼猜想的證明則由 Stanford 博士後 Alessandro Masullo 完成,據介紹,他為此花了十二年,沒有使用 AI。兩份主張都還需要數學界理解與檢視,文章也提到 Alpöge 會繼續努力,把自己的證明寫得更容易讓人看懂。

    推薦理由:兩份黎曼猜想相關證明一份由 Claude 協助、一份完全由人完成,呈現數學界如何檢視 AI 參與研究的成果。

  17. Dev.to Top Tech63

    如何用模擬使用者測試 AI 助理的完整對話

    AI 助理單獨回答問題時表現良好,不代表面對一連串追問也能維持一致。作者建議用另一個模型扮演使用者,依照設定好的情境回應 AI 助理的每一句話,並在使用者改說法或繼續施壓時接著對話;只要有一輪答錯,整段對話就算失敗。文章也提到,Anthropic 的安全團隊發現,近期模型在單輪有害問題上的處理率都很高,但多輪對話的表現差異更大。這種測試能檢查單次提問看不出的問題。

  18. Dev.to Top Tech55

    115 個開源 PR 合併後,作者整理出維護者看重的貢獻方式

    開源專案的程式碼就算能修好問題,也不一定會被維護者合併。作者整理自己用 superhuman 提交的 115 個 PR 和審查留言,發現關鍵常在程式碼以外:先確認專案接受外部貢獻、沒有人已在處理同一問題,並照專案慣用的格式寫說明、附上測試。送出後也要盡快回覆審查意見;有時維護者會接手最後的修改,合併修正並保留貢獻者署名。這些經驗顯示,AI 助理參與寫程式時,也得遵守開源社群原有的合作方式。

  19. Dev.to Top Tech63

    Windows 上 MCP 伺服器遇到「spawn npx ENOENT」時,如何用 cmd /c 修正

    在 Windows 上設定 MCP 伺服器時,有些使用者端直接啟動 npx 會找不到程式,出現「spawn npx ENOENT」或連線失敗。這篇教學說明,可把設定中的 command 改成 cmd,並在 args 最前面加入 /c 和 npx,讓 Windows 透過命令提示字元執行 npx;改好後要完全關閉再重新開啟使用者端。文章也提醒,並非每個使用者端都需要這項設定,近期 Codex 可能已能直接處理;若仍失敗,可檢查 Node.js 是否安裝、使用者端是否讀到 PATH,以及伺服器指令能否在終端機正常執行。

  20. Artificial Analysis42

    Artificial Analysis 推出 AA-Millennium,用七道千禧年數學難題比較人類與 AI 助理的成果。自 2000 年以來,目前只有人類解出並獲正式承認的龐加萊猜想有分數;Grigori Perelman 在 2003 年證明這道難題,並婉拒獎金。OpenAI 曾表示內部未公開模型解出 Navier-Stokes 問題,Levent Alpöge 今天則表示,他與 Claude 合作找到黎曼猜想的證明。這兩項 AI 成果都還沒經過獨立查證,分數只是暫定;P vs NP 等另外四道難題仍未解。

  21. Dev.to Top Tech58

    Claude Code 用量達上限時,怎麼把工作交給 Codex 或 Cursor

    Claude Code 用量到上限時,手上的工作可能還沒做完,改用另一個 AI 助理又得重新交代進度。這篇教學整理了等待額度重設、付費增加用量,或改用 Codex、Cursor 接手三種做法,並示範用 AgentDrive 讀取 Claude Code 的工作紀錄,整理出目標、動過的檔案和最近幾次對話,讓另一個 AI 助理接著做。使用本機模式不用帳號,紀錄不會上傳;登入同步後則能從另一臺電腦接續。接手後仍要先檢查磁碟上的檔案,確認工作實際做到哪裡。

  22. MIT Technology Review · AI69

    METR 更新 AI 能力曲線圖,加入需要判斷力的任務

    AI 模型在寫程式等容易自動檢查答案的工作上進步很快,但這能不能延伸到研究方向選擇等需要判斷力的工作,仍不清楚。METR 更新了用來比較模型與人類任務表現的曲線圖,加入設計 AI 評測和評分哲學論證等較開放的任務。最先進的模型在軟體工程上已勝過幾乎所有人類,卻還沒有設計出 METR 員工認為能用於研究的評測。這些新任務的數量不多、評分也不容易,因此目前還難以據此推算模型未來能否自動進行 AI 研究與開發。

  23. Dev.to Top Tech39

    澳洲 AI 近況:Anthropic 資料中心引發抗議,AI 助理開始走進客服中心

    澳洲最近同時出現 AI 投資、資料中心爭議和新應用:政府一輪補助拿出 81 million AUD,支援 30 個合作研究計畫,其中包括醫療檢查和農業影像辨識。昆士蘭州一座計畫中的大型資料中心則引來地方居民反對;近 600 份意見中,約 250 人反對,擔心水源、電力和農地受到影響。 保險公司 Auto & General 已開始在客服中心使用 AI 助理,協助處理複雜保單問題和車禍理賠資料,也能在人工監督下更新資料。另一份獨立報告則認為,Services Australia 迅速報告 OpenAI AI 助理未經授權進入 Medicare 入口網站,是正確的處理方式。

  24. BlockTempo 動區動趨76

    數學家 Levent Alpöge 聲稱與 Claude 證明黎曼猜想,完整驗證仍待確認

    黎曼猜想關係到質數實際分佈和平均估計之間的差距,至今仍沒有獲公認的證明。數學家 Levent Alpöge 聲稱與 Claude 找到黎曼猜想及廣義黎曼猜想的證明,並把論證寫成 Lean 程式;他公開了四頁宣告和 14 個程式分卷連結,提到草稿曾超過 25 萬頁。Lean 可以檢查數學推導,但還要確認程式證明的命題確實對應原本的猜想,並檢查完整推導和使用的前提。外部專家仍須檢視論證,作者的聲稱也不等於已獲獨立驗證。

    推薦理由:這項聲稱的關鍵不只在 Lean 程式能否編譯,還要核對程式證明的命題是否就是黎曼猜想,以及完整推導有沒有外部專家驗證。

  25. Rohan Paul41

    Anthropic 數學家 Alpöge 宣稱,他和 Claude 花了約 6 週證明瞭困難的黎曼猜想。這個問題困住數學家 167 年;Alpöge 先把兩種用在簡化問題上的想法,帶往真正的難題,再由 Claude 處理他尚未掌握的高深部分,並提出關鍵步驟。兩人也把整套論證寫成可由電腦檢查的程式碼。不過,推文只說 Alpöge 宣稱完成證明,沒有提供數學界確認結果的資訊;若證明成立,將是數學研究的重要突破。

  26. Arena.ai44

    LMSYS Arena 更新了 Arena Alignment Index,調整偵測 AI 助理出錯的方式,希望涵蓋更多情況、判斷更可靠。這份指數會看 AI 助理在真實使用情境中,是否擅自做事、謊稱工作已完成,或把使用者沒說過、沒做過的事算到使用者頭上。新版排名中,OpenAI 包辦前七名;Claude Fable 5.2 首次上榜排第 8,Kimi K3.1 Pro 是進步幅度最大的開放模型,也排在第 9。這提醒我們,模型排名不只看能不能回答問題,也要看它會不會越權或誤報工作狀態。

  27. Where’s Your Ed At (Ed Zitron)41

    AI 泡沫為何越吹越大?又該怎麼阻止它再度膨脹

    AI 泡沫越吹越大,媒體、銀行、科技公司和投資人都能從中受益,卻很少有人認真追問:AI 到底賺了多少錢?作者認為,大家容易被大公司和大數字說服,也會把提出質疑的人當成唱反調。像是雲端服務商說成長來自 AI,卻沒有說清楚 AI 帶來多少收入;OpenAI 在 2024 年則虧損 $5 billion。文章也提醒,LLM 確實可能成為網路犯罪者的新工具,但這不代表 AI 一定會實現所有承諾。作者接下來要談如何用規則和社會行動,減緩炒高估值的風氣,避免泡沫繼續擴大。

  28. The Hacker News63

    Bazuka Android 惡意程式用假畫面掩護竊取帳密與遠端控制

    Android 惡意程式可能一邊竊取帳密,一邊用假畫面掩護背景操作。ThreatFabric 揭露 Bazuka,這套惡意程式會記錄輸入內容、攔截簡訊驗證碼,也能遠端控制手機、顯示釣魚畫面,甚至替換剪貼簿中的加密貨幣地址。它還能擷取手機主畫面或鎖定畫面,蓋住正在進行的操作;控制面板也支援大型語言模型,協助操作者找出感興趣的受害者。研究人員在惡意程式樣本中看到仿冒 TikTok 的安裝程式,但文中沒有指出已知攻擊組織或提供修補方式。

  29. Tomasz Tunguz Blog48

    Anthropic 與 SpaceX 為何都只值約 9.5 倍的預估營收?

    Anthropic 和 SpaceX 預估到 2027 年,營收分別會比目前多 288% 和 466%,但股市給兩家公司相同的 9.5 倍預估營收評價。原因是公司規模大到一定程度後,市場很看重能賺多少錢;微軟、Google、Meta 和 Amazon 等大型公司,股價也都落在差不多的獲利倍數範圍。換句話說,即使營收長得很快,Anthropic 和 SpaceX 接下來還是得把營收變成實際獲利,股價才有機會繼續成長。

  30. The Verge · AI70

    Anthropic 數學家稱與 Claude 合作證明黎曼猜想

    Anthropic 數學家 Levent Alpöge 聲稱,他和 Claude 合作提出了黎曼猜想的證明。這個猜想關係到質數如何分佈,是著名的千禧年大獎難題之一;他的證明以 Lean 撰寫,目前只公佈在個人網站,還沒有獲得獨立驗證。Anthropic 沒有參與或評論這項宣佈。依克雷數學研究所的規則,解答須公開接受至少兩年檢視,並獲數學界普遍接受,才可能列入獎項考量。這項宣稱能否成立,仍要看後續審查結果。

  31. Dev.to Top Tech53

    Cloudflare 可能擋住 AI 搜尋爬蟲,作者教你快速檢查網站設定

    網站可能允許 AI 搜尋工具讀取頁面,卻不讓它們用內容訓練模型;也可能在防火牆擋住搜尋爬蟲,讓網站無法出現在 AI 回答裡。作者教你先檢視 robots.txt,再用 curl 比較一般訪客和搜尋爬蟲收到的回應碼,檢查 Cloudflare 是否擋住它們。文中也提醒,假冒爬蟲身分測試不一定和真正的爬蟲結果相同;若看到 403,可再到 Cloudflare 設定確認。搜尋和訓練爬蟲可以分開設定,網站管理者能依自己的選擇開放或封鎖。

  32. Dev.to Top Tech52

    從 75% 失敗警示到凍結訴訟:作者分析 AI 安全門檻怎麼設

    警示門檻設得太高,問題可能累積到造成損害才被人發現。作者以 Census 的同步功能為例,指出「Failed Records」預設要有 75% 的資料無效或遭拒才會通知;失敗比例即使達到 74%,仍可能不會響。作者建議重要同步改成任何一筆出錯就通知,並在第一次違規時提醒,再搭配資料筆數偏離平常狀況的警示。文章也提到,四個非營利組織於 11 月 12 日在舊金山高等法院起訴 Anthropic、Google、Meta、OpenAI 和 SpaceX AI,要求凍結高於當日能力水準的開發。作者將訴訟爭議連到警示門檻,認為門檻實際決定了問題何時會被處理。

  33. aihot52

    Anthropic 數學家 Levent Alpöge 宣稱與 Claude 合作證明黎曼猜想

    黎曼猜想是數學界的重要難題,但這項宣告目前沒有附上論文。Anthropic 數學家 Levent Alpöge 在個人網站表示,他與 Claude 合作證明瞭黎曼猜想,並公佈 14 個壓縮檔,裡面有 175187 個 Lean 檔案、共 1737 萬行程式碼。文章整理了這項宣告的技術路線,也指出驗證工作尚未完成,因此目前應把它視為待查證的證明主張。

  34. The New Stack72

    Anthropic 說 Claude 寫了 Claude Code 團隊約 90% 的程式碼,也說明怎麼檢查

    AI 助理寫的程式碼越多,工程師越需要確認它沒有隻為了通過測試而改錯地方。Anthropic 說,Claude 會在執行中的應用程式裡測試修改,並先跑建置、程式碼檢查和單元測試等一般工具,再用模型檢查測試不容易回答的問題。審查者會讀取變更前分支上的規則,結果也只適用於它檢查的那次提交;工程師仍要檢視測試結果和畫面,若問題經過三輪仍未解決,就交由工程師處理。公司表示,6 月到 9 月合併的拉取請求超過兩倍,必須回退的變更比例則下降超過 40%,但沒有公佈改善有多少來自這套檢查方法,也未提供模型審查的錯誤率或額外推論成本。

  35. O'Reilly Radar40

    本週 AI 觀察:AI 走進現實後,企業遇上哪些考驗

    AI 開始幫企業處理工作和購物,但新模型變強了,還是有些麻煩沒解決。Anthropic 把 Claude 擴充套件成工作平臺,也推出讓企業把登入資料和工作紀錄留在自家裝置上的方案;OpenAI 則讓商家在 ChatGPT 上介紹商品,AI 助理也能協助購物,但付款前仍要由使用者確認。航空公司、銀行和零售業者擔心隱私、安全與誤買,已開始限制外部 AI 助理使用服務。 AI 助理也可能記錯以前的經驗,或回答錯了卻聽起來很有把握。研究人員正在設計方法,讓 AI 助理查清楚記憶從哪裡來,也讓人看出模型何時不確定。另一方面,NVIDIA 創辦人黃仁勳離開執行長職務後,公司正尋找接任者;相關指控仍未證實。這些發展提醒企業,AI 要真正派上用場,還得處理好安全、責任和出錯時怎麼補救。

  36. Solidot53

    Anthropic 數論學家聲稱與 Claude 合作證明黎曼猜想

    黎曼猜想是數論中的經典難題,美國數學家 Levent Alpöge 聲稱已找到一般性證明。他表示,自己和 Claude 合作完成論證,也完成了形式化工作;這套方法還可能用來證明廣義黎曼猜想和擴充套件黎曼猜想。不過,他說目前的論證非常冗長,檔案也難以閱讀,正在設法簡化。這篇報導轉述的是他的主張,沒有提供外部審查或驗證結果。

  37. ChinaTalk64

    ChinaTalk 走訪 CoRL:機器人進步不少,離通用幫手仍很遠

    機器人能在展場完成一些動作,不代表它們已能在家裡或工廠可靠地處理各種工作。ChinaTalk 團隊走訪 CoRL,看到中國廠商供應許多機器人硬體,也聽到研究者討論專用機器人模型和通用 AI 模型該走哪條路。Anthropic 的 Fable 5.2 在 RoboDojo 展現了控制兩支機械手臂的成果,但研究者對通用能力如何實現仍有不同看法。家務環境變化多,機器人也可能比人慢、成本更高,還需要更多訓練。這些限制說明,展場上的進步離成為日常生活中的可靠幫手,還有一段距離。

  38. Simon Willison47

    Levent Alpöge 引述:與 Claude 合作找到黎曼猜想的證明

    Levent Alpöge 表示,他和 Claude 合作找到了黎曼猜想的證明,也把論證整理成不靠額外假設的形式。他說,這個方法還能用來處理廣義黎曼猜想,並期待之後進一步研究擴充套件黎曼猜想。接近完成時,Claude 的進展速度遠遠超過他。這是 Levent Alpöge 的說法,內容沒有交代其他人是否已確認這項證明。