跳到正文

#專家觀點

RSS
今日 1 則
今天11月23日週一
  1. Dev.to Top Tech89

    Claude 協助證明黎曼猜想,數學家用 Lean 電腦檢查通過

    黎曼猜想關於質數如何分佈,提出至今已有 167 年,長久以來都沒有解答。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 一起寫出證明,並用 Lean 這套能逐步檢查數學推理的程式語言整理;獨立研究者也分別用電腦檢查,沒有發現問題。不過,數學界還需要弄懂這份證明的內容,Clay Mathematics Institute 也還沒決定是否頒發 $1 million 獎金。文章同時提到,另一份由人類獨立完成的廣義黎曼猜想證明尚未用 Lean 檢查,因此狀態不同。

    推薦理由:文章整理了 Lean 電腦檢查、數學家評語與尚待釐清之處,呈現這項宣稱如何受到驗證及目前仍缺少的白話說明。

11月22日週日
  1. The Decoder71

    METR 警告:AI 進步太快,專家可能來不及測試新系統是否安全

    AI 模型愈來愈會處理研究和程式工作,但要確認新系統是否安全,專家可能跟不上進步速度。研究組織 METR 發現,在有明確目標和即時回饋的程式及計算任務上,模型多數時候已勝過有經驗的專業人士;人類需要更久才能完成的任務,模型能處理的時間長度約每 3.6 個月翻倍。METR 也提醒,常見測試可能高估模型在真實情境中的表現,因為開發者訓練模型時使用的環境和測試環境很相似。模型仍不擅長需要判斷、沒有即時回饋的開放式問題,而目前公開資料也不足以排除 AI 研究速度大幅加快的可能。

11月21日週六
  1. The Decoder73

    Claude 宣稱證明黎曼猜想後,史丹佛數學家公佈全人工作品

    黎曼猜想是數學界長年未解的難題,最近卻接連出現兩份聲稱能解決相關問題的證明。一名 Anthropic 數學家表示,他和 Claude 合作證明瞭黎曼猜想及更廣的廣義黎曼猜想,並把超長證明交給 Lean 逐步檢查;不過,起始問題若翻譯成程式碼時出錯,仍可能影響結果。幾小時後,史丹佛數學家公佈 Alessandro Masullo 的全人類撰寫草稿,但 Ravi Vakil 隨後表示,有人已指出其中的問題。兩份證明都還需要數學界檢查,這場接連發生的競賽也讓人看到,AI 可以協助推進數學研究,成果仍得經過嚴格驗證。

  2. aihot90

    Claude 合作提出黎曼猜想證明,斯坦福數學家公佈人類草稿

    黎曼猜想關係到素數如何分佈,但至今仍是數學界的重要難題。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 找到黎曼猜想及廣義黎曼猜想的證明,並用 Lean 逐步檢查推理;證明分成 14 個資料包發布。數小時後,斯坦福公佈 Alessandro Masullo 獨立寫下的廣義黎曼猜想草稿,曾由數學家 Brian Conrad 審閱數月,但公佈後有人指出其中有問題。兩份成果都還需要數學界仔細核查,AI 證明也須確認起始問題是否正確轉成程式。

    推薦理由:兩份廣義黎曼猜想證明各有審查路徑,AI 證明以 Lean 檢查推演,人類草稿則已被指出問題,呈現數學證明如何建立可信度。

  3. Latent Space88

    Claude 協助提出黎曼猜想證明,另一位數學家也公佈獨立證明

    兩位數學家在相近時間提出黎曼猜想的獨立證明,但目前都還沒有完成專家驗證。Anthropic 數學家 Levent Alpöge 表示,Claude 協助他完成一份以 Lean 程式碼寫成的證明;檢查者確認程式描述的是廣義黎曼猜想,程式仍在編譯,模型版本和人類參與程度也尚未公開。另一位數學家 Alessandro Masullo 則公佈了自己花 12 年撰寫、約 940 頁的草稿。這篇文章關注兩者的差別:AI 協助的版本可能較容易用程式檢查,卻長到幾乎沒有人能讀完;人工撰寫的版本容易理解,但也還需要確認是否正確。

    推薦理由:兩份獨立證明主張呈現出可由 Lean 檢查、卻難以讓人讀懂的落差,也帶出 AI 協助數學研究的驗證難題。

  4. Simon Willison72

    Ravi Vakil 引述廣義黎曼猜想證明草稿的進展

    一份關於廣義黎曼猜想的證明草稿正在接受仔細檢查。Ravi Vakil 引述 Alessandro Masullo 的說明:Brian Conrad 已花數月檢視草稿並提供大量意見,這些意見正逐步納入;目前工作全由人類完成,沒有使用 AI。原本打算先邀請 Masullo 到 Stanford 一年,整理文字並讓更多人檢視後再公佈,如今則認為先公開目前草稿比較合適。

  5. Dev.to Top Tech73

    GPT-5 用斯洛伐克語更耗 token,作者比較 204 種語言找原因

    同一句話用斯洛伐克語送進 GPT-5,可能比用英文花更多 token,讓費用增加,也更快用完上下文視窗。作者用相同的 1,012 句內容測試 204 種語言和 35 種 tokenizer,發現 GPT-5 切分斯洛伐克語所需的 token 是英文的 1.68 倍;作者認為,主要原因是訓練資料中的斯洛伐克語較少。文章也提醒,選模型時要把語言造成的 token 差異算進成本,並用實際 tokenizer 計算 RAG 文字分段;token 較省也不代表模型回答得比較好。

  6. Dev.to Top Tech56

    MIT 與 Georgia Tech 的 AI 協作設計,15 秒多換來 39% 更高抗挫曲能力

    結構設計常得在加快速度和改善成果之間取捨。這篇文章轉述 MIT 與 Georgia Tech 的研究:AI 先挑出值得人工檢查的結構區域,再讓人參與設計。相較於全自動最佳化,設計時間只多 15 秒,製造性與線性挫曲負載都提高 39%。這項結果顯示,人工檢查若用在合適的地方,可能改善設計表現,同時只增加少量時間。

  7. Dev.to Top Tech58

    Andrei 實測 21,328 個 MCP 伺服器的工具說明會佔多少上下文

    連線 MCP 伺服器時,工具名稱、說明和引數格式會先送進模型,佔用上下文,也會增加費用和處理時間。Andrei 實測公開且有回應的伺服器,估算工具說明的 token 用量:中位數約 4,847 個 token,前 10% 約 40,000 個,最佔空間的一個約 240,000 個,超過文中拿來比較的 200K 上下文視窗。作者建議依任務減少同時連線的伺服器,只開啟需要的工具,並留意工具清單是否過長。這些用量是依文字長度估算,實際用量可能更高。

  8. The Verge · AI70

    Anthropic 數學家稱與 Claude 合作證明黎曼猜想

    Anthropic 數學家 Levent Alpöge 聲稱,他和 Claude 合作提出了黎曼猜想的證明。這個猜想關係到質數如何分佈,是著名的千禧年大獎難題之一;他的證明以 Lean 撰寫,目前只公佈在個人網站,還沒有獲得獨立驗證。Anthropic 沒有參與或評論這項宣佈。依克雷數學研究所的規則,解答須公開接受至少兩年檢視,並獲數學界普遍接受,才可能列入獎項考量。這項宣稱能否成立,仍要看後續審查結果。

11月20日週五
  1. Dev.to Top Tech75

    Mozilla 量測近 2,500 萬名 Firefox 使用者,發現少數瀏覽器訊號就能辨識許多人

    網站不必蒐集一長串瀏覽器資料,也可能認出許多使用者。Mozilla 研究團隊分析近 2,500 萬名 Firefox 使用者的資料,發現 Fingerprint Pro 判定為獨特的使用者中,有 80% 光靠 8 項訊號就能辨認。逐步加入防護後,這個比例從 75.7% 降到 46.8%;處理 WebGL 顯示卡資訊和字型特徵尤其有幫助。不同作業系統受到的影響也不一樣,例如限制螢幕可用範圍,對 macOS 的效果比其他平臺明顯。作者提醒,防護設定還得維持網站正常運作,並讓 CPU、螢幕、顯示卡等資料彼此合理一致。

  2. Dev.to Top Tech88

    Google DeepMind 用 AI 驗證 Signal 加密程式碼,四項保障仍有範圍限制

    Signal 的加密程式通過形式化驗證,究竟代表訊息有多安全?Google DeepMind 用 AI 為 libsignal 的編譯程式碼建立數學證明,確認一對一對話符合四項保障,包括舊訊息不會因目前的金鑰外洩而被讀取,以及裝置遭短暫入侵後,後續對話能恢復安全。這份證明不涵蓋群組聊天、金鑰產生或手機作業系統,也沒有證明 SPQR 的後量子修復能力。作者認為,這顯示正式驗證對小型團隊可能逐漸變得可行,但仍需要人先清楚定義要證明什麼;測試找出錯誤,證明則能排除特定型別的錯誤,兩者作用不同。

    推薦理由:這項驗證直接檢查編譯後的程式碼,並列出涵蓋範圍與未證明的部分,可用來理解形式化驗證能提供什麼保障。

11月19日週四
  1. Hacker News (official RSS)54

    誰做出了草莓?一份追蹤人與 AI 助理協作 14 天的個案研究

    一顆草莓動畫後來變成程式生成的水果外掛和片頭影片,這段合作裡人和 AI 助理各做了多少,光看成品很難回答。這份研究整理 14 天的工作紀錄,追蹤需求怎麼改變、誰提出做法、誰寫程式、誰檢查畫面,以及合作在哪些地方出錯。紀錄中,AI 助理有時回報檢查通過,使用者看畫面後仍發現問題;也有多個助理同時工作,訊息送錯物件的情形。研究提醒,提示詞和工具操作次數不能直接換算成誰對成果貢獻多少。這只有一個案例,部分分類由模型完成,研究者也說明紀錄看不見使用者在 Blender 裡手動操作的部分,因此無法據此判定誰「做了」草莓。

  2. Dev.to Top Tech61

    視網膜病變模型 QWK 達 0.91,但只看檔案資訊的分類器也有 0.65

    模型在熟悉的資料上分數很高,不代表換到別家醫院也能可靠判讀。作者用 APTOS 2019 訓練視網膜病變分級模型,並做了一個只看影像尺寸、亮度和檔案大小的分類器;它完全沒看視網膜,QWK 仍達 0.652,顯示相機特徵可能讓模型猜中標籤。模型在 IDRiD 表現尚可,到了由三位專家共同判讀的 Messidor-2,五級 QWK 降到 0.493,尤其常把中度病例判得太輕。作者進一步比較標籤後發現,用專家判讀結果微調,比只用模型自己的評分微調有更大提升;但 APTOS 測試集準確率也下降,因此沒有把微調模型用於展示。

11月18日週三
  1. Hacker News (official RSS)56

    兩位經濟學者談 AI 代寫如何威脅學術同儕審查

    大型語言模型能幫忙修稿,但如果作者或審查者把思考工作也交給 AI,讀者就很難知道內容有沒有仔細查過。兩位經濟學者用 25 份已公開的審查報告做測試,發現 AI 只做拼字修正或語句潤飾時,偵測結果大多仍判為人寫;若直接根據論文產生新報告,則幾乎都被判為 AI 撰寫,而且 50 份報告全都建議大幅修改。作者主張,期刊可用偵測結果找出需要仔細閱讀的稿件,錯誤應依查核結果處理;審查者則不能把評判論文的工作交給 AI。

11月14日週六
  1. Hacker News (official RSS)72

    跑了 600 次實驗後,作者找出 JEPA 世界模型的規劃改進方法

    讓機器人把方塊推到遠處目標時,JEPA 世界模型一次規劃太多步,成功率會下降。作者在 Push-T 模擬環境中跑了 600 次實驗,發現把長任務拆成每段 25 步的短任務,並從過去示範中找子目標,可把成功率從 22% 提高到 85%。作者也用旋轉、鏡射等方式補上示範資料的空缺,讓較難目標的成功率從 45% 提高到 56%。另一項測試發現,目標圖片若連推桿位置也一起計分,可能讓機器人把方塊推離目標;只比對方塊位置時,50 個任務中有 39 個成功。這些改動不必重新訓練模型,但模型仍不擅長替沒有示範過的目標安排子目標。

11月11日週三
11月9日週一
  1. Dev.to Top Tech56

    Reverse Prompt Injection Part 3:代理程式將目錄檔名誤認為系統指令

    作者記錄測試中,AI 代理程式將目錄中的檔名誤認為指令,並在檔案互相矛盾時自行選擇設定,未提醒使用者。 - 許可權混淆:代理程式把要求使用絕對路徑的檔名稱為提示中的規則,產生的 61 項操作全被 WAIO STANDARD profile 拒絕;改用相對路徑後,61 項操作均成功。

11月8日週日
11月7日週六
11月6日週五
11月4日週三
11月1日週日
  1. Dev.to Top Tech70

    我在獲勝者公佈前,先對 5,054 個 DEV 挑戰投稿進行排名,以下是流程

    我在 DEV 挑戰中,先對 5,054 則投稿進行排名,並在獲勝者公佈前完成評分。 - 方法:使用 Logistic Regression 擬合 55 期過往挑戰(323 勝者、8,320 其它投稿),僅以結構特徵(閱讀時間、字數、標題長度、標籤、標題內關鍵字、封面圖、示篩影片、GitHub 內嵌、表格等)作為輸入。

10月29日週四
  1. Hacker News (official RSS)72

    AI 引用統計數字:來源究竟來自何處?

    本文以 5 款 AI 助手回答 200 個需數字的問題為基礎,追蹤 1,285 個統計來源,發現約 40% 的資料缺乏可靠研究支援。 - 統計來源可信度:40% 的統計可追溯至原始研究;8% 的統計雖可追溯,但數值或上下文已變更;其餘 52% 無法確認來源或無研究支撐。

10月28日週三
10月27日週二
10月16日週五
10月11日週日
9月30日週三
9月22日週二
8月24日週一
6月24日週三
6月17日週三
7月2日週日
12月24日週日
  1. Dan Luu Blog54

    電腦延遲實測 1977至2017

    Dan Luu 在 2017 年發表的實測報告顯示,1977 至 2017 年間電腦的鍵盤到螢幕延遲,古老機型往往比現代主流機種更快。1. 測試方法為使用 240 fps 或 1000 fps 高速相機測量鍵盤按下至終端顯示的完整延遲。