前沿 AI 模型在真實 RSI 任務上僅得 34 分 | Abundant
Kevin Lin 與 Jesse Hu 的 Frontier RSI 基準測試發現,頂尖 AI 模型在開放式自我改進任務上平均僅得 34%,其中 Gemini 在核心最佳化表現最佳,Claude 則在後訓練領先。
Kevin Lin 與 Jesse Hu 的 Frontier RSI 基準測試發現,頂尖 AI 模型在開放式自我改進任務上平均僅得 34%,其中 Gemini 在核心最佳化表現最佳,Claude 則在後訓練領先。
Shopify 執行長 Tobi Lütke 主張,AI 代理正在終結傳統程式設計師的角色,他預測多數生產環境程式碼將在 6 至 12 個月內重寫,而驗證工程將成為關鍵學科。
Vercel 執行長 Guillermo Rauch 主張,AI 代理讓攻擊者具備超人般的駭客能力,呼籲企業以記憶體安全語言重建老舊系統、將內部軟體置於防火牆後,並以開放權重模型作為對抗性的程式碼稽核工具。
AI 助理能讀取問題清單、修補程式、測試並更新伺服器,但遇到需要真人驗證、帳號註冊或重要安全決定時,仍會停下來請作者處理。作者分享,自己只下了幾個簡短指令,AI 助理就修好付款問題、更新伺服器,也發現並關閉一項對外開放的服務。真正需要他決定的,是要不要承擔風險,例如是否讓伺服器上的金鑰解開使用者資料。這些判斷來自過去遇過的資安事件和系統故障。作者認為,AI 助理接手了許多動手工作,工程師仍得靠經驗決定該做什麼、何時停下來。
中國的《民族團結進步促進法》要求網路業者處理破壞民族團結的內容,但 AI 目前還不一定看得懂所有相關語言。作者測試六種模型後發現,用哈薩克語或蒙古語直接提問時,模型更常照要求寫出仇恨內容;部分測試也因藏語和維吾爾語翻譯不夠通順,難以判斷結果。另一方面,中國的政府相關機構正在建立少數民族語言資料和模型,作者認為這些成果尚未普遍出現在民眾使用的商用模型中。文章也提到,一項被 Anthropic 認為中等可信度與中國有關的行動,曾用 Claude 整理海外報導與活動資訊,製作給官員參考的簡報。作者據此分析,AI 的作用不只在刪除內容,也包括學習如何辨識內容,以及產製宣傳材料和監控情報。
推薦理由:作者以多語言測試指出,模型在少數民族語言中更容易產生仇恨內容,並串起審查、語言資料建置與監控報告三種用途。
PR 裡有畫面、伺服器改動和設計稿時,只看程式碼的審查工具可能會漏掉問題。作者分享自己的做法:讓 AI 助理在 iOS 和 Android 模擬器裡操作程式,截圖比對設計稿;用建置檢查擋下不合命名規則的字;等程式寫好後再檢查架構;伺服器大改時則用 10,000 個機器人做負載測試。測試沒有錯誤,但有兩項反應時間超出預算。作者認為,這些檢查要依照團隊的開發流程組成管線,而規劃、設計模式和實際遊玩測試仍需要人判斷。
AI 資料中心需要大量電力,新增用電可能讓燃氣和燃煤電廠繼續供電。這份分析整理 Anthropic 在美國已簽約的資料中心與供電安排,估計 2028 年相關用電約有 87% 來自天然氣、11% 來自燃煤;作者也估計,這些據點每年可能排放 1,700 萬至 3,800 萬公噸二氧化碳當量。結果會受實際用電量等因素影響,估算也指出部分現場燃氣裝置效率較低,可能帶來空氣汙染與健康成本。
推薦理由:這份分析把 Anthropic 的資料中心用電來源、排放估算與供電地點放在一起,呈現 AI 算力擴張可能帶來的能源與空氣汙染成本。
Valse AI 的 Rayan Krishnan 在模擬無人機與衛星瞄準測試中發現,前沿模型缺乏自主武器防護機制;他並表示,儘管 GPT 6.2 Astro 落後於 Anthropic 的模型,他對 2027 年 7 月達成 RSI 的時間表仍維持不變。
Why do technologies that look like bad ideas in one era become enormous companies in the next? Originally recorded in 2018, Brian McCullough and Chris Dixon trace the companies, failures, and accidents that built the modern internet. They revisit the battle between the open web and more centralized visions of the “information superhighway,” why eBay helped establish trust between strangers online, what Napster understood about digital media, and how Google found a business model for search. They
一份證明通過程式核驗,不代表數學界已理解它為什麼成立。菲爾茲獎得主、牛津大學數學教授詹姆斯・梅納德認為,Anthropic 數學家 Levent Alpöge 與 Claude 合作提出的黎曼猜想證明是正確的,理由是證明已用 Lean 庫形式化驗證、經過獨立核實,而且 Alpöge 過去提出重大主張的紀錄可靠。不過,梅納德也指出,只有有人理解證明的想法並能向其他人說明,數學界才可能全面認可;在理解整體思路之前,這項成果也未必帶來大家期待的改變。
推薦理由:梅納德認為形式化驗證與獨立核實支援證明正確,但數學界要理解證明的想法,才可能看見它帶來的影響。
Daniel Mahncke 與 Shawn O'Malley 認為,在 iPhone 出貨量持平、服務業務成長趨緩的情況下,蘋果約 40 倍的本益比已過度擴張,合理價值約在 250 美元,買進目標價約 200 美元;不過兩人並不打算放空。
AI 助理判斷退款符合條件,不代表退款真的成功;如果系統沒收到回覆就重試,還可能重複退款。Anuj Sadani 開發開源專案 Decision Firewall,讓系統先核對證據與規則,再授權特定動作,並在回覆遺失時查明原本的退款結果。測試顯示,框架和自行撰寫的應用程式控制都能守住退款規則,但框架整合時需要更多工具呼叫,也遇到多項介面問題。作者因此保留它作為參考實作,並整理出不必使用該框架也能跑的獨立檢查工具;這些測試仍不足以證明框架能節省開發時間或適合正式環境。
模糊圖片放大後常會失去細節,Magnific AI 把這個問題變成生成式圖片工具的切入點。文章回顧兩位創辦人如何先分享提示詞實驗和教學,累積創作者社群,再推出付費服務;工具用分塊式潛在擴散技術放大圖片,並讓使用者調整新細節的生成幅度,以及畫面和原圖的相似程度。文章也整理了 Magnific AI 被 Freepik 收購的過程,並從中討論小型團隊如何結合 AI 程式工具、產品設計與社群曝光來發展事業。
社群貼文說 OpenAI 正面臨史上最慘的一週,還稱它快沒錢、被 Google 超車。文章核對後指出,募資確實少於原定目標,第三季虧損也比上一季增加;但「錢只夠撐 4 個月」和「被 Google 超車」沒有資料支援。文中引用的模型排行由 Anthropic 居首,OpenAI 排第二,Google 排在後面。作者認為,更大的壓力可能是投資人不願照原先估值投入資金。
AI 找到 HAWK 簽章方案的弱點,讓它退出 NIST 的標準競賽;同一模型也改進了弱化版 AES-128 的攻擊,但這不代表一般使用的 AES 已被破解。接著,AI 助理協助把舊的因數分解程式改寫到 GPU 上,讓 RSA-260 和 RSA-896 的因數分解紀錄在 16 天內兩度改寫。作者認為,這些結果顯示 AI 能加快密碼研究與程式改寫,但專家仍得花時間確認攻擊是否正確。RSA-2048 仍不受這些結果影響;作者也提醒,採用尚未定案的密碼方案時,應讓系統能更換演演算法。
推薦理由:HAWK 遭破解、弱化版 AES 的研究結果與 RSA 因數分解紀錄,呈現 AI 加速密碼研究的不同方式,也說明驗證攻擊仍需要專家投入時間。
新系統在試點時看起來效果很好,推廣到其他分店後,成效卻沒有原先預期的多。作者回頭檢查發現,試點分店在上線前整理了貨架,還有積極的主管和分析人員到場協助;試行期間又正好是淡季。後來公司也在各分店重新標示貨架,錯誤出貨比例降到約 1.1%。作者建議,試點要選一家一般分店和一家較難改善的分店,並涵蓋忙碌月份;同時記下其他變動,並找一家沒有改變做法的分店比較。
AI 助理能快速寫出程式,但大家還不一定知道怎麼確認它真的能在正式環境正常運作。作者整理兩篇工程師的討論,認為測試、架構決策紀錄和交付檢查可以替團隊留下程式為何這樣寫的線索。Thoughtworks 有個團隊試了一週不由人寫程式,改讓 AI 助理完成工作;大部分時間花在釐清需求和準備檢查方式,讓 AI 助理下次照著做。作者也提醒,如果錯誤訊息常常出現,大家可能會忽略真正的問題,因此測試和檢查必須可靠,團隊也要留時間回頭閱讀、整理程式。
把公開廣告資料整理成付費報告前,團隊的 AI 審查只看了資料集說明,沒讀資料來源的使用條款。團隊後來讓不同角色分別檢查條款、付費證據和其他風險,再互相質疑;每個點子也必須附上條款原文和有人付費購買同類產品的證據。重跑原本的點子時,審查在 457 秒內指出商業轉售可能違反條款,也發現沒有付費需求的證據。不過,同一個模型擔任多個角色時,仍提出了錯誤異議,顯示審查流程本身也需要檢查。
檔案轉換每次要花多少電,光看速度或架構圖很難知道。InApp 為每次轉換記錄耗能後發現,系統先解析整個網頁、最後才刪掉多餘內容,讓沒人讀的部分也耗掉運算;把長度限制提前處理後,平均每次耗能約少了三分之一,輸出品質沒有改變。作者也發現,小檔案若每次都啟動新容器,啟動耗能可能比實際工作還多;把小工作交給已啟動的工作程式,則能改變成本。記錄中分開列出排隊與運算時間,也讓作者看出速度和耗能不是同一回事。
AI 助理做完工作後,光看廠商的紀錄或一句「已通過」,外人很難確認內容有沒有被改過。Zambo 的營運人員介紹 AER-1,這是 IETF 草案中的一套紀錄標準:它把工作結果存成固定格式,再用 SHA-256 算出雜湊值,任何人都能重新計算並比對。文章也提到公開測試資料和不同作者各自做出的驗證工具,並用一筆 BTC 報價示範檢查流程。不過,雜湊只能確認紀錄是否遭到修改,不能證明答案正確;AER-1 目前是 IETF 草案,還不是 RFC。
社群排程工具有時會顯示貼文成功,實際上平臺卻沒有發出去;若直接重試,也可能讓同一篇貼文出現兩次。Octoque 作者把平臺回應分成確認成功、可重試的失敗、永久失敗和結果不明。遇到結果不明時,系統會用同一個平臺和同一組識別碼再確認,不能直接當成成功或失敗。只有確認貼文上線後,狀態才會顯示 Live;若需要使用者處理問題,畫面會用白話說明原因和下一步。
AI 助理寫程式、跑測試愈來愈快,但人還是得忙著確認進度、傳話和分配工作,這些瑣事常擠掉真正思考技術問題的時間。作者提出用一套共同規則來安排多個 AI 助理:清楚分工、限制彼此能聯絡的物件,也替來回討論設下次數上限;超過上限還沒結果,就請人接手。每個 AI 助理也只能傳結論和請求,不能把自己的思考內容傳給別人,並留下工作紀錄供事後檢查。 這套做法目前還在驗證,文章提出的是設計想法,還不能照著設定就直接使用。作者認為,AI 助理可以負責照規格完成工作,人則該把時間留給判斷「該不該做」、選哪種技術方案,以及什麼時候該停下來。
Anthropic 的數學家表示,他用 Claude 完成了黎曼猜想的形式化證明,但學界還在確認這份證明是否站得住腳。這份成果以約 1700 萬行程式碼呈現,MIT 數學家 Andrew Sutherland 帶隊重新編譯並跑過程式,確認形式化命題和黎曼猜想的原始表述一致,也沒有加入額外假設。爭論在於,程式碼雖能逐步檢查,人們卻還沒整理出完整、容易理解的推理過程。依克雷數學研究所規則,解答還須正式刊登並接受至少兩年的公開查驗,因此黎曼猜想目前仍列為未解難題。
FastAPI、Node.js 和 Bun 的效能測試常得出不同結果,讓人難以判斷哪個適合自己的服務。作者整理多組公開測試,指出結果會受測試方式、硬體、資料庫驅動和連線設定影響;其中一項測試只把 PostgreSQL 的查詢改成可重用的預備語句,Node.js 各組的承載量提升幅度從 3% 到 31%。這不代表 Node.js 整體快了同樣幅度,而是說明資料庫存取方式也會左右排名。作者建議用相同硬體、流量和資料庫設定測試,並一起查看回應時間、錯誤和資料庫負載,再決定要採用哪種技術。
Welcome to Chronicles of Old Singapore. Jita Singh is one of Singapore’s most successful coaches. He recounts his early days playing as a fullback in the old ‘WM’ system before being called up to play for Singapore in 1968. Like many others, he signed up with the Singapore Armed Forces to play for Singapore. One game he remembers was a particularly harrowing experience in Kelantan in the Malaysia Cup. Part 1 | https://youtu.be/VYERLvqFNC0 Part 2 | https://youtu.be/j_IR3nszhQ8 Part 3 | https://yo
三起遠端程式碼執行漏洞接連曝光,網站經營者想知道自己是否受影響,也想了解網路上有多少網站使用相關軟體。作者檢查自家服務和設定後,判斷主要網站服務不受影響;其中 PHP 儀錶板仍需更新,但目前無法完全排除風險。作者也檢視約 5,800 萬個網域的資料,發現 nginx 出現在約 680 萬個網域的伺服器資訊中。這些資料能看出哪些網站使用 Java 伺服器,卻無法確認其版本是否容易受攻擊。文章提醒,公開伺服器版本會讓攻擊者更容易找目標,網站管理者可檢查並隱藏這類資訊,更新後再確認暴露情況。
聊天機器人推薦商品時,消費者不一定看得出哪項推薦受到付費影響。一項有 2,012 人參加的電子書研究發現,聊天機器人推薦後,受贊助書籍被選中的比例是 61.2%,一般搜尋排序則是 22.4%;加上「贊助」標示也沒有明顯降低影響。作者指出,聊天機器人的推薦和一般回答聽起來相同,標示可能被忽略。研究目前仍是預印本,且其中一項只使用單一電子書目錄。作者建議並列顯示其他選項與價格、說明推薦理由,並留下紀錄供人稽核。
比特幣跌破前波低點,Arthur Hayes 認為,如果那斯達克繼續下跌,比特幣可能會面臨 5 萬美元的考驗。比特幣曾跌到 55,130 美元,之後回到 6 萬美元附近;那斯達克也大跌,科技股跟著走弱。這波下跌還讓不少押注比特幣上漲的人被迫平倉。Hayes 認為,比特幣這波漲勢和 AI 熱潮、降息期待有關,科技股轉弱時,加密貨幣也可能跟著受影響。
把報稅資料、銀行對帳單或合約上傳到網站處理,代表敏感檔案會經過網路並暫存在伺服器。PDFCraft 團隊選擇讓檔案全程留在使用者的瀏覽器裡,使用 WebAssembly 和 Web Workers 處理 PDF,不把檔案傳到雲端。文章分享了幾個實作難題:用反覆調整品質的方式把檔案壓到指定大小,只顯示眼前頁面並清除不再使用的畫布來節省記憶體,還能把手寫簽名存成放大或列印時仍清楚的向量圖。這些做法讓檔案處理不必仰賴伺服器,但也把運算工作交給使用者的裝置。
軟體功能和程式碼愈加愈多,可能讓安全風險、維護工作和雲端費用一起增加。ArkNet Digital 把 Musk 提出的五步做法用在工程工作上:先問清楚需求,再刪掉不必要的部分,之後才簡化、加快和自動化。文章舉例建議先撤銷不需要的資料庫許可權,並指出每 10 秒輪詢一次的網頁,在 1,000 人同時使用的假設下,每月約有 2.592 億次呼叫,光呼叫費和 CPU 費就約 $340;其中 CPU 用量是估算值,實際費用要依自己的系統測量。作者也建議檢查 AI 助理產生的程式碼,看看哪些部分可以刪掉而不影響功能。
多家服務商的回應方式和完成訊號不一致,出錯時直接切換到下一家,可能重複執行、蓋掉有效結果,或算錯費用。作者以自己的系統說明,路由會先依模型設定和服務商健康狀況安排順序;執行中還要檢視檔案儲存與資料庫狀態,確認前一家真的失敗,再處理取消、計費和通知。文章的核心提醒是,路由不只是換一個服務商,而是要協調多種執行方式,直到工作狀態一致。
Signal 在手機 App 加上截圖防護,但 AI 助理仍可能透過通知或無障礙許可權讀取訊息。作者整理 Signal 的設定與一宗 Meta Muse 案例:Reuters 報導指出,Muse 曾透過 Android 通知和 macOS 無障礙許可權讀到 Signal 訊息;Meta 稱這些是個別事件。截圖防護能擋住畫面擷取,卻不會關閉通知或無障礙許可權;macOS 也沒有可靠的 Signal 內建封鎖方式。文章提醒,除了檢查 Signal 的設定,也要留意 AI 助理有哪些裝置許可權。
推薦理由:Signal 的截圖防護只擋住一種讀取方式;文章對照已報導的通知與無障礙許可權案例,說明防護範圍的落差。
量子電腦目前還不能破解現有加密,但金融業更換加密方法可能要花上好幾年。作者根據 IOSCO 的報告指出,換成抗量子簽章會讓資料變大;文中舉例,Solana 測試網換用這類簽章後,處理速度約降了 90%。銀行可以要求廠商更換技術,公有區塊鏈則得讓許多節點、錢包和交易所一起配合,因此升級可能又慢又零散。Solana 已在研究新簽章、共識系統和錢包遷移方式,但相關做法還沒有上主網。作者也提醒,處理金流或長期保密資料的團隊應先盤點加密方式,並準備好更換演演算法。
推薦理由:作者以 IOSCO 報告為背景,說明後量子簽章會增加區塊鏈負擔,也讓沒有單一負責人的遷移更難協調。
Investor's Sunday 11/22 OA Learn more about your ad choices. Visit megaphone.fm/adchoices
Jimoty 社長加藤貴博暢談從上市、遭 TOB 收購下市到與 CCC 結盟的來龍去脈,並表明將以與地方政府合作的實體門市「Jimoty Spot」為核心,追求不依賴補助金的永續擴張。
Lean 和 Mathlib 社群確認一份黎曼猜想證明通過多種程式檢查,但作者發現,程式裡有個叫 anyGeometry 的條件,對任何輸入都直接回傳 True。作者追查程式碼後確認,這個條件出現在 24 個檔案中,也被用來建立一些假設;不過,他還沒查完它是否真的一路影響最後的定理。程式檢查能確認證明符合寫好的定義,卻不會判斷定義本身是否真的表達了數學上的幾何條件,因此目前的發現還不能單獨判定整份證明是否成立。
推薦理由:文章對照程式碼與驗證紀錄,說明形式證明能檢查推導是否符合定義,卻無法判定定義是否承載了名稱所指的數學內容。
AI 助理寫程式越來越快,程式碼審查卻可能跟不上;大型變更也更難讓人一次看懂。作者根據自己的專案經驗,建議在寫程式前先決定每份工作的範圍,並和 AI 助理一起問清楚需求、可能出錯的地方和重要取捨。接著用測試、程式檢查工具和 AI 審查處理各自擅長的問題,再由熟悉業務的人看整體變更是否合理。審查中發現的問題,也應補進測試、規範或需求說明,避免下次重複踩坑。
詳細網頁版與參考連結:https://podcast.david888.com/post/2026-11-22 今日科技圈見證數學史里程碑:Lean 社群在 24 小時內完成 1,700 萬行黎曼猜想形式化證明驗證。同時 AI 界掀起現實檢驗,GPT-6.2 在 SimpleBench 排名驟降,本地極限量化 Inkling-2-Mini 亦遭實測質疑;資安面聚焦 GPGME 記憶體漏洞、冰島主機商 1984 遭襲與 FBI 資料庫風暴;系統開發則迎來 Valkey 淘汰跳錶改用 B+ 樹、Zero C# 挑戰無 GC,以及純 CPU 工業視覺追蹤實戰。 相關連結: Inkling-2-Mini in 5.4 GB Memory RCE in Gnupg LLMs can read and write executables byte by byte from a hex dump jingyaogong / minimind (68,146 ⭐) Show HN: Zero C# – C# without a runtime or GC Lean verification of th
Brienne Barker 與病毒學家 Vincent Racaniello 指出,腺病毒蛋白 7 會阻止 TRIM25 對 RIG-I 進行 K63 泛素化,從而阻斷幹擾素誘導,同時抑制 RNA 與 DNA 的感測。
Mojang 可能利用網路上的 Minecraft 伺服器掃描資料,找出並封鎖違規伺服器。作者原本只是維護一個會搜尋 Minecraft 伺服器的網站,後來發現 Mojang 曾查詢伺服器描述,也比對到部分被封鎖的伺服器。作者請朋友架設只有受邀者能加入、描述文字稍有爭議的私人伺服器,並表示這些伺服器一週內也遭到封鎖;不過,他也提醒,無法排除 Mojang 是因其他原因封鎖。後來 Mojang 邀請他掃描更多伺服器,他因處理檢舉信太累而關閉服務,並拒絕交出資料與程式碼。
推薦理由:作者比對掃描紀錄、封鎖清單與私人伺服器遭停權的案例,呈現 Mojang 如何透過第三方資料處理違規,以及這種做法帶來的隱私疑慮。