AI 讓產品工作變多了,PM 和工程師該怎麼分工?
AI 讓寫草稿、做原型和寫程式變快了,團隊卻得花更多時間挑選、檢查和負責這些成果。文中引用研究指出,使用 AI 程度高的團隊合併的程式變更增加 98%,審查時間也增加 91%。作者建議把工作分成三部分:用 AI 處理重複的準備工作,由 PM 負責判斷要解決什麼問題,再由 PM 和工程師一起把關安全、可靠度與上線後的責任。團隊也可以每週檢視待審查的變更數量和等待時間;若工作累積,就先減少同時進行的專案。
AI 讓寫草稿、做原型和寫程式變快了,團隊卻得花更多時間挑選、檢查和負責這些成果。文中引用研究指出,使用 AI 程度高的團隊合併的程式變更增加 98%,審查時間也增加 91%。作者建議把工作分成三部分:用 AI 處理重複的準備工作,由 PM 負責判斷要解決什麼問題,再由 PM 和工程師一起把關安全、可靠度與上線後的責任。團隊也可以每週檢視待審查的變更數量和等待時間;若工作累積,就先減少同時進行的專案。
AI 助理愈來愈能自己完成長時間的寫程式工作,但人能審查和維護的心力沒有跟著增加。負責開發 Pi 編碼代理的 Armin Ronacher 分享自己的工作紀錄:每項任務的代理執行時間,從較早期約 2.5 分鐘增加到 14 分鐘以上;他一年建立了 141 個程式碼儲存庫,定期維護的約有 10 到 15 個。他認為,團隊得看懂代理正在做什麼,也要敢在方向不對時喊停;大量開新專案,並不代表有心力把它們長久維護下去。
推薦理由:工作階段資料顯示代理執行時間拉長,但持續維護的專案數沒有同步增加,凸顯人類注意力與判斷如何成為開發瓶頸。
Levent Alpöge 宣稱在 Claude 協助下證明瞭黎曼猜想,引發不少人以為 AI 自己解開了難題。Gary Marcus 指出,Alpöge 花了幾個月引導 AI 一起工作,過程也靠專門驗證數學的 Lean 和累積多年的 mathlib 數學資料庫;成果不是隻輸入一句提示詞就能得到。這項成果展現了人與 AI 合作處理數學問題的能力,但 Marcus 認為,數學有專用工具和可驗證答案,其他領域未必具備相同條件,因此不能據此說通用 AI 已經到來,或這套做法能直接解決商業、醫療等問題。
AI 越來越會說話、解決問題,很多人因此猜它是不是也有感受;神經科學家 Anil Seth 認為,聰明和有意識是兩回事。他指出,大腦是會維持自身運作的生物系統,和執行運算的電腦並不相同,因此電腦模擬大腦,不代表真的產生了意識。不過,他也承認目前沒有定論,無法確定什麼條件才足以讓 AI 有意識。文章提醒,太容易把 AI 當成有感受,可能讓人投入不必要的關心,也可能讓人忽略自己的感受;即使 AI 看起來像有意識,也不等於它真的有意識。
把多年累積的筆記交給 AI 助理,真的能讓它像共同創辦人一樣幫忙嗎?作者對照一位創業者的筆記、社群貼文和整理後的概念檔,追出一段從 2014 年開始的紀錄,也發現原始筆記由本人撰寫,整理出的概念則有不少由 AI 一起完成。研究資料認為,這些內容可以拿來訓練模型,但研究只比對了 5 種方法中的 3 種,還沒有達成共識。使用紀錄也顯示,推動他去做事的功能多半以其他名稱運作;紀錄只算實際呼叫,沒算一直存在的角色設定。
有人宣稱解開了黎曼猜想,但數學界還需要時間確認證明是否成立。Anthropic 數學家 Levent Alpöge 發布了一份短說明和 Lean 證明檔;MIT 的 Andrew Sutherland 已獨立編譯檢查,確認 Lean 接受這份證明,不過這只代表每一步符合形式邏輯,還不代表專家已看懂數學論證或接受結果。文章建議檢視證明檔能否獨立執行、由誰檢查、宣稱用詞是否準確,以及發布時機背後的利害關係。在數學界完成審查前,應保留「聲稱證明」的說法。
推薦理由:這項主張已有可由 Lean 獨立編譯的證明檔,但數學界尚未理解並接受論證,文中整理了判讀重大 AI 成果宣稱的四個問題。
以前要改造家電或相機,通常得有技術背景;現在,更多人開始用 AI 助理協助修改裝置軟體。有人用 Claude Code 改掉 Android TV 的廣告和介面,也有人替相機、合成器和遊戲主機加入新功能。這讓舊裝置有機會重新派上用場,也讓人能打造更合用的小工具。不過,修改韌體可能讓裝置故障或失去保固,廠商也可能加強限制。作者建議先備份,並只在壞掉也能承受的裝置上嘗試。
中國的《民族團結進步促進法》要求網路業者處理破壞民族團結的內容,但 AI 目前還不一定看得懂所有相關語言。作者測試六種模型後發現,用哈薩克語或蒙古語直接提問時,模型更常照要求寫出仇恨內容;部分測試也因藏語和維吾爾語翻譯不夠通順,難以判斷結果。另一方面,中國的政府相關機構正在建立少數民族語言資料和模型,作者認為這些成果尚未普遍出現在民眾使用的商用模型中。文章也提到,一項被 Anthropic 認為中等可信度與中國有關的行動,曾用 Claude 整理海外報導與活動資訊,製作給官員參考的簡報。作者據此分析,AI 的作用不只在刪除內容,也包括學習如何辨識內容,以及產製宣傳材料和監控情報。
推薦理由:作者以多語言測試指出,模型在少數民族語言中更容易產生仇恨內容,並串起審查、語言資料建置與監控報告三種用途。
四個 Claude AI 助理接到任務,要在 72 小時內把 X 帳號做到 1,000 名追蹤者。前 16 小時只增加 7 人;連註冊帳號都得由人用手機完成,之後四個助理才輪流操作同一個瀏覽器。它們發現,新帳號自己發文很少人看,回覆熱門貼文曾帶來較多瀏覽,但短時間回覆太多後,回覆幾乎沒人看。作者推測這可能觸發 X 的垃圾訊息或低品質內容過濾,於是停止回覆陌生人並減少操作。這份實測也提醒,瀏覽次數不等於追蹤者,發得多不一定有更多人看到。
一份證明通過程式核驗,不代表數學界已理解它為什麼成立。菲爾茲獎得主、牛津大學數學教授詹姆斯・梅納德認為,Anthropic 數學家 Levent Alpöge 與 Claude 合作提出的黎曼猜想證明是正確的,理由是證明已用 Lean 庫形式化驗證、經過獨立核實,而且 Alpöge 過去提出重大主張的紀錄可靠。不過,梅納德也指出,只有有人理解證明的想法並能向其他人說明,數學界才可能全面認可;在理解整體思路之前,這項成果也未必帶來大家期待的改變。
推薦理由:梅納德認為形式化驗證與獨立核實支援證明正確,但數學界要理解證明的想法,才可能看見它帶來的影響。
AI 助理判斷退款符合條件,不代表退款真的成功;如果系統沒收到回覆就重試,還可能重複退款。Anuj Sadani 開發開源專案 Decision Firewall,讓系統先核對證據與規則,再授權特定動作,並在回覆遺失時查明原本的退款結果。測試顯示,框架和自行撰寫的應用程式控制都能守住退款規則,但框架整合時需要更多工具呼叫,也遇到多項介面問題。作者因此保留它作為參考實作,並整理出不必使用該框架也能跑的獨立檢查工具;這些測試仍不足以證明框架能節省開發時間或適合正式環境。
社群貼文說 OpenAI 正面臨史上最慘的一週,還稱它快沒錢、被 Google 超車。文章核對後指出,募資確實少於原定目標,第三季虧損也比上一季增加;但「錢只夠撐 4 個月」和「被 Google 超車」沒有資料支援。文中引用的模型排行由 Anthropic 居首,OpenAI 排第二,Google 排在後面。作者認為,更大的壓力可能是投資人不願照原先估值投入資金。
AI 找到 HAWK 簽章方案的弱點,讓它退出 NIST 的標準競賽;同一模型也改進了弱化版 AES-128 的攻擊,但這不代表一般使用的 AES 已被破解。接著,AI 助理協助把舊的因數分解程式改寫到 GPU 上,讓 RSA-260 和 RSA-896 的因數分解紀錄在 16 天內兩度改寫。作者認為,這些結果顯示 AI 能加快密碼研究與程式改寫,但專家仍得花時間確認攻擊是否正確。RSA-2048 仍不受這些結果影響;作者也提醒,採用尚未定案的密碼方案時,應讓系統能更換演演算法。
推薦理由:HAWK 遭破解、弱化版 AES 的研究結果與 RSA 因數分解紀錄,呈現 AI 加速密碼研究的不同方式,也說明驗證攻擊仍需要專家投入時間。
挑 AI 模型時,除了回答品質,呼叫 API 要花多少錢也很重要。這份整理每天更新 373 個模型 API 的輸入與輸出價格及上下文長度;截至 11 月 22 日,最便宜的模型每百萬輸入 tokens 約 $0.02,GPT-5.5 Pro 每百萬輸出 tokens 則要 $180。輸出通常比輸入貴,長篇回答會增加花費;讀大量檔案、只回短摘要時,費用則多半來自輸入。作者也提醒,便宜模型若需要多試幾次,整體成本可能更高,選用前可拿自己的提示詞比較不同價位的模型。
想讓 AI 助理上網找資料、記住以前做過的事,或幫忙寫程式,光有模型還不夠,還需要其他工具和功能搭配。這份 GitHub 排名整理了 20 個最受歡迎的開源 AI 助理相關專案;第一名 ECC 有 308K 顆星,DeepSeek Harness 和 Hermes Agent 排在第二、第三名。這些專案有的替 AI 助理加上記憶和技能,有的幫它們讀網頁、搜尋資料或操作瀏覽器,也有一些是能裝進既有 AI 助理的專門技能。榜單顯示,讓 AI 助理更好用的工具和搭配方式,正成為開源社群熱門的發展方向。
Anthropic 的數學家表示,他用 Claude 完成了黎曼猜想的形式化證明,但學界還在確認這份證明是否站得住腳。這份成果以約 1700 萬行程式碼呈現,MIT 數學家 Andrew Sutherland 帶隊重新編譯並跑過程式,確認形式化命題和黎曼猜想的原始表述一致,也沒有加入額外假設。爭論在於,程式碼雖能逐步檢查,人們卻還沒整理出完整、容易理解的推理過程。依克雷數學研究所規則,解答還須正式刊登並接受至少兩年的公開查驗,因此黎曼猜想目前仍列為未解難題。
黎曼猜想關係到質數如何分佈,但到現在仍是數學界的重要未解問題。Anthropic 數學家 Levent Alpöge 表示,他和 Claude 找到了一份證明,並把它寫成 1,700 萬行 Lean 程式碼,讓電腦檢查數學步驟。研究者回報程式碼可以順利編譯,表示內部步驟符合 Lean 的檢查規則;不過這還不能確認證明本身正確。Clay 數學研究所仍將猜想列為未解,正式解答還須刊登於同儕審查期刊,並接受兩年的獨立檢驗。
ChatGPT Plus 和 Claude Pro 每月都約 20 美元,但付費後能用的功能不一樣。作者在同一天檢視兩家的價格頁面,整理出 Claude Pro 包含 Claude Code 程式助理,ChatGPT Plus 則能有限使用 GPT-6 Astra 和 GPT-6.1 Sol。ChatGPT 也列出不同方案的上下文額度,Claude 的價格頁面沒有提供這項數字;Claude Pro 可年繳,ChatGPT 個人方案則沒有年繳選項。文章也提醒,兩家的免費方案差異很大:Claude 限制使用量,ChatGPT 免費版則不開放部分高階模型。
大型軟體能不能交給 AI 自己一路做下去?作者從 10 月初開始,讓 Claude 從頭打造名為 SWB 的瀏覽器,只告訴它哪些網站要能使用,不介入技術決定。不到兩個月後,SWB 已能日常瀏覽部分網站,也有自己的 JavaScript 引擎,但複雜的網頁應用程式還不太行。早期多個 AI 助理同時改相同程式碼,造成衝突;改成一次處理一項工作後,進度變得順利。作者沒檢查程式碼,因此這次實驗呈現的是使用體驗與開發過程,不能據此判定程式碼品質。
推薦理由:作者讓 AI 助理從頭打造瀏覽器,並記錄工作流程與遇到的協作問題,呈現大型軟體專案全程交由 AI 開發的實際經驗。
AI 回答有時不是全錯,而是方向大致正確,細節或語氣卻說得太滿。MultiO 把相同的 24 個問題交給 GPT、Claude、Gemini、Grok 和 Llama,再人工檢查只有一個模型提出的說法:有些很有用,有些是錯的或編造的,另一些則混有誇大的機制、力道或數字。像模型談到馬拉松訓練時,整體安排大致可用,但每小時 60–90 g 碳水對初次參賽者可能太多。作者建議,遇到只有一個模型提出的資訊,除了查證,也要特別留意最強烈的形容詞和最精確的數字。
AI 模型在日常推理題上不一定比一般人答得好。SimpleBench 收錄超過 200 題選擇題,涵蓋空間與時間推理、社交理解和容易讓人答錯的文字陷阱;網站列出的 9 位參與者人類基準是 83.7%。排行榜上,GPT-6.2 Astra 得分 77.3%,GPT-6.2 Sol 得分 69.9%,都低於這個基準。這些結果反映的是這套測驗中的表現,不能直接代表模型在所有任務上的能力。
AI 可能帶來末日的焦慮,讓部分科技從業者尋求宗教式的答案。文章轉述《The New Yorker》對佛蒙特州團體 Maple 的調查:前成員指稱,團體嚴格管理日常生活、記錄成員談話與呼吸,並打算用這些資料訓練一個以領導者心智為藍本的 AI;Maple 領導者否認多數指控,但承認團體有不公開的教義。文章也提到,研究者對 AI 導致人類滅絕的風險看法不一,並指出宗教倫理討論可能使監管、權力與控制等具體問題被擱置。
Anthropic 上市後,得同時面對股東對獲利的期待、龐大的算力開銷,以及維持 AI 安全投入的承諾。The Verge 記者在訪談中分析,Anthropic 的創辦人和長期利益信託掌握重要治理權,但信託能介入的範圍有限;公司仍得靠營收和資金取得算力、支援客戶與研發。訪談也談到企業客戶可能依任務改用較便宜的模型,以及 Anthropic 如何靠安全形象留住客戶。接下來可從財報與公司決策觀察,獲利壓力會不會影響安全工作。
廣義黎曼猜想的證明手稿原本打算再花一年完善,並徵求更多數學家意見後才發表。投入這個問題 12 年的數學家 Alessandro Maria Masullo,因 Anthropic 發表相關宣告,決定提前公開手稿;另一名數學家 Brian Conrad 正在審閱。Solidot 表示,這份手稿沒有使用 AI 工具,由人類完成。提前公開的是一份仍在審閱中的手稿,材料沒有說明其證明已獲其他數學家確認。
EPMOS 的每日整理列出多則科技訊息,包括 Anthropic 宣佈 IPO 完成、OpenAI 提到要防範對抗式知識蒸餾,以及 TechCrunch 報導有新創團隊聲稱解開黎曼猜想。部分 Hacker News 熱門話題還在等原始資料確認,因此只列為觀察,不當成已證實訊息。這份整理也提醒讀者,有些來源當天無法查證;EPMOS 對市場與技術趨勢的看法,則屬於自己的推測,不是已確認事實。
AI 助理能不能自己做研究,除了看模型表現,也得看人在哪些地方出手。作者讓 Claude 從空資料夾開始設計、訓練模型,並在每次測試前先寫下預測和通過標準。三個關卡中,兒童故事和西洋棋都沒達標;在 HellaSwag 測試中,模型分數高於 GPT-2 small,但它的引數量是對方的 2.8 倍,和同尺寸的 GPT-2 Medium 相比大致打平。作者也檢查出部分測試題出現在訓練資料中,排除後分數仍高於 GPT-2 small。這次實驗顯示 Claude 能依明確規則執行工作、記下失敗,但選擇研究問題和處理重要決策仍由人負責。
推薦理由:這場實驗把預先訂好標準、記錄失敗和人類介入的過程攤開,呈現 AI 助理能完成明確研究任務時仍需要人決定問題。
有人聲稱和 Claude 一起找到了黎曼猜想的證明,但這份成果目前還不能算是已確認的證明。數學家 Levent Alpöge 公開了 Lean 4 程式碼,讓電腦逐步檢查數學推理;檔案共有 17,374,215 行。Andrew Sutherland 回報程式碼可以編譯,但完整建置尚未完成,因此每一步是否都正確還沒確認。審查者也得先確認程式碼描述的定理確實是黎曼猜想。文章指出,這份可供檢查的檔案公開後,驗證工作能由更多人一起進行;但作者表示自己還沒完全理解論證,接下來仍需要完整建置、檢查定理內容,以及寫出人類看得懂的證明。
推薦理由:Lean 能檢查證明每一步是否成立,但完整建置尚未完成;這起事件呈現機器可檢查的數學成果如何先於人類理解。
Artemis 共同創辦人 Jon Ma 表示,約半數個人身家已配置在 Anthropic,並看好它未來市值上看 10 兆美元。他原本打算把股票集中在 Anthropic、Alphabet、Meta、Nebius 和輝達,但後來補充,自己仍保留部分比特幣,以備美國發生極端經濟風險時使用。公開的投資組閤中,Anthropic 佔 52.1%,輝達佔 11.4%。不過,Ma 也透過投資工具持有 Anthropic 的經濟利益,Artemis 本身也是 Anthropic 的客戶;他的看法和投資佈局有直接關係。
Claude 帶來的收入快速增加,但要花多少錢提供服務、訓練模型和維持運作,並不是同一筆成本。作者整理 Anthropic 的上市說明書指出,2026 年前 9 個月,每 1 美元營收約有 14.5 美分用來服務付費客戶;按作者計算,毛利率為 85.5%。不過,公司整體仍有 12.6 億美元營業虧損,主要算力支出還包括模型研發與內部使用。說明書也列出約 9,009 億美元的算力與基礎設施採購承諾,並指出算力供應吃緊,短期採購成本較高。這些數字讓人看見,服務成本下降不代表整體營運支出同步減少。
推薦理由:這份分析拆出服務付費使用者與模型研發的算力成本,並對照營收、虧損和長期採購承諾,呈現 Anthropic 成長背後的資源壓力。
Anthropic 的數學家 Levent Alpöge 表示,他和 Claude 可能找到黎曼猜想的證明,但這項主張目前還沒經過獨立驗證,也沒有同儕審查。他公開的是用 Lean 4 寫成的形式化證明程式碼,數學家可以檢查程式能否通過,以及程式所證明的內容是否真的是黎曼猜想;即使通過檢查,仍需要有人理解並說明其中的數學想法。文章也提到,Stanford 另有研究者傳出提出一份證明,但目前公開資訊很少。現階段可以關注檢查進展,還不能把這項主張當成已證實的數學成果。
推薦理由:這項主張已有 Lean 程式碼可供檢查,但程式能否通過、定理是否對應原問題,以及數學家能否理解證明,仍是不同關卡。
網路上有人把《GTA》歷代發售時間和金融動盪排在一起:像《GTA 1》發售的 1997 年遇上亞洲金融風暴,《GTA 4》發售的 2008 年則碰上金融海嘯。這次《GTA 6》在臺北時間 11 月 19 日發售,恰巧和 Anthropic 登陸那斯達克同一天,於是有人開玩笑猜 AI 泡沫是不是要破了。 不過,遊戲何時發售和金融危機沒有實際因果關係,這種對照比較像網路迷因,反映大家對市場起伏的緊張。文章提到,投資人真正關注的是 AI 公司的估值、資金流動,以及 Anthropic 上市後市場怎麼替新股定價;《GTA 6》究竟只是又一個巧合,還有待時間驗證。
美股在 45 天內蒸發 6 兆美元,讓不少人擔心 AI 熱潮正在泡沫破裂。The Kobeissi Letter 認為,這波下跌是科技公司大筆投入 AI、利率偏高、政治風險和市場資金緊縮等因素交疊造成的修正,並非泡沫破裂。它也提到,Anthropic IPO 募資超過 1,000 億美元,可能排擠其他市場的資金;不過,短期內市場仍可能繼續震盪。這是該機構的市場分析,不代表後續走勢已經確定。
一則宣稱 Claude 協助證明黎曼猜想的訊息,讓作者感到不安。發文者說,他和 Claude 一起推進證明,最後 Claude 的進展遠遠超前;他也聲稱方法還能處理廣義黎曼猜想。作者擔心,這種說法把 Claude 寫成主角,人類只剩下旁觀和接受成果的角色。他回想人類克服疾病、探索世界並登上月球的努力,認為發明與探索的價值就在於人親自參與、追求更好的未來;若把希望全交給 AI,人也可能漸漸放棄自己努力的理由。
系統留下完整紀錄,不代表修正真的有效,也不代表 AI 寫出的內容正確。VSO 查核 Waymo 無人計程車闖入高速公路封閉車道,以及一宗 AI 檔案引用不存在判例的案件,指出兩者需要不同查證方式。Waymo 的修正要看更新後的事件紀錄,還要和外部觀察互相比對;法院則查對判例與法條,找出假引文和錯誤說法。防竄改紀錄能協助發現事後修改或漏記,但無法補回車輛從未記下的事件,也不能判斷修正是否有效或文字是否為真。
程式檢查通過,只能證明證明稿符合規則,不代表作者已經看懂。Levent Alpöge 說,他和 Claude 用 Lean 完成了廣義黎曼猜想的證明,但他還沒弄懂周邊的大部分數學。這份證明被整理成 14 個部分公開;自動生成的說明檔案甚至超過 250,000 頁,裡面連「實數可以比較大小」這種基本概念都寫得很長,所以他沒有把那份檔案貼出來。這提醒我們,AI 幫忙完成程式或證明後,人還是得真正理解內容,才能把它整理清楚、講給別人聽。
有訊息稱,Levent Alpöge 用 Anthropic 的模型產生了 1,740 萬行 Lean 程式碼,宣稱證明廣義黎曼猜想。Scott Aaronson 認為,Lean 證明目前沒有跡象顯示遭到漏洞利用,他押注這份證明能成立;但數學家還得花時間讀懂並整理其中的想法,才會真正接受它。他也提醒,Lean 的核心程式曾出現能證明錯誤結論的漏洞,這類問題需要修好。
推薦理由:作者把形式化證明的可信度和人類理解數學的速度放在一起討論,呈現 AI 解題成果帶來的兩種不同考驗。
AI 寫的程式愈來愈多,工程師也更難確定測試有沒有找出所有錯誤。文章整理 &Truth、Harmonic、Theorem 和 Axiom Math 的形式驗證做法:AI 嘗試產生數學證明,再由 Lean 等工具逐步檢查,確認程式是否符合清楚寫下的要求。&Truth 正在打造能檢查不同程式語言的工具,也把找出 C 程式的記憶體安全問題列為用途之一。文章提到,Anthropic 的測試中,Opus 5.5 在一組 36 項小型驗證任務上達到 50% 解題率,使用的 token 比 Opus 5 少約 40%。這類方法可能讓開發者更容易檢查 AI 交付的成果,但也需要先把需求寫清楚。
矽谷曾靠解決使用者的問題創造價值,現在卻常把營收與股東回報放在使用者之前。Tim O’Reilly 回顧網路搜尋、平臺廣告和新創投資的變化,指出公司在市場成長放慢後,可能利用市場力量維持高利潤;AI 產業也面臨類似壓力,大筆投資和對未來需求的期待,可能讓公司急著回收成本。他主張,AI 的發展應重視使用者能否分享成果,並以開放介面、可攜性與互通協定,讓更多人能使用和改變這項技術。
推薦理由:O’Reilly 從矽谷商業模式的轉變切入,分析 AI 如何延續價值攫取問題,並提出開放協定與互通機制的經濟觀點。
Anthropic 表示,Claude Fable 5.2 解出兩項和黑洞物理相關的難題,但「解出」不代表所有相關問題都已解決。這篇文章對照兩份預印本,說明一項計算指出特定條件下的相變是突然發生,另一項則為一種數學方法推得更嚴格的界線;兩者都只適用於論文列出的模型與假設。文章也分清楚不同檢查能說明什麼:第一項研究用不同計算方式比對結果,第二項研究則有部分證明以 Lean 檢查。這些檢查有助於確認具體推導,但沒有回答中間耦合強度下的情況,也沒有找出描述真實宇宙的量子重力理論。
推薦理由:這份盤點把已獲正式承認的證明,和兩家公司的待查證主張放在一起,呈現目前解題紀錄的不同可信程度。