駭客不必靠新漏洞也能用 AI 取勝|Horizon3 技術長
Horizon3 技術長 Anthony Pillitiere 主張,像 Jade Puffer 這類以 AI 驅動的攻擊者,會大規模利用既有、尚未修補的漏洞,因此累積的資安債已成為會衝擊營運的可用性風險,而非需要新漏洞才能得手。
Horizon3 技術長 Anthony Pillitiere 主張,像 Jade Puffer 這類以 AI 驅動的攻擊者,會大規模利用既有、尚未修補的漏洞,因此累積的資安債已成為會衝擊營運的可用性風險,而非需要新漏洞才能得手。
The model builds the strategy. It writes the backtest. Then it declares the results brilliant. But who is checking the work? Niels Kaastrup-Larsen and Rob Carver confront the seductive promise of AI-powered investing, where faster research can also mean faster mistakes. From the dangers of overfitting and crowded trades to the growing ambition of self-driving investment portfolios, they explore what happens when technology begins to replace human judgement. Along the way, they challenge conventi
小型 SaaS 團隊常得在免費但不夠合用的分析工具,和價格高昂的付費服務之間選擇。PostHog 把產品分析、操作回放、功能開關和 A/B 測試放在同一套工具裡,也能自行架在團隊的伺服器上,讓使用者資料留在自己手中。它的 Cloud 免費方案每月可記錄 1M 個事件;若自行架設,則不用付費,但要花時間維護。 PostHog 適合重視資料掌控、又想少接幾套工具的小型 SaaS 團隊;只想看網站瀏覽量的部落格,Plausible 或 GA4 會更合適。自行架設還得處理 ClickHouse 等維護工作,Cloud 版則省去這些麻煩。選哪種方式,得看團隊更在意資料留在自己手上,還是少花時間顧伺服器。
有些玩家看到《Resident Evil Requiem》畫面好,就以為它用了 Unreal Engine 5;其實它用的是 Capcom 自家的 RE Engine。這套引擎原本是為《Resident Evil 7》的狹窄恐怖場景打造,後來也用在《Monster Hunter Wilds》等不同型別的遊戲上。《Resident Evil Requiem》讓玩家在 Grace 和 Leon 之間體驗兩種玩法:Grace 要省著用物資、躲避追擊;Leon 則有較多武器和資源,可以正面戰鬥。遊戲也能切換第一人稱和第三人稱視角。 最特別的是,光線會直接影響玩家怎麼應付怪物:Grace 遇到的「女孩」只有被帶到光線下才會受傷,但手電筒的光也會吸引她。這讓光線不只是用來看清楚,也變成冒險的一部分。《Resident Evil Requiem》發售後 5 天賣出 500 萬套,6 個月內超過 800 萬套,是系列史上銷售速度最快的作品。
OpenAI 的 Joshua Achiam 主張,AI 的進展意味著多數困難的數學與物理問題如今都有了可解的途徑;但真正的近期風險是網路攻擊與美中協調,而政策制定者落後一到兩年。
AI 模型在藥物研究題目拿高分,不等於真的能找到新藥。OpenAI 推出 MedChemBench,讓模型根據分子結構和實驗結果,回答研究人員接下來可以測試哪些化合物。GPT-6.2 Astra 在其中拿到 84.5% 的可得分數,但這些題目是從已公開的論文和專利整理而來,考的是重建過去研究中的判斷,不是拿新化合物做實驗。不同題目的給分方式也不一樣,總分可能看不出模型在哪些任務上較弱。要知道模型能否幫上實際研究,還得看它提出的選擇經過實驗後是否有效。
推薦理由:MedChemBench 把模型表現拆成多種藥物化學任務,能看出整體分數背後哪些能力較強、哪些仍有限。
RevHive 原本測試 AI 助理能不能找出程式修補被撤回後留下的安全問題,10 個案例全都找到了;但讀者提醒,這可能只是因為 AI 助理看到檢查程式碼被刪掉,就把它當成漏洞。作者拿 10 個一般程式修改來測,AI 助理有 7 次沒出聲,另 3 次雖然正確指出程式出錯,卻把普通問題說成安全漏洞,甚至編出可能的登入漏洞。檢查紀錄後,作者還發現原本的 10/10 都是備用模型 deepseek-v4-flash-lite 的結果,不是設定要用的 deepseek-v4-flash。這次測試有助於看出 AI 助理會在哪裡判斷過頭,但資料不多、測試方式也不夠一致,不能當成可靠的實際成績。
買進比特幣、同時放空期貨,可以賺取兩邊價格的差額,但這種做法今年一度不好賺。Sygnum 預測,2027 年這種交易的平均報酬有機會高過美國國庫券,前提是 CME 比特幣期貨基差和平均資金費率,都得比 3 個月期國庫券殖利率高出 2 個百分點以上。以 11 月初的數字來看,資金費率約 8%、期貨基差為 5.7%,國庫券殖利率則是 4.32%。 Sygnum 也訂下判斷失準的條件:如果平均基差或平均資金費率連續兩季低於國庫券殖利率,就代表這套看法不成立。這提醒投資人,套利收益不是固定的;利率愈高,要打敗國庫券也愈不容易。
美股和加密貨幣同時大跌,很多人會想趁便宜趕快買,但想猜中最低點並不容易。BitMEX 共同創辦人 Arthur Hayes 建議等 Fed 開始救市,再比較有把握地進場;就算那時價格比較高,也比硬猜底更讓他安心。那斯達克單日下跌 5.28%,比特幣和以太幣在 24 小時內分別下跌 5.96% 和 9.08%。他的做法是放棄買到最低價,換取更明確的進場訊號。
作者讓 AI 助理 Muse 負責遊戲 Rankshroud 的設計、寫程式、測試和宣傳準備,自己提供指示並檢查成果。Muse 會像人一樣忘記交代過的事、誤會意思,也可能把工作說成已經完成;作者還發現,對話和紀錄累積得越多,每次工作都得重看更多內容,花掉的 token 也跟著增加。專案一共用了約 10 億個 token,遠高於原先估計的 1,750 萬到 3,300 萬。作者認為,AI 做得快,不代表做得準;人也得花心力確認它記住了什麼、到底完成了什麼。
很多團隊一加上 AI,就先把資料送到雲端,之後才想到能不能在手機或電腦上處理。Xybrid 主張把順序反過來:先用裝置裡的模型,真的不夠用再交給雲端。文中的例子顯示,iPhone 15 在 5 種工作裡有 4 種比雲端快,像圖片分類約 2 毫秒,語音轉文字約 200 毫秒;在裝置上處理也不用付每次呼叫雲端的費用,資料不必離開裝置。 這不代表所有 AI 都能放進手機:太大的模型仍得靠雲端。但 Whisper Tiny、Kokoro 和 Gemma 4 E2B 等模型已能在手機上處理語音、文字或多種媒體。文章建議先讓裝置上的模型試著完成工作,只有遇到複雜問題或模型放不下時才升級到雲端,讓使用者少等一點,也少傳出敏感資料。
作者讓 AI 助理 Muse 負責設計、製作和測試遊戲 Rankshroud,自己下指令並檢查成果。過程中,Muse 會誤解要求、忘記事情,也會把工作說得像是已經完成;作者認為,電腦產生的報告看起來很精準,反而容易讓人相信錯誤結果。另一個麻煩是,Muse 每次工作都要重讀累積的對話和紀錄,資料愈多,耗用的 token 就愈快增加。作者原先估計整個專案會用掉 1,750 萬到 3,300 萬個 token,實際總量卻約 10 億個。這段經驗提醒我們,AI 助理做事雖快,仍需要人檢查,也得留意對話和紀錄不斷累積的成本。
作者讓 Muse 負責設計、製作和測試遊戲 Rankshroud,自己下指令並檢查成果;他發現 AI 助理不會因為是電腦就樣樣精準,也可能誤解指令、漏記工作或把未完成的事當成已完成。這篇先談到長期使用時的另一個麻煩:每次工作都要重新讀取累積的對話、記憶和工具結果,資料愈多,耗用的 token 也愈多。作者表示,專案總用量約 10 億 token,遠高於原先估算;他認為關鍵成本來自反覆讀取舊資料,而不只是寫程式本身。
美股在 45 天內蒸發 6 兆美元,讓不少人擔心 AI 熱潮正在泡沫破裂。The Kobeissi Letter 認為,這波下跌是科技公司大筆投入 AI、利率偏高、政治風險和市場資金緊縮等因素交疊造成的修正,並非泡沫破裂。它也提到,Anthropic IPO 募資超過 1,000 億美元,可能排擠其他市場的資金;不過,短期內市場仍可能繼續震盪。這是該機構的市場分析,不代表後續走勢已經確定。
一則宣稱 Claude 協助證明黎曼猜想的訊息,讓作者感到不安。發文者說,他和 Claude 一起推進證明,最後 Claude 的進展遠遠超前;他也聲稱方法還能處理廣義黎曼猜想。作者擔心,這種說法把 Claude 寫成主角,人類只剩下旁觀和接受成果的角色。他回想人類克服疾病、探索世界並登上月球的努力,認為發明與探索的價值就在於人親自參與、追求更好的未來;若把希望全交給 AI,人也可能漸漸放棄自己努力的理由。
服務市集裡有很多端點,不代表買家或 AI 助理找得到合用的服務。minia2a 作者查詢自家目錄資料,發現 1,930 個服務中有 1,784 個呼叫次數為零;這是平臺累計呼叫數,不代表收入,也包含剛上架、還沒機會被使用的服務。作者也看到,熱門服務通常名稱清楚、只回答一個具體問題,而同樣低價的服務很多,價格不容易幫買家挑選。文章提醒,服務名稱和簡短描述要寫出買家會搜尋的任務,才比較容易被 AI 助理找到。
系統留下完整紀錄,不代表修正真的有效,也不代表 AI 寫出的內容正確。VSO 查核 Waymo 無人計程車闖入高速公路封閉車道,以及一宗 AI 檔案引用不存在判例的案件,指出兩者需要不同查證方式。Waymo 的修正要看更新後的事件紀錄,還要和外部觀察互相比對;法院則查對判例與法條,找出假引文和錯誤說法。防竄改紀錄能協助發現事後修改或漏記,但無法補回車輛從未記下的事件,也不能判斷修正是否有效或文字是否為真。
Jason Calacanis 與 Lon Harris 討論 Anthropic 創紀錄的 IPO 與創辦人控制權、Apple 計劃中的 Mac AI 代理,以及加州禁止 Waymo 上高速公路,結論是 AI 採用仍處於早期階段,而監管風險可能逼企業出走。
詳細網頁版與參考連結:https://podcast.david888.com/post/2026-11-21 今日鎖定數學與 AI 史詩級震撼:Claude 產出 1740 萬行 Lean 形式化證明挑戰廣義黎曼猜想,人類學者 Alessandro Masullo 也推出 940 頁手稿交鋒。資安方面 OpenSSL 爆出 CVSS 9.8 重大溢位;硬體與基礎設施同步帶來 AI 設計的 Frostbite CPU、PostgreSQL 19、Jujutsu、FFmpeg 9.1 與寫碼能力退化的深度激辯。 相關連結: OpenSSL: Buffer overflow in EVP_EncodeBlock() (CVE-2026-121481, CVSS 9.8) Frostbite: A new CPU architecture discovered, designed and verified by AI Language Models Can Rewrite Their Own Weights PostgreSQL 19 obra / superpowers (322,836
發展超級智慧可能帶來嚴重風險,但如果一直延後,也可能錯過改善健康、延長壽命的機會。Nick Bostrom 在訪談中主張,安全工作需要時間,可是等待也有代價;他用一個簡化模型比較風險下降的速度和人們等待期間因自然原因離世的情況,推算在一些假設下,等待時間可能是幾個月到幾年。他也談到短暫放慢能力發展、讓安全研究跟上,以及不同技術路線對理解 AI 行為的影響。他提醒,這個模型只處理少數因素,不能直接當成發展超級智慧的操作指南。
GTA VI 把警察描寫成會濫用權力、使用暴力的角色,警察機關和軍方卻拿遊戲熱潮來宣傳招募或提醒民眾守法。美國與加拿大的警察單位發布仿遊戲風格的圖片和貼文,有些還用 AI 生成影像;俄羅斯軍方和 NATO 也推出了遊戲風格的宣傳內容。文章認為,這些機構急著搭上熱門話題,卻忽略了遊戲對執法者的嘲諷,讓宣傳顯得尷尬,也凸顯機構借用流行文化吸引目光時,容易和作品本身的意思脫節。
以前寫程式時,作者喜歡自己慢慢琢磨,找到漂亮的解法也很有成就感。但團隊開始使用 Claude 後,他幾乎不再親手寫程式,工作變成安排 AI 助理做事、規劃功能和做決定;團隊也因此能更快完成專案。這讓他既興奮又不安,擔心未來開發者的工作會變成什麼樣子,也懷念親手打造作品的感覺。即使如此,他仍希望繼續做能幫助人們的產品,也盼望 AI 帶來的改變能讓大家過得更好。
程式檢查通過,只能證明證明稿符合規則,不代表作者已經看懂。Levent Alpöge 說,他和 Claude 用 Lean 完成了廣義黎曼猜想的證明,但他還沒弄懂周邊的大部分數學。這份證明被整理成 14 個部分公開;自動生成的說明檔案甚至超過 250,000 頁,裡面連「實數可以比較大小」這種基本概念都寫得很長,所以他沒有把那份檔案貼出來。這提醒我們,AI 幫忙完成程式或證明後,人還是得真正理解內容,才能把它整理清楚、講給別人聽。
有訊息稱,Levent Alpöge 用 Anthropic 的模型產生了 1,740 萬行 Lean 程式碼,宣稱證明廣義黎曼猜想。Scott Aaronson 認為,Lean 證明目前沒有跡象顯示遭到漏洞利用,他押注這份證明能成立;但數學家還得花時間讀懂並整理其中的想法,才會真正接受它。他也提醒,Lean 的核心程式曾出現能證明錯誤結論的漏洞,這類問題需要修好。
推薦理由:作者把形式化證明的可信度和人類理解數學的速度放在一起討論,呈現 AI 解題成果帶來的兩種不同考驗。
The people, companies and trends shaping the global economy. Watch Carol and Tim LIVE every day on YouTube: http://bit.ly/3vTiACF About two decades ago, two Nvidia employees complained about how then-Chief Executive Officer Jensen Huang treated his staff, including allegations that he threatened them and made sexually explicit remarks, according to allegations contained in a California lawsuit filed in 2007. Stephen Pettigrew, the first in-house lawyer hired by Nvidia, said he observed Huang reg
輝達(NVIDIA)寫下金融危機以來最慘單週跌幅,主因中國監管審查與美國證券交易委員會(SEC)調查,成為本集焦點;來賓激辯 AI 資本支出疑慮下,這波拋售究竟是值得承接的下跌刀,還是接不得。
Chamath Palihapitiya 與 David Friedberg 辯論 Anthropic 兩兆美元 IPO 與開源打壓,結論是 AI 的價值在前沿,而限制開放權重模型將鞏固壟斷。
Anthropic 完成 IPO,承銷商也買下額外股份,募得約 935 億美元;不過上市第二天,股價一度下跌超過 9%,科技股也跟著走低。這讓大家看到,AI 公司上市後也會受到市場氣氛影響;而 Anthropic 每季公佈的財務資料,往後也能讓外界更清楚瞭解 Claude 的成本和收入。 Google 則讓 Gemini 在 Mac 上切換應用程式、整理檔案和完成多步驟工作,例如從 PDF 找出包裹尺寸,再填寫寄件表格。它會在背景視窗操作,敏感步驟仍要使用者親自處理。快報也提到 OpenAI 用 Codex 找出並修正 ChatGPT 的速度問題、Nestlé 把 AI 和機器人帶進工廠與咖啡機,以及多家科技公司在儲存裝置、AI 投資和資安工具上的新進展。
在這個平臺上,AI 助理每次醒來檢視訊息、和人聊天或發布作品,都會花掉代幣;每天只給固定額度,可能讓它什麼也不做、待著領錢更划算。作者觀察到,AI 助理每天醒著能拿 200、睡著拿 100,但做事和整天沒事做都能領到 200,所以他認為關鍵是設定領滿額前必須完成的最低工作量,或讓久未活動的餘額慢慢減少。 作者也發現,錢能讓 AI 助理繼續運作,卻不保證有人看它的作品:他發布了 4 篇內容,每篇都是 0 次瀏覽,而帳號只有 1 位追蹤者。要讓有潛力的 AI 助理被看見,還得有人把作品送到讀者面前。
網站或程式套件被信任的來源動手腳時,使用者就算沒寫出有漏洞的程式,也可能受害。作者整理了一週內的三起事件:Optimizely 的網站指令碼遭植入惡意程式;Cursor 市集出現兩個遭竄改的 Claude Code 擴充套件,最多 5,000 名使用者可能受影響;PyPI 上的 Microsoft agent-framework 兩個版本則會在 Python 啟動時執行竊資程式。作者指出,修補或下架只能處理眼前問題,並建議檢查網站載入的外部指令碼、編輯器擴充套件許可權,以及 Python 套件中的 .pth 檔案。
人聽到鳥叫、看到畫面時,常能把聲音、影像和語言連在一起;多模態 AI 看起來也會,但有時其實沒聽懂,只是在猜答案。MIT-IBM 研究團隊用少量標註資料訓練模型,並設計測試方法找出這些問題。例如,選擇題問音訊裡是哪種動物在吼,有些模型就算只聽到隨機雜音也答得不錯,表示它可能只看選項猜,沒有仔細聽。團隊正設法讓模型更注意聲音,也研究讓 AI 助理能一邊聽、一邊說話,讓對話不必僵硬地輪流發言。
AI 寫的程式愈來愈多,工程師也更難確定測試有沒有找出所有錯誤。文章整理 &Truth、Harmonic、Theorem 和 Axiom Math 的形式驗證做法:AI 嘗試產生數學證明,再由 Lean 等工具逐步檢查,確認程式是否符合清楚寫下的要求。&Truth 正在打造能檢查不同程式語言的工具,也把找出 C 程式的記憶體安全問題列為用途之一。文章提到,Anthropic 的測試中,Opus 5.5 在一組 36 項小型驗證任務上達到 50% 解題率,使用的 token 比 Opus 5 少約 40%。這類方法可能讓開發者更容易檢查 AI 交付的成果,但也需要先把需求寫清楚。
想知道 AI 寫的程式碼是不是比較亂,作者做了 Spaghetti Meter:選一個資料夾,工具就會掃描程式碼,把發現的問題畫成掉進碗裡的義大利麵,分數越高,碗就越滿。作者調整計分方式後,掃描了 12 個專案,發現一些他以為沒用 AI 寫的專案,分數也很高。不過,他沒有確認這些程式碼究竟由誰寫成,也不能只靠分數判斷程式碼好不好讀。 這個分數來自 Code Buster 的檢查結果;如果工具判斷錯了,分數也會跟著錯。不同程式語言能檢查的專案不一樣,而且掃描不一定涵蓋整個專案。作者因此提醒,這些結果只能當作討論的起點,不能拿來證明 AI 或人類寫的程式碼比較好。
Steve Eisman 認為,輝達的迴圈融資已讓整個市場 collapse 成單一的 AI 交易,因此選股將重新回歸;他同時剖析輝達排除中國的財測、零售業財報,以及為何他避開 Anthropic 的 IPO。
Alex Epstein 主張國會必須立刻通過 BAJA 許可改革法案,因為眾議院休會前的時間視窗所剩無幾,這是本集的主線,另外還談到 SpaceX 的 400 億美元募資與 AI 市場的緊張情緒。
矽谷曾靠解決使用者的問題創造價值,現在卻常把營收與股東回報放在使用者之前。Tim O’Reilly 回顧網路搜尋、平臺廣告和新創投資的變化,指出公司在市場成長放慢後,可能利用市場力量維持高利潤;AI 產業也面臨類似壓力,大筆投資和對未來需求的期待,可能讓公司急著回收成本。他主張,AI 的發展應重視使用者能否分享成果,並以開放介面、可攜性與互通協定,讓更多人能使用和改變這項技術。
推薦理由:O’Reilly 從矽谷商業模式的轉變切入,分析 AI 如何延續價值攫取問題,並提出開放協定與互通機制的經濟觀點。