跳到正文

#Podcast

RSS
今日 22 則
10月12日週一
  1. AI Engineer🎙️ Podcast85

    隔壁的 GPU 聽得見你的模型——Branislav Brzak,Stealthium

    與你共用 GPU 的其他租戶,只要在自己本來就有許可權的硬體上做計時量測,就能辨識你正在跑哪一個大型語言模型、解碼速度多快,以及產出的是哪一類文字。這是 Stealthium 資安研究員 Branislav Brzak 在這場 13 分鐘演講中提出的核心發現。這個攻擊不需要 root 許可權、不需要漏洞利用、也完全不碰觸受害者的記憶體;攻擊者只是量測自己讀取的時間,觀察當鄰居忙碌時,GPU 全域的記憶體屏障(memory barrier)如何拖慢自己的讀取。Brzak 指出,辨識模型架構與深度的準確率達 97%,解碼速度辨識準確率 99.3%,還能單憑計時就分類工作負載型別(散文、程式碼、JSON

  2. 20VC🎙️ Podcast85

    Atlassian 執行長:代理為何不會取代介面 | 為何企業不會信任中國模型

    Atlassian 共同創辦人暨執行長 Mike Cannon-Brookes 主張,在代理式 AI(agentic AI)的世界裡,使用者介面與設計的重要性不減反增——這就是他「無介面即無腦」(headless is brainless)的論點——而 Atlassian 的核心策略賭注,是打造最好的企業情境圖譜(context graph),而不是把客戶體驗拱手讓給第三方代理。他在與主持人 Harry Stebbings 對談時,對幾個當前熱議的爭論提出反主流立場:企業是否真能從訓練專用模型中受益,目前尚無定論;推論成本下降的幅度會超出他原先預期;企業對中國來源模型的抗拒確實存在,但考量到美

  3. AI Engineer🎙️ Podcast85

    你的代理是致命三重奏(以及該如何應對)——Kim Maida,Keycard

    Kim Maida 是 Keycard 的創始 GTM 工程師暨開發者關係負責人。她主張,三種能力的組合——取得私有資料、接觸不受信任的內容,以及對外通訊的能力——讓自主代理(autonomous agent)成為攻擊者的「致命三重奏」(lethal trifecta);而解法並非削減這些能力,而是透過 OAuth 2 權杖交換(token exchange)核發任務範圍、短效的憑證來控管存取。本集節目圍繞一場即時的前後對照示範,展示一個待命值班分流代理(on-call triage agent)如何讀取並解決事件工單;示範佔了節目大部分的長度:標題中的「致命三重奏」概念在開頭幾分鐘內介紹並定

    推薦理由:三重能力結合揭示代理風險,OAuth 2 交換可控授權成關鍵防禦手段,同時示範即時分流代理解決工單,提供實務範例。

  4. Sourcery🎙️ Podcast85

    Aravind Srinivas 談靠 AI 創造百萬營收的一人公司

    Perplexity 共同創辦人暨執行長 Aravind Srinivas 主張,下一波 AI 價值的來源將是使用深度而非使用者數量,而他認為自家公司已卡位為橫跨模型、晶片與本地加雲端運算的中立協調者。本集標題指向中小企業將帶動一波經濟榮景,但這個論點在 54 分鐘的對談中只佔了幾分鐘。訪談主體在 Perplexity 新辦公室錄製,涵蓋公司產品從答案引擎演進為代理平臺、Perplexity Computer 與 Comet 瀏覽器的推出、在使用者自有硬體上執行 AI 的主張,以及 Srinivas 對品牌、招募與美國夢的看法。 Srinivas 表示,Perplexity 的營收正以年增 5

  5. My First Million🎙️ Podcast85

    人生三次教會我謙卑,這是我學到的事

    一場人格測驗讓 Shaan Puri 在自戀量表上拿到 110 分——「破錶」,其他各項分數則都偏低——這是這集 21 分鐘單人節目的開場,也是他三個故事中最有內容的一個。標題下得沒錯但太窄:測驗結果只佔了整集大約前三分之一,剩下三分之二是另外兩段丟臉往事(一份 250 頁的創業計畫書,向 Noodles and Company 創辦人提案;以及一張交給女生的情書,對方只問了一句「這是給誰的?」)。串起整集的主軸不是那個測驗,而是一個主張:丟臉是一道傷口,會變成一道門,而這三個時刻各自帶來了一個持久的行為改變。 Puri 是唯一的講者——他是創業者,也是播客節目《My First Milli

  6. Koji楊遠騁🎙️ Podcast85

    【十字路口】“有了AI,我感覺自己強得可怕!”|對談鴨哥【影片播客】

    這期公路播客在從烏鎮開往上海的理想 i8 上錄製,全程多數路段自動駕駛,主持人 Koji 與嘉賓鴨哥(前微軟、Pinterest、Samsara 工程師,哥大 PhD,現 gap 中,與課代表共同經營 AI 教育社群 Superlinear)的對話主軸並非標題所暗示的「AI 讓我強得可怕」這句感嘆,而是鴨哥反覆強調的一套方法論:把 AI 當人來管理,用 context infrastructure 餵養它,讓它自我閉環、自我迭代。標題那句話只在談到「僱了醫生、律師、文秘天團」時出現一次,佔全片極小比例。 真正撐起 72 分鐘的是四條線:對 Jev 這款爆紅分類模型的技術祛魅與行銷拆解;「給

  7. Bankless🎙️ Podcast85

    為什麼 Cypherpunk 正成為 Zcash 最大的權力玩家

    Will McEvoy 是 Cypherpunk Technologies 的資訊長(CIO)暨董事會成員。他主張,Zcash 價格 30 倍的漲幅,是市場對唯一具備「真正密碼龐克隱私」的加密資產所進行的理性重估——在 AI 能去匿名化透明帳本的世界裡,這個資產的價值被重新定價。本集節目主要是一場公司深度剖析:Cypherpunk 持有約 325,000 至 326,000 顆 ZEC(約 5 億美元),並掌控 Zcash 約 18% 的算力,公開目標是累積至總供給量的 5%。標題的框架是公允的——5 億美元的資產儲備與 18% 的算力確實是整場對話的骨幹——但最有價值的內容在於挖礦經濟(Zc

  8. The Diary of a CEO🎙️ Podcast85

    UFO 掩蓋事件分析師:那些被告知不存在的外星計畫!| Eric Weinstein

    數學家兼播客主持人 Eric Weinstein 自稱站在數學與物理的最前沿,他在節目中告訴主持人 Steven Bartlett,世界已經脫離一段異常的八十年「沉睡期」,如今同時面臨四場動盪——AI、伊朗、俄羅斯與中國——其中以 AI 最為巨大。本集標題主打 UFO 揭露,但這個話題在 112 分鐘的對談中只佔一小段;主體是 Weinstein 的論證:AI 加上人工生命構成前所未有的威脅、AI 實驗室全都被鎖在一場誰都輸不起的競賽裡、理論物理與數學已被一個自我保護的體制把持,而中東與烏克蘭距離災難比公開討論所承認的更近。 Weinstein 最具體的幾個主張:他說自己與大約 50 人談過

  9. AI Engineer🎙️ Podcast85

    打造 AIE:與 swyx 的公開問答與回饋座談

    AI Engineer World's Fair 將在 2026 年後停止成長。主辦人 swyx 在 Moscone Center 的閉幕 Q&A 場次宣佈,2027 年將回到同一個場地、同一週、同樣規模,接下來這一年用來最佳化,而不是擴張。本集內容幾乎全在談研討會營運:工作坊報名系統失靈、一套普遍不受歡迎的委外開發行動 App、Wi-Fi 壅塞、講者遴選機制,以及國際擴張。AI 安全與生存風險——標題框架可能讓人以為會談的主題——只在開場幾分鐘出現,而且是回應一位與會者的提問;swyx 的回答是,x-risk 刻意不設成議程軌,因為那不是工程師工作上會用到的東西。 swyx 是 AI Eng

  10. AI Engineer🎙️ Podcast85

    用 Claude Managed Agents 打造研究代理(四之三)——Anthropic

    Anthropic 的 Claude Managed Agents(CMA)是一套全託管服務,將代理框架(agent harness)、沙箱、擴充套件機制與事件日誌儲存全都跑在 Anthropic 自家基礎設施上,開發者只需專注打造上層產品。在這場實作工作坊中——四部曲系列的第二場——Anthropic 的 Priyanka Phatak 與 Gabe Cemaj 從零開始打造一個可運作的 SEC 申報檔案研究代理,再逐步升級為多代理系統,加入技能(skills)、自我監督的成果驗證(Outcomes)、共享記憶,以及一套自製的 MapReduce 風格排程框架。標題其實低估了範圍:這與其說是在做

    推薦理由:本教學示範以 Anthropic 的 Claude Managed Agents 建構 SEC 申報檔案研究代理,並演示多代理協作與自製排程框架,對快速部署 AI 研究代理的工程師具實務參考價值。

  11. AI Engineer🎙️ Podcast85

    Claude 代管代理問答:評估、CI/CD 與多租戶架構(四之四)— Anthropic

    這是一場關於 Anthropic Claude Managed Agents(CMA)的實務營運問答,而整場的主軸並不是標題率先帶出的 CI/CD 主題——那隻佔了開頭大約一分鐘——而是更艱難的企業級問題:多租戶架構、資料隔離,以及當代理產生 PR 的速度遠超人類閱讀速度時,如何避免程式碼審查成為瓶頸。Priyanka Phatak 與 Gabe Cemaj 都隸屬 Anthropic 的 CMA 團隊,在 Code with Claude 大會後的實作坊中回答觀眾提問,多數答覆都很具體:哪個資源繫結在哪個範圍、違反排序規則時會拿到什麼 HTTP 狀態碼、哪些第三方沙箱供應商有原廠 cookb

  12. AI Engineer🎙️ Podcast85

    排程代理、做夢與問答:Claude Managed Agents(四之三)— Anthropic

    Anthropic 的 Claude Managed Agents(CMA)是一套 API 優先的平臺,用來建構、排程並排程大量 AI 代理——本場議程由 Gabe Cemaj 主講,內容以產品實機展示為主,加上與開發者之間的長篇問答。議程標題點出的兩個主要話題(排程代理與「做夢」)確實有出現,但只佔開頭幾分鐘;26 分鐘裡大部分時間都是觀眾提問,涵蓋可觀測性、多租戶、RBAC、評估(evals)與企業部署。對技術決策者來說,最重要的收穫是這個平臺明白揭示的設計哲學:隨著 Claude 模型越來越聰明,Anthropic 會持續移除護欄,讓模型自行決定拓撲結構,因此開發者今天投資的「外殼」(h

    推薦理由:此平臺揭示 Anthropic 逐步移除護欄、讓 Claude 模型自行決定拓撲的設計哲學,對決策者評估投入與未來部署提供參考。

  13. AI Engineer🎙️ Podcast85

    下一批十億上網人口,至今仍沒有身分認證——專訪 AgentMail 共同創辦人 Adi Singh

    AgentMail 共同創辦人 Adi Singh 主張,業界在解決代理身分(agent identity)問題時方向搞反了:與其發給代理全新的加密憑證,不如讓它們在人類早已信任的介面上運作——電子郵件、Slack、瀏覽器、電信商——藉此累積身分。本集是研討會演講,不是訪談;標題中「下一個十億使用者」的說法是他論點的口號,而非有資料支撐的預測。實質內容是一位實務工作者現身說法:自主代理今天實際上怎麼註冊服務、哪裡會出問題,以及他為何認為鑰匙卡式的身分規範(代理卡、護照、DID)為了安全性犧牲了採用率。 Singh 最具體的證據,是與電信商 Telnyx 的合作案:他們把一套面向代理的註冊流程(

  14. AI Engineer🎙️ Podcast85

    讓大腦與手腳解耦:Claude Managed Agents(四之一)— Anthropic

    Anthropic 工程師 Priyanka Phatak 與 Gabe Semach 帶大家拆解 Claude Managed Agents 的架構,接著在 Claude Platform 主控臺裡現場打造一個可運作的代理。核心工程論點是:代理就是「一個模型跑在迴圈裡、配上工具」,而包住這個迴圈的框架(harness)本身編碼了「模型做不到什麼」的假設——這些假設會隨著每一次新模型發布而過時。Anthropic 第一代受管代理架構把 session log、harness 和 sandbox 全塞進同一個容器,結果每個 session 都變成不能弄丟的「寵物」。團隊於是轉向把「大腦與手」解耦

    推薦理由:此影片拆解 Claude Managed Agents 架構,示範在 Claude Platform 主控臺即時建立代理,對想實踐代理模型的開發者具實用參考價值。

  15. AI Engineer🎙️ Podcast85

    代理人的身分驗證:用 auth.md 讓 AI 自行註冊你的產品——WorkOS 的 Michael Grinich

    自主 AI 代理的瓶頸已不再是模型能力,而是那道註冊大門:代理可以連續好幾個小時寫程式、部署程式,但幾乎每一個服務仍然要求人類去看登陸頁、解 CAPTCHA、驗證電子郵件、複製 API key。WorkOS 創辦人 Michael Grinich 在這場 21 分鐘的演講中主張,代理原生的註冊流程是代理經濟裡缺的那塊基礎元件,並提出 auth.md——一套以 Markdown 為基礎的開放規格,告訴代理如何在不需人類介入的情況下,成為某項服務的合法使用者。標題聚焦 auth.md 是準確的:這套規格、它的運作機制,以及一場 Cloudflare 部署的實機示範,大約佔了演講的後半段。 G

    推薦理由:auth.md 透過 Markdown 規格,讓 AI 代理可自動完成註冊流程,突破人類介入瓶頸,促進代理經濟的自動化。

  16. AI Engineer🎙️ Podcast85

    推論如何跟上我們對 Token 永無止境的需求——Cerebras 與 Gimlet Labs

    推論最佳化已經從核心層級(kernel)的問題,升級為系統層級的問題。這是這場 22 分鐘演講的核心論點。講者 Daniel Kim 在 Cerebras 負責 AI 與 AI 代理相關工作,另一位講者 Michelle 則是 Gimlet Labs 的共同創辦人,該公司正在打造多晶片架構的「neocloud」,目標是在堆疊的每一層最佳化推論。他們的說法是:從 2022 年一路支撐推論到今天的執行期技巧——批次處理(batching)、分頁 KV 快取(paged KV cache)、提示快取(prompt caching)、分塊預填(chunked prefill)——大致上已經被榨乾,接下

  17. AI Engineer🎙️ Podcast85

    沙盒中執行 1,000 個代理任務:當 LLM 執行程式碼時,什麼會出錯——AWS 的 Kevin Orellana

    Kevin Orellana 任職於 Amazon Bedrock AgentCore(AWS 的代理沙箱代管平臺),在這場演講前的幾個月裡,他把一個 coding agent 指向自家團隊的雲端沙箱環境,讓它整夜執行、試圖把環境弄壞。最核心的發現不是某個單一 bug,而是結構性的問題:當你把代理代管在沙箱裡,而不是暴露長時間執行的 REST API,沙箱的底層原語——記憶體、CPU、檔案系統許可權、行程生成許可權、核心控制——就成了代理能否完成任務的主要限制。Orellana 的團隊跨 10 個領域生成約 1,000 個測試來對平臺做模糊測試(fuzz testing),結果失敗案例不是集中在商

    推薦理由:沙箱限制成 LLM 執行程式碼的主要瓶頸,透過 1,000 次模糊測試證實,記憶體、CPU、檔案系統與行程生成許可權是關鍵限制,提醒設計者重視底層資源與許可權管理。

  18. AI Engineer🎙️ Podcast85

    深入解析 AI 經濟:Stripe 資料揭露了什麼——專訪 Stripe 的 Nilofer Rajpurkar

    Stripe 產品負責人 Nilofer Rajpurkar 以 Stripe 自家的交易資料為依據,主張頂尖 AI 公司已經打破了 SaaS 時代的四項假設:他們打造產品更快、第一天就全球銷售、以用量而非席次計價,而且在拿到 A 輪之前就開始跑企業銷售流程。最引人注目的單一數字,是 Stripe 平臺上的 AI 營收年增 175%,而前一年是 120%——成長正在加速,不是減速。標題以「AI 經濟」為框架算是貼切,但這集與其說是總體趨勢調查,更像是一份實戰者的操作手冊:大約一半的內容是關於定價、全球收款與進入市場策略的具體指引,並用一場即時示範佐證——Claude 在對話視窗裡直接做出一個可

    推薦理由:Stripe 產品負責人以實際交易資料說明 AI 企業如何打破傳統 SaaS 模式,提供具體定價與市場進入策略,對想進軍 AI 市場的企業具有參考價值。

  19. AI Engineer🎙️ Podcast85

    沙箱不是選項,而是必需品:隔離程式代理的 4 種做法——OpenHands 的 Robert Brennan

    OpenHands 執行長暨共同創辦人 Robert Brennan 主張,把編碼代理(coding agent)從開發者的筆電搬到雲端執行,是 2026 年最具代表性的組織變革,而沙箱(sandboxing)正是讓這件事得以安全落地的機制。他的核心論點是:本地代理會逼你在兩種選擇之間二選一——要嘛每一道許可權提示都親自盯著,要嘛開啟「危險地略過許可權」模式,讓代理繼承你整個檔案系統、環境機密、家目錄,以及任何已連線的正式資料庫或 Kubernetes 叢集的存取權。沙箱建立在代理出現之前就存在的安全原則「最小許可權」之上,只給每個代理完成工作所需的東西,藉此把提示注入(prompt injecti

  20. AI Engineer🎙️ Podcast85

    招募可僱用的代理,新創競技場決賽——Howie Liu、HyperAgent

    本集最有價值的內容,是 Howie Liu 對代理產品如何隨模型變強而演進的框架,以及他的主張:最終勝出的代理產品會是水平平臺,讓非軟體業的公司也能靠整批代理跑完整個端到端流程。Liu 是 Airtable 的創辦人暨執行長,如今也負責 Airtable 旗下的產品 HyperAgent。他先發表約 18 分鐘的演講,題為「僱用可就業的代理」(Hiring Employable Agents),接著主持一場三隊新創競賽,總獎金 10 萬美元。標題裡的「新創戰場」定位沒錯,但只是次要元素:pitch 與評審佔了後半段,真正有份量的產品思考全在 Liu 的開場演講裡。 Liu 的核心主張是:產品

  21. Business Of Biotech🎙️ Podcast85

    與 SR One 的 Simeon George 醫學博士談 AI、中國與生技投資

    Simeon George 是 SR One Capital Management 的執行長暨共同創辦人。他主張,當前重塑生技投資的兩股力量,一是 AI 驅動的早期開發,二是中國崛起為藥物開發強權——而這兩者最恰當的理解方式,都是服務於「產品優先、病患影響優先」投資主軸的工具。本集標題雖不失公允,卻略微高估了 AI 與中國的比重:這兩個主題大約只佔對話的後半段,前半段其實是紮實地談 SR One 從 GSK 分拆的過程、其端到端投資模式,以及 George 看重創辦人的哪些特質。對金融或科技讀者最有價值的內容,是 George 對「AI 究竟在哪裡真正創造回報」的框架(在早期開發,而非晚期預測

  22. AI Engineer🎙️ Podcast85

    「圍堵」指標正在騙你:像考核員工一樣衡量 AI 代理——Druid AI

    一家對話式 AI 供應商發表了一套六支柱、26 個評分元件的評分框架,用來判斷已部署的 AI 代理是否真的有效——而它最核心的示範案例卻違反直覺:控管率(containment rate)最高的代理(96%,只有 4% 轉交真人)竟然輸給轉交率達 20% 的代理。本集標題所談的「控管」只是前幾分鐘的引子;21 分鐘節目的主體,是逐一走過這套評分框架本身、它的權重設計,以及背後商業治理邏輯。 與談人是 Juji AI 開發者社群經理 Michael,以及 Juji 共同創辦人暨產品長 Dan Bălăceanu。Juji 是一家對話式 AI 新創,在 EMEA 與美洲擁有數百家客戶。兩人都把這

  23. AI Engineer🎙️ Podcast85

    別再租用智慧:專用 AI 的「訓練到部署」迴圈 — Fireworks AI

    Fireworks AI 的應用機器學習負責人 Jetashree Ravi 主張,開源模型如今在大多數工作負載上已達生產環境可用的水準,而真正的競爭優勢已從「能否取得模型」轉移到「訓練到部署的迴圈」——也就是在同一個平臺上持續微調、託管並重新訓練模型的能力。Ravi 在一場研討會演講中,把整套論述扣在一個她現場調查過的痛點上:使用 ChatGPT 或 Anthropic 等閉源模型的開發者,很快就發現「費用高得驚人」,而轉向開源的過程往往卡在一個瓶頸——品質。她的解答是一套三層式的訓練產品(訓練代理、託管訓練、訓練 API),接在 Fireworks 於 CUDA kernel 層級最佳化的

  24. AI Engineer🎙️ Podcast85

    自主電腦:電腦操作代理的基礎架構——Ang Li,Simular

    Simular 共同創辦人暨執行長 Ang Li 主張,電腦操作代理(computer-use agent)正進入第二階段,而這個階段的關鍵不在於原始能力,而在於可靠性。他在一場 AI Engineer 工作坊演講中,回顧了一條橫跨三十年的職涯弧線——十年競技程式設計、十年神經網路研究(博士班,接著 2017 年加入 DeepMind),如今則是投入 AGI 的十年——並直言基準測試的時代已經結束:他團隊的 Agent S 在 2025 年 12 月打破了 OSWorld 的人類表現紀錄,但緊接著發布的 OSWorld 2 卻讓最強模型卡在約 20%。他說,真正的問題在於目前沒有任何已出貨的代

  25. AI Engineer🎙️ Podcast85

    爬山式技能:不換模型也能讓代理更可靠——Browserbase 的 Shubhankar Srivastava

    瀏覽器代理在正式環境中之所以失敗,問題不在模型不夠強,而在於每一次執行都從零開始。Browserbase 的銷售工程師 Shubhankar Srivastava 負責為客戶部署瀏覽器代理,他主張解方屬於工程問題:一套「自動研究」(auto research)迴圈,讓執行代理(doer agent)與教師代理(teacher agent)反覆琢磨同一個真實網站,直到收斂出一份可重複使用的技能檔案。在 AI Engineer 大會上,Srivastava 現場示範了一套流程:一個 Google Flights 任務在跑完一輪迭代後,單次執行成本從約 12 美元降到 3 美元;另一個原本撞上「ac

    推薦理由:提供一種自動研究迴圈,將代理執行成本從 12 美元降至 3 美元,顯示工程最佳化可大幅提升瀏覽器代理效能。

  26. AI Engineer🎙️ Podcast85

    馴服 AI 硬體的寒武紀大爆發——Modular 的 Abdul Dakkak

    Modular 押注的是:AI 產業真正的瓶頸不在晶片,而在軟體。在一場 17 分鐘的演講中,Modular 工程師 Abdul Dakkak 主張,AI 硬體的「寒武紀大爆發」——輝達多個 GPU 世代、Intel、ARM、Apple、AMD——已經造成程式開發上的一團亂,因為硬體選擇會一路向上滲透整個技術堆疊,逼得 vLLM 這類框架必須為每一家廠商維護各自獨立的程式路徑。Modular 的答案是把整個堆疊打掉重練:Mojo,一門風格貼近 Python、可鎖定 CPU、GPU 與加速器的系統程式語言;MAX,以 Mojo 打造的推論引擎與圖形編譯器;以及 Modular Cloud,負責分

  27. AI Engineer🎙️ Podcast85

    用 AutoResearch 打 Parameter Golf — Weco AI 的 Vayum Arora、Zhengyao Jiang、Dixing Xu 與 Dhruv Srikanth

    自動研究(auto research)——把語言模型指向一份程式碼庫加上可重播的評估指令碼,讓它在單一分數上不斷爬山——是這場 AI Engineer World's Fair 工作坊的主題,由 WeCo AI 團隊四位成員主講。標題裡的「Parameter Golf」是真實但片面的框架:OpenAI Model Craft Challenge 大約佔了整場的前三分之一,作為案例研究;演講的主體則是一份設計自動研究迴圈的實務指南,外加一場實作的 Flappy Bird 競賽。最重要的主張是:自動研究對提示與設定品質的放大效果,遠大於一般的 coding agent——指向對的評估,它會「煮沸整片

  28. AI Engineer🎙️ Podcast85

    燒掉你的旗幟:為代理打造互動式 CLI — PayPal 的 Mark Lummus 與 Navinkumar Patil

    這場議程中最有用的觀點是:互動式 CLI 並沒有壞掉,它只是寫給錯的讀者看。PayPal 開發者工具負責人 Mark Lummus 與同團隊技術主管 Navinkumar Patil 主張,代理(agent)透過 bash 呼叫外部指令時,處理非互動式指令沒問題,但遇到方向鍵提示就會無聲失敗:測試框架看到的是一個重繪迴圈,而不是一個問題,因而遺失 UI 狀態,卻回報沒有任何錯誤。他們提出的解法,是把代理視為與人類並列的第二種受眾,就像無障礙設計為人類介面增加了第二種讀者一樣,並為這類受眾提供機器可讀的狀態、結構化輸入,以及一棵決策樹,而不是愈堆愈多的旗標。 標題的「燒掉你的旗標」只是這場實作

  29. AI Engineer🎙️ Podcast85

    用感知代理打造應用 — Amazon AGI Lab 的 Emile Baizel 與 Shruti Arora

    Amazon 的 AGI 實驗室用這場 55 分鐘的工作坊,主張代理(agent)開發的下一階段不是「電腦操作」(computer use)——讓代理盲目地點選一個藍色按鈕——而是「感知」(perception),也就是代理能像人類一樣理解螢幕。Amazon AGI Lab 解決方案架構師團隊負責人 Emile Baizel,以及該團隊的解決方案架構師 Shruti Arora,整場議程圍繞兩個開源基礎元件(primitive)——Visual Annotator 與 Visual Verification——最後再讓全場動手挑戰,把兩者串起來。標題的「感知代理」是整場的框架,但節目主體其實是

    推薦理由:工作坊示範感知代理開發流程,透過實作學習將 Visual Annotator 與 Visual Verification 串接至代理,並掌握感知層設計原則,並可在實務中快速驗證代理在多模態場景中的表現

  30. AI Engineer🎙️ Podcast85

    AI 安全工程師基礎與認證 — Snyk 的 Javier Garza

    一位資安工程師主張,AI 程式開發工具早已跑在為確定性軟體打造的那套安全實務之前,而解方是流程,不是禁令。Javier Garza 是資安公司 Snyk 的開發者推廣人員,他帶來一場濃縮成六個單元的訓練課程——原本是三小時的研討會硬塞進兩小時——內容涵蓋 OWASP LLM Top 10、影子 AI、AI 威脅建模、MCP 伺服器安全、vibe coding,以及代理式攻擊。標題裡的「證書」是真的,但只是配角:Garza 在最後幾分鐘告訴學員,可以到 ai.security.engineer 做測驗拿結業證書,還有一個掃 QR code 的挑戰活動,完成可拿 25 美元禮品卡。真正的重點在於風

  31. AI Engineer🎙️ Podcast85

    同一個模型,速度卻大不同:為什麼推論供應商是關鍵——FriendliAI

    FriendliAI 的創始工程師 Yunmo Koo 主張,如今選擇推論供應商的重要性,已不亞於選擇模型本身。他在一場研討會上演講,帶聽眾做了一場實測比較,顯示同一個開放權重模型交由不同供應商執行,在延遲、成本與可靠性上會出現實質差異——而這些差異源自整套推論堆疊,而非模型權重。這場演講固然是 FriendliAI 推論 API 的產品宣傳,同時也是一份精簡的技術入門,說明 KV 快取重用、快取感知路由、階層式記憶體與推測解碼(speculative decoding)為何決定了開發者實際體驗到的表現。 本集標題把主題定調為「同一個模型,不同的速度」,這個主軸確實貫穿整場演講,不過實質內容

    推薦理由:同一模型在不同推論供應商下速度差異,凸顯推論堆疊對開發者體驗的關鍵影響,並提示選擇合適供應商可降低成本與提升可靠性。

  32. AI Engineer🎙️ Podcast85

    SonarQube + OpenAI:代理式開發 — Killian Carlsen-Phelan,Sonar

    本集的核心論點是:AI 程式碼代理(coding agent)已把軟體開發的瓶頸從「產生程式碼」轉移到「驗證程式碼」,而要彌補這個落差,就必須把「完成」當成一種必須有證據支撐的主張,而不是一句斷言。標題「SonarQube + OpenAI」忠實反映了這場議程的內容:這是一場聯合演講加上現場示範,把 OpenAI 的 Codex 代理與 Sonar 的驗證工具配對起來;不過實質論證集中在開場前五分鐘的框架說明,其餘則是實際動手把兩者串接起來的操作演練。 框架說明由一位自稱隸屬 Codex 部署工程團隊的講者主講(介紹時也提到一位稍後致謝的「Tony」),他提出三項主張:完成,代表任務在具備證

  33. AI Engineer🎙️ Podcast85

    讓你的代理盡情發揮:用技能評估並改進你的應用程式 — Ankur Duggal,Arize AI

    Arize AI 的 Ankur Duggal 主張,用「感覺」來交付 AI 代理——憑肉眼掃過輸入與輸出——在正式環境中行不通,因為代理本身不具確定性,而且把推理過程藏在單一行 agent.run 呼叫背後。他的解法是一套迴圈:全面追蹤、在正式環境中找出失敗案例、把這些失敗轉成資料集與評估、讓 coding agent(Claude Code、Cursor、Codex)把追蹤紀錄、評估、標註與程式碼庫拉到同一個地方,提出修正方案、跑實驗、上線。本集大部分內容是這套迴圈的實機示範,物件是一個刻意弄壞的理財建議代理,另外還有觀眾問答,涵蓋追蹤機制、評估成本、模型選擇與 Phoenix 支援。

    推薦理由:本影片示範如何透過迴圈式追蹤與評估,提升代理在正式環境中的可靠性,對開發者最佳化代理流程具有實務參考價值。

  34. AI Engineer🎙️ Podcast85

    AI 應用一瞬間:不用 Docker 也能部署到 GPU — Runpod 的 Dean Quiñanola

    Runpod 的 staff engineer Dean Quiñanola 指出,標準的 serverless AI 部署迴圈——寫程式、建 Dockerfile、把映像檔推到 Docker Hub、執行,失敗就再來一遍——每迭代一次大約要花 15 分鐘,這正是 ML 工程師與實驗之間最大的障礙。他提出的解法 Runpod Flash 直接把 Docker 從流程中拿掉:開發者寫 Python,用 flash dev 透過本機 FastAPI 介面,對一個真正由 GPU 支撐的 serverless endpoint 測試,再用 flash deploy 把同一份程式碼送上正式環境。

    推薦理由:Runpod Flash 省去 Docker 步驟,讓開發者可即時在 GPU 上測試與部署,縮短迭代時間。

  35. AI Engineer🎙️ Podcast85

    用 Langfuse 持續改進代理 — ClickHouse 的 Annabell Schäfer 與 Lotte Verheyden

    這場工作坊的核心主張是:多數團隊不需要打造完整的離線評估流程,就能大幅改善自家的代理系統——只要把應用程式埋點、緊盯追蹤紀錄(trace),並根據發現採取行動即可。Langfuse 的 Lotte Verheyden 與 Annabell Schäfer 認為,對非高風險產業的團隊來說,他們所謂「AI 工程迴圈」中的線上那一半——追蹤加上監控——已足以快速迭代;離線那一半(資料集、實驗、評估)要等到產品或風險輪廓成熟後才有其必要。他們要解決的框架問題在於:AI 代理並非確定性系統——一個系統可能在基礎設施儀錶板上看起來一切正常,但它的回答卻是錯的,或單純不夠好。 本集不是概論式的綜覽,而是實

  36. AI Engineer🎙️ Podcast85

    打造平臺,然後看它燒起來——Accenture 的 Michael Forrester 與 Datadog 的 Whitney Lee

    兩位實務工作者花了約一百小時,在 Kubernetes 上打造出一套完整的內部開發者平臺,接上一個毫無防護的 LLM 代理,然後在講臺上即時嘗試駭進自己的叢集。最有價值的發現不是代理搞破壞,而是擋下攻擊的防線大多是 Kubernetes 的標準控制機制,而非 AI 專屬的防護。任職於 Accenture 訓練部門的 Michael Forrester 與 Datadog 的 Whitney Lee,帶著聽眾走過三輪逐步升高的攻擊,目標是一個由 34 個元件平臺支撐的墨西哥捲餅點餐聊天機器人,接著說明哪些護欄擋下了哪些攻擊、哪些又在最後一刻失守。 這一集是實作工作坊,不是概況調查,重心落在攻防

  37. Starter Story🎙️ Podcast85

    我的第一個 SaaS 專案月營收剛突破 1.1 萬美元

    一名 19 歲、完全沒有程式設計經驗的年輕人,用五個月打造出一款名為 Vola 的 AI 影片剪輯 App,如今每月靠它賺進超過 1 萬美元。這是 Vadim 在 Starter Story 節目上對主持人 Gus 說出的標題級數字,但這一集真正的重點不在產品,而在背後的分銷手法:一套每天約 45 分鐘的例行公事,在 Instagram 上複製已被驗證的爆紅短影音格式,一天發三到六則。標題寫的「每月 1.1 萬美元」說得沒錯,但格局偏窄——整段對話大部分時間都在談成長是怎麼發生的,而不是營收數字本身,而且營收數字是 Vadim 自己說的,錄音時在他的儀錶板上秀了出來。 Vadim 自稱是「v

  38. AI Engineer🎙️ Podcast85

    從零到排行榜:代理評估 — Wolfram Ravenwolf,Weights & Biases

    Wolfram Ravenwolf 是 CoreWeave 與 Weights & Biases 的 AI 推廣者,他主張單一分數的基準測試幾乎沒有參考價值,因為模型效能是一個分佈,而不是一個點;而且只要控制六個可替換的層級,並公開每個數字背後的原始軌跡,任何人都能建立更可信的評測。本集是在 AI Engineer 大會發表的代理評測方法論實作工作坊,重點多半在於如何建構可複現的基準測試,而非某個特定的排行榜結果。標題的「從零到排行榜」說得沒錯,但低估了重點:這 52 分鐘大部分時間都花在那些會默默讓比較失效的設定變數,以及如何閱讀軌跡來解釋出乎意料的分數。 Ravenwolf 的核心主

  39. AI Engineer🎙️ Podcast85

    AI 代理如何洩漏機密(以及如何防堵)——Venice AI

    Venice AI 的開發者關係首席工程師 Joshua Mo 主張,一款 AI 產品是否具備隱私,取決於模型本身的程度,遠不如取決於圍繞模型打造的系統;而且多數代理架構在設計上就會洩漏機密。Mo 以一個自我標榜隱私、不受限制的平臺視角出發,逐一拆解憑證實際上從哪裡外洩:可觀測性(observability)管線預設就會記錄提示與機密;代理執行環境會去取出保險庫憑證,再直接交給推理層;而 MCP 工具拉取則讓 API 金鑰暴露於風險中,只要一次惡意工具呼叫就能被外洩。標題的框架公允但偏窄:本集內容主要是隱私保護模式的架構導覽——雜湊化識別碼、拆分金鑰託管、可撤銷控制程式碼、收斂代理範圍、對抗提示

  40. AI Engineer🎙️ Podcast85

    教代理學會搜尋:專訪 NVIDIA Data Designer 的 Dhruv Nathawani

    這場 55 分鐘工作坊裡最有價值的內容,並不是標題所寫的「教代理搜尋」——那隻佔整場演講的後三分之一。整場大部分時間其實是一套實作教學,講的是 NVIDIA 開源的 Data Designer 框架如何生成合成資料,而搜尋案例研究則是驗證這套方法奏效的成果展示。NVIDIA 研究科學家 Dhruv Nathawani 提出的核心主張是:打造代理能力的難點不在模型,而在資料管線。你要先鎖定一個目標代理行為,把它轉化為資料問題,以真實世界的種子資料為基礎生成多樣化的合成資料,嚴格過濾,最後才進行訓練。他端出的亮眼成果是:靠這套方法,NVIDIA 讓 Nemotron 模型在 BrowseC

    推薦理由:此教學展示如何利用 NVIDIA Data Designer 生成合成資料,提升代理模型訓練效果,對資料管線設計與代理行為最佳化提供可搬移的實作方法。