跳到正文

#確定性與非確定性執行

RSS
今日 0 則
10月9日週五
  1. AI Engineer🎙️ Podcast85

    腦力與手腳:如何在正式環境中安全執行 AI 代理——Viren Baraiya

    Viren Baraiya 代表工作流程協作廠商 Orkes 在一場開發者大會上演講,主張業界對 AI 代理(agent)的心智模型對生產環境而言過於狹隘。他說,那個 hello-world 等級的代理——一個 LLM 加上一次工具呼叫、一些記憶、一份計畫——是「一幅非常小、非常窄的影像」。真正的生產環境代理,是按排程運作的背景工作者、監聽日誌與告警的事件驅動監聽器、長時間執行的協調者,以及多代理系統。用他的話來說,真正上線的單位不是代理,而是載具(harness):一個長時間執行、具永續性、大致上確定性的應用程式,負責控制代理的執行,而這正好對應到多數工程團隊早已熟悉的那層「微服務