為什麼更大的上下文視窗救不了你的代理——AWS 的 Elizabeth Fuentes Leone
「更大的上下文視窗能解決代理可靠性問題」這個說法是錯的,而且失效模式可以量測:當上下文視窗逐漸填滿,模型只會關注輸入的開頭與結尾,中間的內容則被忽略。這正是 AWS 開發者倡導者 Elizabeth Fuentes Leone 在一場 15 分鐘演講中提出的核心論點。本集標題把「無限上下文視窗」定調為迷思,這個定調是準確的——但整場演講主要是一份代理式應用(agentic application)的上下文工程技巧實務清單,而非關於模型能力的辯論。迷思在前兩分鐘就被打發掉,剩下的十三分鐘全是實作指引。 Fuentes Leone 貫穿全場的範例,是一個透過檢索日誌來監督應用程式的代理。每一次檢
推薦理由:揭示大型上下文視窗無法解決代理可靠性,提供實用上下文工程技巧,幫助開發者提升代理效能,並指導如何避免中間內容被忽略。