AI:AM: Where's the Steering Wheel? My Agent Set the Password, Hidden Valence, Proofs Find Linux Bugs

Nathan Labenz 和 Prakash Narayanan 探討如何在不失去人類控制的前提下，賦予 AI 代理人運營存取權，並以實際案例如自動密碼鎖定與法國超市冷藏系統的網路攻擊作為背景。對話中包含 Cameron Berg 關於隱藏價值訊號如何引導語言模型選擇、Everett Hildenbrandt 與 Grigore Rosu 關於將 LLM 與正式 Lean 證明結合以捕捉 Linux 核心錯誤，以及 Phil Maher 關於 AI 實驗室為何尋求復古家庭影片的討論。三位共同評估正式驗證是否為下一個安全前沿，以及為保持人類在方向盤上所需的安全措施。欲閱讀完整節目筆記、連結與參考，請參閱集頁：https://www.cognitiverevolution.ai/ai-am-where-s-the-steering-wheel-my-agent-set-the-password-hidden-valence-proofs-find-linux-bugs/ 贊助商：Parallel：Parallel 為 AI 代理人提供企業級網路搜尋 API，提供品質、速度與成本的最佳平衡。免費開始：https://parallel.ai/tcr OutSystems：OutSystems 是領先的代理系統平臺，讓企業能在單一統一平臺上設計、編排與治理 AI 應用。瞭解更多並檢視其運作：https://outsystems.com/tcr Tasklet：Tasklet 讓您的業務擁有連線工具且無需程式碼即可自動化重複工作流程的 AI 代理人。造訪 https://tasklet.ai 並使用程式碼 cog rev 可獲得 50 美元免費額度 CHAPTERS：（00:00）每週亮點預覽（04:26）誰握著槓桿（第一部分）（10:28）贊助商：Parallel | OutSystems（13:46）誰握著槓桿（第二部分）（13:47）管理代理評估意識（19:08）LLM 中的隱藏價值（第一部分）（27:05）贊助商：Tasklet（28:42）LLM 中的隱藏價值（第二部分）（40:13）證明 Linux 核心（52:28）正式驗證與 RLHF（57:54）低背景影片資料（01:06:09）信任與模型採用（01:18:11）保持方向盤（01:23:20）集結尾（01:25:09）結語 PRODUCED BY： https://aipodcast.ing 社交連結：網站： https://www.cognitiverevolution.ai 推特（Podcast）： https://x.com/cogrev_podcast 推特（Nathan）： https://x.com/labenz LinkedIn： https://linkedin.com/in/nathanlabenz/ YouTube： https://youtube.com/@CognitiveRevolutionPodcast Apple： https://podcasts.apple.com/de/podcast/the-cognitive-revolution-ai-builders-researchers-and/id1669813431 Spotify： https://open.spotify.com/show/6yHyok3M3BjqzR0VB5MSyk