研究人員要做科學實驗,得安排模擬、執行程式,再確認結果,過程常需要反覆操作。NVIDIA 推出 Nemotron for Science,結合 Nemotron 3.5 Super VL、化學資料集和生命科學與化學的訓練方法,研究人員可在自己的 DGX Spark、工作站或超級電腦上執行。在 Argonne National Laboratory,一個用這套工具打造的 AI 助理從一句提示詞開始,規劃並測試假設、挑選模擬,找出兩個新的結合位點。這讓研究人員能在自己的系統上使用模型與資料來協助研究。
AI 助理準備好會改動系統的指令後,常得等人在終端機前按下核准,工作也跟著停住。Vitaliy Dmitriev 用一段 Bash 程式把核准流程移到 Slack 私訊:程式會送出完整指令,作者在訊息串回覆指定文字後,程式才把先前儲存的指令交回 AI 助理執行;若要修改指令,就得重新提出核准。這套做法目前只用於作者自行啟動的非正式環境工作,正式環境仍須在工作階段中核準。作者也提醒,指令雜湊無法固定執行時的環境,Slack 帳號與 AI 助理本身的許可權仍是安全關鍵。
GitHub 週榜顯示,Google、NVIDIA、阿里巴巴、騰訊四家公司在同一週釋出針對 AI 代理的基礎設施程式碼,分別負責知識、評估、審查與治理層。這些開源工具讓代理能自動檢查安全、評估技能效益、使用決策規則,並在團隊環境中加入審核流程,降低模型本身的限制,對想打造可控且可擴充套件 AI 代理的開發者提供了可直接套用的參考。
很多人在測試時只能看到一行警示,卻沒法證明真的能取得別人的資料。作者介紹了 AI 輔助找出潛在漏洞的流程,並提出三道驗證關卡:先確認攻擊路徑可達,接著取得他人資料作為證據,最後讓第三方重現。文中還提供一個簡短的 Bash 指令碼,只要兩個租戶的 token 就能快速測試跨租戶匯出是否真的漏資訊,讓團隊在最小成本下驗證 AI 提出的假說。
把監控交給 LLM 判斷,可能每次得到不同結果,也可能漏掉問題而不出聲。作者回頭檢查自家監控時,發現網站頁面曾有五個月沒出現在 Google 搜尋結果中,監控卻沒有抓到。後來他重做三種監控,讓程式依固定規則判斷問題、記錄狀態並發出緊急通知,再由模型整理結果和說明原因。價格檢查會等商品資料更新後再確認,避免短暫差異造成誤報;營運監控則先用舊資料重播測試,並在正式通知人之前以影子模式觀察。作者也提醒,監控本身停擺時應能發出警報,確保有人接手處理。
AI 助理接上工具後,可能一直重複查資料,也可能聽從藏在客戶備註裡的惡意指令。這篇教學用 Python 從頭做出一個客服範例,示範如何限制呼叫次數、檢查工具和引數,並在退款等重要動作前交由人確認。它也說明怎麼儲存會話記錄與長期備忘、留下執行紀錄,再用固定情境檢查退款帳本等實際結果。範例使用不需 API 金鑰的假模型,方便重複測試;作者提醒,這些測試能檢查程式規則,無法回答真實模型多常犯錯。
使用 AI 助理處理多步驟工作時,工具呼叫、重試和子任務若處理不一致,可能讓流程中斷或結果出錯。Pydantic AI 的 v2.69.0 加入 Gemini 4 Hydrogen 支援,也更新工具呼叫、沙箱工作區和子任務的處理方式,並修正多種模型連線、錯誤回報與重試問題。例如,串流內容若卡在反覆迴圈,現在可以偵測出來;部分子任務紀錄也會留在各自的檔案中。這次更新主要讓開發者更容易建立和維護能處理多步驟工作的 AI 助理。
多個 AI 助理一起工作,步驟變多後,出錯和花費也可能跟著增加。AWS 把分工方式分成兩大類:一類是先排好固定流程,另一類是讓模型在工作中決定下一步;文章建議先用固定流程,只有工作步驟無法事先確定時,再考慮讓模型自行安排。文章也提醒,重試要設上限、不同助理交接時要用清楚的資料格式,會影響裝置或客戶的動作則應經過檢查與人工核准。在製造現場,還要把延遲、安全和裝置端資料納入設計。
企業 AI 助理要回答員工問題,常得記住先前對話,又要確保每個人只看到有權閱讀的檔案。AWS 示範用 Amazon Bedrock Managed Knowledge Base 搭配 AgentCore memory,讓服務儲存對話、整理使用者提過的資料,並在回答時找出相關記憶與檔案。範例用 Cognito ID token 確認使用者身分,再用檔案存取清單和 IAM 條件限制資料範圍;例如員工先前提過辦公地點,之後詢問休假規定時,助理便能依這項記憶回答。記憶整理可能要等一段時間,若記憶讀取失敗,服務仍會根據可讀取的檔案回答。