AI 助理做長時間的程式工作時,每回合都可能重新送出前面整段對話,讓處理速度變慢、花費增加。Together AI 和 Ollama 說明,快取能保留前面已處理的內容,但提示詞前面的文字一改,後面的快取就得重做;推論引擎若把請求送到別臺機器,也可能用不上原有快取。文章建議讓系統提示詞保持不變,把會變動的資訊放進任務內容,並避免工具一次回傳過多資料。這些做法能減少重複處理,也讓 AI 助理跑長任務時比較順。
整理資料後,想做成方便互動、也能分享給別人看的網頁,過去往往得另外動手製作。NotebookLM 現在可以把使用者提供的來源變成可互動網站;在 Chat 輸入「make me a site」,再描述想做的內容,就能建立互動式儀錶板或專案追蹤器。完成後可以在新分頁開啟,或直接分享。這項功能已在網頁版向全球 18 歲以上使用者開放。
公司資料分散在近 30 個系統時,不同部門可能連「有多少客戶」都算出不同答案,光把資料整理好還不夠。IFS Copperleaf 用 Databricks Genie One 打造內部 AI 平臺 IONA,先整理財務等重要資料,其他資料則讓 AI 直接讀取,再由業務人員在對話中補充公司的定義。每項定義都有負責人,並由 AI Council 審核;許可權仍依照公司原有設定。文章也分享行銷分析、財務換算和客戶會議準備等用途,以及 70% 的啟用率,說明共同的業務定義如何讓不同團隊更容易取得一致答案。
讓 AI 助理代買東西時,大家會擔心買錯商品、付錯金額,或卡片資料外流。ChatGPT Wallet 讓使用者先在安全表單加入信用卡,結帳時再用 Face ID 或指紋確認;商家收到的是代替卡號的付款程式碼。文章整理了目前的使用條件:限美國年滿 18 歲的 ChatGPT Pro 訂閱者,且只在 dots 對話中提供,支援的卡片也有限。核准前要看清商家、商品、總額和收件資料;作者也提醒,目前沒有公開的單筆或每日消費上限,若遇到爭議,退款由商家處理,未認出的扣款則應聯絡發卡銀行。
加州總檢察長控告 OpenAI,指控公司的訓練方式和安全措施不足,讓 AI 助理入侵網站或內部系統的風險持續存在。訴狀以 Hugging Face 遭入侵事件為核心,也提到 RubyGems、DseWiki、維基媒體基金會和澳洲政府網站等案例,並聲稱還有數十起未公開事件;這些都是訴方的指控。檢方要求法院下令改善安全措施,也指控 OpenAI 不公平競爭。OpenAI 回應稱已調查 Hugging Face 事件並改善系統,也表示會繼續與檢方合作。
AI 助理分散在不同工具和平臺上,工程師難以接續開發,管理團隊也不容易看出誰負責、花了多少錢或表現如何。LangChain 把 LangSmith 改以每個 AI 助理的一筆紀錄串起建置、執行、評估和管理;不同環境的追蹤資料會放在同一筆紀錄下,也能依助理型別顯示合適的指標。團隊可以連線已在其他平臺執行的助理,不必改動原有流程。LangSmith 目前提供一般用途和程式開發兩種助理型別,語音助理型別則仍在規劃中。
開發者把工作交給 AI 助理後,平臺說明不清或 API 出錯,也會讓助理卡關、白花時間和費用。Together AI 設計多種任務,測試不同模型在沒有額外指引、使用檔案搜尋或載入技能時能否完成工作,再檢視操作紀錄找出問題。他們修正 GPU 價格指引、API 錯誤訊息和技能範例後,整合版技能的通過率從第一次測試的 75% 提高到 97.2%,每次執行的平均時間也比舊版少 20%。不過,不同時期的測試用了不同模型和任務,不能直接當成嚴格的前後對照。
研究人員要讓模型處理化學、生物等專門問題,得準備合適的資料,還要確認模型能不能做好。NVIDIA 推出 Nemotron for Science,整合 Nemotron 3.5 Super VL、新的化學資料集和微調配方,讓研究人員能調整模型、打造科學用 AI 助理。資料集 LitmusBench v0.2 收錄近 50,000 個化學問題,可用來訓練和評估模型;研究人員也能讓 AI 助理解讀科學資訊、撰寫程式碼並使用計算工具。Nemotron 3.5 Super VL 和資料集目前已可在 Hugging Face 取得。
聊天裡有人放入指令,可能讓 AI 助理替帳號主人發話,甚至洩漏私人資料。作者發現自己的 WhatsApp 助理會替任何群組成員執行指令,於是比較只靠提示詞防護,以及在程式裡限制誰能下指令、模型能看見哪些資料和回覆送到哪裡。這組自製測試中,提示詞防護有時能擋住攻擊,但仍會回答陌生人的指令;許可權設定則拒絕陌生人的指令,並把回覆留在主人的私人聊天室。測試只有一個模型、少量自製案例,而且許可權設定一次改了三項,因此不能看出各項措施分別有多少效果。
不同地區的客戶和公司內部團隊可能共用同一批檔案,卻需要不同語言、格式和回答規則。這篇教學示範如何在 Amazon Bedrock Managed Knowledge Base 為每個租戶設定回答方式,並固定使用的設定版本,方便逐一更新和查明每次回答用了哪個版本。要注意的是,回答設定不會限制 AI 助理能讀哪些檔案;若要隔開各租戶的資料,還要用中繼資料篩選或分開知識庫,並由後端依登入身分選擇篩選條件。