Haystack 讓 AI 助理更容易找到筆記庫裡的資料
AI 助理找筆記時,常會重讀相同內容、在檔案間來回搜尋,還多花不少 token。作者做了 Haystack,讓 AI 助理用語意搜尋和關鍵字搜尋查詢 Markdown 筆記,再用 llama.cpp 排序結果;整套流程可在本機執行,使用一個 35 MB 的模型,每次查詢約 10 ms。找錯資料後,使用者的修正會留下來當成測試,之後每次檢查都會重跑,避免同一個問題悄悄再次出錯。作者也用另一份語料測試,搜尋結果仍符合測試集中的答案。
AI 助理找筆記時,常會重讀相同內容、在檔案間來回搜尋,還多花不少 token。作者做了 Haystack,讓 AI 助理用語意搜尋和關鍵字搜尋查詢 Markdown 筆記,再用 llama.cpp 排序結果;整套流程可在本機執行,使用一個 35 MB 的模型,每次查詢約 10 ms。找錯資料後,使用者的修正會留下來當成測試,之後每次檢查都會重跑,避免同一個問題悄悄再次出錯。作者也用另一份語料測試,搜尋結果仍符合測試集中的答案。
一個人讓同一個 AI 助理構思、寫程式又檢查成果,可能會漏掉自己犯的錯。ZEUS LAB 分享一套分工方式:不同角色分別負責企劃、規劃、執行和盲目檢查,由人決定繼續、停止或修改;另外用程式在提交和發布前檢查外洩資訊、沒有根據的數字和失效連結。作者測試的外洩檢查擋下 32 個刻意植入的樣本,對 17 個相似但乾淨的樣本沒有誤報;這不是對真實資料夾的偵測率。文中也提醒,檢查只能找出規則涵蓋的問題,不能取代人的判斷。
很多人以為 AI 只會幫忙自動做事,但藝術家也能拿它來創作。Modal 和 Gray Area 合辦「Scaling Intelligence」展覽,展出 11 件用 AI 和雲端運算打造的新作品。像有件作品讓 AI 一直搜尋一座根本不存在的北極島,還有一隻機械手臂會向路過的人比倒讚。這些作品把 AI 變成新的創作工具,也讓人想想:當 AI 開始唱歌、記住人們說過的話,甚至替人做有意義的事,我們和它的關係會變成什麼樣子?
AI 助理需要讀取網頁、執行 JavaScript 並和頁面互動,但完整瀏覽器會佔用 CPU 和記憶體。Cloudflare 現在開放 Kitesurf 的原始碼;這款瀏覽器架在 Cloudflare Workers 上,能解析 HTML、處理 CSS、執行 JavaScript,不需要瀏覽器容器。Cloudflare 表示,目標是讓它更輕巧,並能透過 Cloudflare 的全球 Workers 網路按需求擴充。
旅遊 eSIM 商家的結帳流程是為人設計的,AI 助理需要能直接詢價和下單的介面。eSIM Operator Kit 新增試用模式,只要電腦裝有 git 和 Docker,執行一行指令就能在本機啟動商店和賣家節點;示範目錄提供日本等地的虛構方案,能檢視報價與測試回應,但不會真的收款或賣出 eSIM。作者在 Apple M4 上冷啟動花了 32 秒,並用檢查工具確認節點回覆格式等專案。這讓商家不必先申請供應商帳號或租用伺服器,就能先看看 AI 助理會如何詢價。
寫程式時,不是每件事都需要很會深度推理的模型,有時候更需要快速處理日常工作。Google 推出 Gemini 4 家族的新成員 Gemini 4 Hydrogen,主打寫程式、除錯和處理多步驟的 AI 助理工作,也能讀文字、圖片、音訊和影片,輸入與輸出的內容合計最多可達 1 million tokens。它和專注複雜推理的 Gemini 4 Carbon 分工,讓開發者能依工作挑選模型。
使用語音 AI 平臺的產品,換供應商時可能留得住通話紀錄,卻帶不走完整的 AI 助理設定。VoiceDash 作者檢查自己的資料庫和同步程式後發現,Retell 和 Vapi 的通話文字會整理成相同格式,但錄音仍放在供應商那裡,部分結束原因也沒有統一;工具設定更完全沒存在 VoiceDash。另一個問題是,發布設定時即使供應商回報錯誤,系統仍會顯示成功。作者建議儲存工具設定、檢查發布結果,並讓 Vapi 的通話也能產生摘要。
企業想把 AI 助理放進自家雲端或資料中心,處理內部程式和系統時,常會在資料控制與服務管理之間取捨。Anthropic 現在讓客戶自行部署 Claude Managed Agents 的伺服器和執行工具的沙盒,憑證與工作紀錄也能留在自家環境;這項服務目前是私人測試版。不過,授權規定 Anthropic 若書面通知安全、資安或濫用風險,客戶須在 8 小時內停用相關功能或回復舊版本,並在 1 個工作天內安裝指定安全更新。客戶也不能阻擋軟體傳送使用訊號,而且只能透過這項服務使用 Claude 模型。
團隊想用 AI 做廣告,常會遇到品牌風格不一致、工具彼此不相通,或是工具太難用的問題。ElevenCreative 推出 Forward Deployed Creatives,由創意製作人和策略人員先了解品牌與團隊的工作方式,再一起建立廣告工作流程、製作素材並訓練團隊;也可以直接接下需求,完成廣告讓團隊審核。像是要把廣告改成不同市場適用的版本,受過訓練的語言工作者和音訊專業人員會檢查文字與聲音。品牌可以依需求選擇自己製作、和團隊一起建立流程,或交由這些創意人員從策略做到完成廣告。
AI 助理看起來答得不錯,不代表它能穩定完成真實工作,也不一定有遵守重要限制。Anthropic 提出九個步驟,建議團隊先收集真實任務,再從人工測試開始,把成功條件寫清楚,並準備能代表日常工作的測試題。團隊還要檢查 AI 助理的操作紀錄,瞭解它怎麼使用工具,並留意測試題是否已經太容易、無法看出表現差異。評估可以結合自動測試、上線後的使用監測和人工檢查,之後也要隨著產品與工作內容更新測試。這能幫助團隊判斷 AI 助理是否適合某項工作,以及哪些情況需要人工處理。
把 Next.js 裡替 AI 助理設下的安全規則搬到 Python 時,工具輸入格式如果靠手動撰寫,容易出錯。這篇教學改用 Pydantic v2 定義格式,再自動產生模型需要的資料;模型送來工具引數後,也會先檢查內容,有錯就整理成回覆,讓模型下一輪修正。文章還示範用官方 SDK 寫一個最多執行 5 步的迴圈,清楚掌握模型何時要呼叫工具、每次呼叫如何對應,以及 token 使用情況。
研究和工程工作常要查大量資料、測試不同做法,還得確認每一步都正確。Google 開放 Antigravity 的 /teamwork,讓多個 AI 助理分工處理長時間任務,再用 Lean 4、測試套件或硬體計時等方式檢查結果。Google 展示了它在數學證明、分子結構推斷和程式最佳化上的成果,例如一項分子結構基準測試達到 95% 的 top-1 精確匹配。研究者和開發者可透過 Antigravity 使用這些工具;Google 也開放申請,讓 10,000 名學術研究者免費使用最高用量級距六個月。
推薦理由:Google 展示 /teamwork 在數學證明、分子結構推斷與程式最佳化的實例,並說明如何用獨立檢查流程驗證成果。
AI 助理評測分數看起來很清楚,但測試工具出錯時,也可能被誤算成助理表現差。Alibi 作者發現,第一次測試中,一個助理每次都在開始工作前因錯誤退出;另一個有三次失敗,其實是測試工具的資源限制先停掉了程式。20 分鐘後重跑,兩者都是 9 分滿分 10 分。作者也提醒,兩者都沒能在「整理這個專案」時先問清楚要整理什麼;但這是在關閉人工核准的條件下測得,不能代表有人在旁時的產品表現。判讀評測時,可以先看執行時間、失敗原因和人工核准設定。
瀏覽器任務常會留下大量截圖;每次新增截圖都整理舊資料,可能讓模型無法重用先前處理過的內容,增加輸入費用。Browser Use 1.0.4 改為累積到 20 個帶有截圖的工具結果後,再一次清除舊截圖。BU Bench v2.1 測試 200 項任務,分數與 1.0.3 接近,平均每項任務的模型費用從 $0.434 降至 $0.208。這版也讓 BU_NAME 呼叫者在無法使用 Chrome 時改用各自的 Chromium,並在某些瀏覽器設定錯誤可能透過新版修正時,提示升級。
研究和工程工作常要處理大量資料、反覆試錯,還得確認每一步都正確。Google 在 Antigravity 開放 /teamwork 和 /boost,讓多個 AI 助理分工探索,再用 Lean 4、軟體測試或硬體量測檢查結果。Google 分享的案例包括協助研究者完成數學證明、找出分子結構,以及改寫系統程式;研究者仍負責提出問題和確認成果。學術研究者也可申請六個月免費使用最高用量方案。
推薦理由:Google展示 /teamwork 如何把長時間研究拆成多個可檢查的步驟,並用形式驗證、測試與硬體量測篩選結果,呈現多 AI 助理協作的實際做法。
讓 AI 助理幫忙買東西時,怎麼確認每筆訂單,也避免信用卡資料外流?OpenAI 推出 ChatGPT Wallet,讓 Dots AI 助理依照提示購物,但每次結帳前都會先請使用者確認,並要求用 Face ID 或指紋等方式驗證。使用者同意後,付款時會以付款程式碼取代信用卡資料,商家和 AI 助理都看不到實際卡號。目前這項功能正提供給符合條件的美國 ChatGPT Pro 訂閱者;OpenAI 也提到,部分購物網站可能會限制或封鎖 AI 助理。
AI 助理會觀察周遭情況,再自己決定接下來怎麼做。像一個人去麵包店買早餐,卻發現麵包賣完了,就得改去別家店,或到超市買別的東西。好的 AI 助理既要能留意變化、適時改變做法,也要記得原本的目標;如果只顧著照計畫走,就會一直等在空麵包店,只顧著回應周遭事物,又可能聊起天、跑去喝咖啡,忘了吃早餐。它也能透過收到的資訊和訊息瞭解環境,並用行動或交談影響其他 AI 助理。即使最後沒買到麵包,只要當時的決定符合它已知的情況,也可能是合理的。
公司常會替員工帳號設定許可權、雙重驗證和監控,卻容易漏掉程式、API、雲端服務、物聯網裝置和 AI 助理使用的帳號。這些帳號有時用著很久不換的密碼或金鑰、拿到不需要的許可權,也可能因為監控只熟悉人的使用方式而不易被發現。先列出所有這類帳號並指定負責人,再縮短憑證有效時間、定期檢查許可權,並記錄它們連到哪裡、何時呼叫服務,能幫助公司及早看出異常。
AI 助理能快速做出可用的應用程式,但分享設定不清楚時,個人或公司資料可能被陌生人看到。Claroc 測試 43,551 個 Grok 應用程式網址,稱其中 35,578 個不用登入就能開啟,並通報 24 個 SpaceXSI 員工應用程式曝光;SpaceXSI 表示已移除這些應用程式,且 Grok 應用程式預設為私人。Optimus Labs 則認為,部分分享流程預設公開,網址也可能被找到或猜中。這場爭議提醒開發者與平臺業者,除了提醒使用者,也要讓分享、登入和連結保護更清楚安全。
在沒有圖形介面的沙盒裡,AI 助理很難使用你已登入的瀏覽器,又不能直接接觸你的登入資料。作者做了 agent-bridge,讓 Chrome 擴充功能透過 GitHub 專案收取指令,再把結果寫回去;GitHub 權杖留在瀏覽器裡,沙盒不會取得它。AI 助理能確認瀏覽器是否線上、讀取分頁文字、列出分頁和關閉分頁。作者用這套橋接工具處理求職申請,讀取送出後的頁面來確認狀態。這個做法把登入中的瀏覽器留在人手控制的一端,也讓指令和回覆留下提交紀錄。
Claude Duet 研究預覽的候補名單使用者,可能不確定自己何時能收到邀請,以及能使用多少額度。Anthropic 表示,截至昨日已邀請所有列在候補名單上的美國 Pro、Max 和 Ultra 訂閱者;研究預覽的額度重置次數為 Pro 3 次、Max 和 Ultra 各 1 次。還沒加入候補名單的人可到 claude.com/product/claude-duet 登記。Anthropic 也計畫很快向美國以外更多國家開放,並邀請使用者提供意見。
AI 助理需要瀏覽網頁時,完整瀏覽器會使用較多 CPU 和記憶體。Cloudflare 現在把 Kitesurf 的程式碼放上 GitHub,開發者可以在自己的電腦執行、修改,再部署到自己的 Cloudflare 帳戶。Kitesurf 能載入網頁、執行 JavaScript,並支援 Chrome DevTools Protocol,因此可連線 Puppeteer 等工具。自架部署需要 Workers Paid 方案,因為它會為網頁建立隔離的 Workers。
推薦理由:Kitesurf 開源後,開發者能自行閱讀、修改並部署瀏覽器引擎;文章也說明瞭本機試用方式與自架時的方案要求。
企業想管理 AI 助理時,常得考慮是否會被綁在特定模型或雲端服務上。LangChain 宣佈完成 3 億美元的 C 輪募資,估值達 30 億美元;公司從開源專案起步,現在把重心放在管理 AI 助理,並表示旗下軟體 LangSmith 不會繫結特定模型、雲端或生態系。LangChain 表示,LangSmith 已有 7,000 家客戶,從新創公司到大型企業都有。
推薦理由:LangChain 的新一輪募資讓企業管理 AI 助理的競爭受到關注,其軟體強調不繫結特定模型、雲端或生態系。
AI 能快速產出程式碼、檔案和訊息,但內容太多時,人可能來不及檢查,錯誤也可能被其他 AI 助理照著學。「AI 垃圾」不是指所有 AI 寫的內容,而是把沒好好檢查的結果直接交給別人,讓讀者花更多力氣理解。這份宣言呼籲大家先弄懂問題、為交出去的成果負責,並依照事情的重要程度檢查 AI 產出的內容。若同樣的錯誤一再出現,就該改善工具和檢查方式;衡量成果也要看產品是否真的有用,而不是隻看寫了多少程式碼或用了多少 AI。
AI 助理若用人類帳號辦事,系統可能分不清是本人還是自動程式,也難追查出錯時該由誰負責。作者整理航空公司限制第三方 AI 助理、企業採取不同做法,以及已修補漏洞仍可能留下遭接管工作階段等例子,指出身分、許可權和追蹤紀錄都得管好。他建議只給 AI 助理完成任務所需的許可權,設定失效時間,並記錄每次操作;也可用唯讀資料夾測試它是否能越權寫入。
AI 助理接連處理同一個程式專案時,記太多資料會佔空間、拖慢查詢,記太少又可能漏掉有用線索。CoReMem 會比較下一個任務在有沒有某段記憶時的表現,依解題結果和步數判斷它值不值得保留,再把有用線索連到程式位置或測試指令等錨點。文中提到,在 ChainSWE 測試中,27B actor 的解題率從 21.0% 提升到 25.7%,步數少了 17%,總 cache-aware tokens 少了 11%。這套方法需要離線重跑任務來估算記憶價值,任務彼此獨立時效益有限。
把購物交給 AI 助理,付錢安全不代表它知道你真正要買多少。OpenAI 推出 ChatGPT Wallet,讓 dots 替使用者找商品並付款;目前只開放給美國年滿 18 歲、使用 ChatGPT Pro 且持有美國發卡與帳單地址的使用者。付款前要用 Face ID 或指紋核准,商家看到的是程式碼化後的卡片資訊;核准也不代表訂單已成立,還要檢視商家的確認訊息。作者提到,有人的購物 AI 曾只買一顆馬鈴薯,也指出不少商店會擋下 AI 助理購物。這項服務能否派上用場,還得看 AI 助理能不能選對商品,以及商店是否讓它完成結帳。
瀏覽器操作留下太多截圖時,逐張清除會改動先前的訊息,讓提示詞快取失效,增加輸入成本。Browser Use 1.0.4rc1 改成累積到 20 個工具結果帶有截圖後,再一次清除舊截圖。原文舉例,BU Bench 1.0.3 有一項 705 步的任務讀取了 27.8M 個輸入 token,其中 1.6M 個來自快取;這次調整是為了減少清除截圖對快取的影響。更新也讓 BU_NAME 呼叫者在無法使用 Chrome 時各自取得 Chromium,並在瀏覽器設定錯誤可能由新版修正時,由 CLI 和 MCP 提醒 AI 助理升級。
讓 AI 助理幫忙購物時,付款安全和網站是否接受機器人都是難題。OpenAI 推出 ChatGPT Wallet,讓 ChatGPT 搜尋商品、比較選項並完成結帳;每次付款前,使用者都會看到商品、總額和付款卡,再用 Face ID 或指紋確認。商店和 AI 助理拿不到真實卡號,付款合作夥伴會改用另一組付款程式碼。這項功能目前只在美國透過 Dots 提供,使用者須年滿成人、訂閱 ChatGPT Pro,並持有符合資格的美國銀行卡。OpenAI 也發布商家指南,說明如何調整網站設定,讓 AI 助理的購物流程能順利完成。
讓 AI 助理替工作流程付錢,可能省下管理 API 金鑰的麻煩,也會帶來支出失控的風險。文章整理兩種做法:x402 按次付款,AI 助理用 USDC 支付每次搜尋費用;ChatGPT Wallet 則要求使用者用 Face ID 或指紋核准每筆購買,AI 助理拿到的是付款權杖,不會看到信用卡號。文章建議小型團隊使用獨立錢包或卡片、在程式裡設定每次和每日支出上限,並為較大或陌生的付款加上人工核准,也要記錄每筆交易。
多 AI 助理系統明明有好幾個工作角色,AWS X-Ray 的服務地圖卻可能只畫出負責分派工作的助理和 Bedrock。作者分享自己的排查經驗:替每個工作助理和知識庫搜尋加上清楚名稱,讓它們在追蹤紀錄中分開顯示;平行搜尋時,還要把追蹤資訊帶進每個執行緒,跨不同執行環境呼叫時也要把追蹤資訊放進要求標頭。這些設定能讓地圖更接近實際呼叫路徑,也能用來檢查工作有沒有被分派到正確位置。
推薦理由:作者以親自建置的多 AI 助理系統說明 X-Ray 地圖為何會漏掉工作節點,並整理追蹤平行呼叫與跨執行環境的方法。
常駐 AI 助理看起來一直線上,其實多半在休息,等事件到來才開始工作。Anthropic 把背後的設計整理成五個部分:收件箱接住使用者訊息或其他事件,定時器安排稍後或定期工作,記憶儲存跨次工作需要的資訊,許可權管好無人看守時能做什麼,發件箱則負責把結果送給使用者。文章也說明,助理每次工作結束後會儲存進度並回到休息狀態;使用者回覆或定時器到期時,再由新事件喚醒它。這套架構讓工作能接續進行,也提醒設計者要控制許可權和訊息頻率。
推薦理由:文章把常駐 AI 助理拆成收件箱、定時器、記憶、許可權與發件箱,說明事件如何喚醒工作並把結果送回使用者,提供可套用的架構脈絡。
AI 滲透測試工具能自動串連多個攻擊步驟,讓防守方更難及時跟上。Cloudflare 表示,團隊在事件調查中看到攻擊者利用遭竊的長期有效 API 權杖,從 CI/CD 環境橫向進入其他雲端環境;其中一個案例出現大量 Worker 指令碼和資料庫匯出請求。Cloudflare 建議用六個環節加強防禦,包括限制流量、偵測異常行為、辨認自動化機器人、限制高風險服務的存取、檢查 API 請求格式,以及利用威脅情報掌握攻擊。也建議把系統分割槽,減少遭入侵的帳號能移動到其他環境。
推薦理由:Cloudflare 分享觀察到的攻擊案例,並把防禦建議整理成六個環節,從流量控管、身分驗證到網路分割槽,呈現如何降低帳號遭入侵後的擴散風險。
帶你的 AI 助理一起參加會議! 這是讓它自行蒐集上下文、變得更聰明的好方法。如果你正要登機,而且沒有 Starlink,AI 助理還是能代你參加會議並做筆記。 只要請你的 AI 助理開始就行!
醫療資料遷移不能只求快,轉換後的資料還得完整、正確,並能說明為什麼這樣修改。作者分享一套做法:能用一般程式明確檢查的專案,就先交給程式處理;只有遇到需要參考不同資料、判斷情境的模糊問題,才請 AI 助理協助。系統會檢查 AI 助理的輸出格式,也會把信心不足或檢查沒通過的結果交給人工審核。審核者還能檢視採用的規則和資料證據,讓自動處理更有依據,也保留專業人員的最終決定權。
AI 助理每次工作都把大量舊對話、檔案和工具說明重新讀一遍,容易浪費額度,也可能被過時或錯誤的資料帶偏。作者打造七層外部記憶系統:先檢查輸入,再用搜尋找出少量相關內容,讓 AI 助理只讀指定的檔案位置;程式碼也會整理成結構摘要,避免整份塞進對話。一次測試中,系統讀了 2,141 萬個 token,才寫出約 11 萬個 token,讀寫量相差 195 倍。作者也用簡短文字交接工作,並在切換模型時清掉舊的快取,讓新模型接手時比較不會帶著不相容的舊對話。