跳到正文

#Agent

RSS
今日 39 則
11月17日週二
  1. Dev.to Top Tech46

    用測試工具檢查 AI 助理:clamp 函式的邊界有沒有測到?

    只看 AI 助理的答案「好像對」,很容易漏掉小錯誤。作者做了一個免費小工具,用 20 個任務檢查 AI 助理的回答,並從做完了、答對了、有沒有亂編、做錯事這 4 個方向評分。像測試 clamp 函式時,答案應涵蓋範圍內、範圍外,以及剛好等於上下界的 5 種情況;但有個只測了 3 種情況的答案,也因為自動檢查只找「clamp」這個字而拿到 4/4。這提醒我們,自動評分可以先幫忙找問題,最後仍要有人確認答案。工具適合快速初步檢查,不能取代 CI 或正式環境的測試。

  2. Dev.to Top Tech62

    Google 揭露 AI 自動找漏洞並發動攻擊,Windows 也會記錄使用哪些程式開發 AI 助理

    AI 工具能自己找漏洞、執行攻擊,也可能留下使用者的工具清單,帶來新的安全與隱私問題。Google 的威脅情報團隊記錄到一套系統會比對修補前後的程式碼、找出可能的漏洞、撰寫攻擊程式並執行,全程不需人確認;Google 沒有指出攻擊者屬於哪個國家或組織。另一篇逆向分析發現,Windows 11 會把部分程式開發 AI 助理和工具的使用情形整理成位元資料,列入選擇性診斷資料上傳;研究者測試的電腦預設已開啟這項設定。報導也整理了惡意程式透過第三方網站工具散播,以及 AI 模型對自己答案的信心可能不可靠等事件與研究。

  3. Dev.to Top Tech76

    Vitaliy Dmitriev 示範如何在 Slack 核准 AI 助理指令,不必守在終端機前

    AI 助理準備好會改動系統的指令後,常得等人在終端機前按下核准,工作也跟著停住。Vitaliy Dmitriev 用一段 Bash 程式把核准流程移到 Slack 私訊:程式會送出完整指令,作者在訊息串回覆指定文字後,程式才把先前儲存的指令交回 AI 助理執行;若要修改指令,就得重新提出核准。這套做法目前只用於作者自行啟動的非正式環境工作,正式環境仍須在工作階段中核準。作者也提醒,指令雜湊無法固定執行時的環境,Slack 帳號與 AI 助理本身的許可權仍是安全關鍵。

    推薦理由:作者分享將指令核准移到 Slack 私訊的做法,也說明命令雜湊、時限與許可權邊界如何影響這套流程的安全性。

  4. Dev.to Top Tech70

    作者分享檢查 AI 助理沙箱是否真的隔離的方法

    容器看起來有隔離,不代表 AI 助理真的碰不到主機上的檔案、憑證或網路。作者分享自己檢查沙箱的方法:先確認 Docker socket、家目錄、掛載資料夾和雲端中繼資料是否能被讀取或連線,再實際測試能不能寫出工作區、讀取主機檔案,並觀察長時間執行的程式會不會影響主機。他也建議把檢查寫成指令碼,在每次更新容器映像檔時執行。作者尚未親自測試 Docker 推出的沙箱,因此這篇提供的是可套用的檢查方式,不是對該沙箱的評測。

  5. Dev.to Top Tech73

    如何避免 AI 助理長期持有 S3 金鑰

    把長期有效的 S3 金鑰放在 AI 助理手上,一旦金鑰外洩,別人可能持續使用它,直到有人發現並撤銷。文章整理了幾種降低風險的方法:透過 AWS STS 發出會自動失效的短效憑證,或讓 ECS、EKS 等執行平臺提供角色憑證;再把許可權限制在助理真正需要的資料夾和操作。只要讀取或寫入單一檔案時,也可以改用有期限的預簽名網址。若助理會自行啟動,則可由憑證中介服務驗證身分,再發出限時、限權的憑證。文中也提醒,RustFS 沒有內建 STS 式的短效憑證服務,需要自行處理發放。

  6. Dev.to Top Tech66

    兩份資安報告揭露 AI 助理遭濫用,並教你檢查自家設定

    AI 助理如果能呼叫太多工具、讀取憑證,又不必經人確認就能執行指令,出錯或遭人操控時可能造成更大影響。作者整理 CloudSEK 和 NorForge 的兩份報告:一份描述攻擊者用 Hermes AI 助理調查並蒐集塔吉克政府檔案,另一份發現 Cairn 平臺有 20 多個控制面板暴露在網路上。接著文章提供檢查自家 AI 助理的方法,包括只開必要許可權、使用短期且限縮範圍的憑證、記錄工具呼叫、替刪除或寄信等動作加上人工確認,並限制執行次數與費用。文末也附上用假資料進行的 30 分鐘測試。

  7. 雷科技60

    雷科技實測 LightVela:能建立個人 AI 助理,雲端操作和網站發布仍會卡關

    想讓 AI 助理自己查資料、操作電腦並交出成果,實際使用時卻可能遇到來源不合、操作失敗等問題。雷科技實測 LightVela,發現它能建立有不同人設、長期記憶和技能的 AI 助理,也能在雲端環境執行任務;但研究結果引用了不適用於國內站的檔案,要求瀏覽器截圖也沒有成功。製作個人展示網站時,頁面雖顯示已上線,實際開啟卻找不到。這些例子提醒使用者,雲端代管省下了自行部署的工夫,交付內容仍要檢查,遇到環境問題也可能得自己接手。

  8. Dev.to Top Tech44

    做 AI 助理該找接案工程師、工作室,還是自己聘人?一篇指南教你怎麼選

    做 AI 助理前,先想清楚工作是不是非得客製打造:如果只是回答常見問題或預約,現成工具可能更快也更省錢。若工作單純、只接一兩套系統,而且有人能檢查成果,找接案工程師通常就夠了;如果 AI 助理會碰到客戶資料、連線多套系統,或需要全天運作,找能持續維護的工作室會比較安心。若 AI 本身就是你賣的產品,長期累積的經驗最好留在公司裡,適合自己聘工程師,也可以先請工作室做出第一版再交接。無論找誰,都要先說清楚誰負責維護、程式和帳號由誰保管,以及客戶資料會交給哪些服務處理。

  9. Silicon Republic40

    愛爾蘭創辦的新創 End Close 募得 $3.5m 種子資金

    公司收帳時,銀行、刷卡服務和內部系統的交易資料常常對不起來,查錯又花時間。End Close 是一家協助大型支付公司核對帳款的新創,最近募得 $3.5m,打算擴大工程、業務和匯入團隊,也計畫推出 RecBench,評估 AI 模型處理帳款核對的表現,並提供可單獨使用的 AI 助理,協助自動處理簡單工作。 End Close 用固定規則比對交易,讓每筆結果都能說明和查帳;遇到例外時,AI 助理會調查問題、自動處理簡單情況,再把其他問題和建議交給團隊。這種分工能讓大量交易照規則核對,也讓人員集中處理較棘手的狀況。

  10. Dev.to Top Tech43

    AI 評審多常和陪審團看法一致?用 27,334 次評分建立比較基準

    在 Proof of Agent(PoA)網路上,AI 助理會互相評分,但大家只貼自己的命中率,缺少共同的比較標準。作者整理最近兩批結案資料,共 27,334 次評分,發現評審和陪審團結果約有 75% 的時間一致;最常見的情況是陪審團裡有 1 人不同意。意見不合時,評審多半是把陪審團判定為及格的答案打低分。 評分特別低的一群人,在下一批資料裡通常還是比其他人低,顯示差異不全是抽樣碰巧造成。不過,單看一批的成績也容易把運氣差的人當成不可靠。若要依一致程度付酬,作者建議至少合併兩批結果,並等每位評審累積約 10 次評分再判斷。

  11. Dev.to Top Tech57

    AgentInspect 教你從追蹤紀錄分辨重試次數

    追蹤紀錄裡同一個工具名稱出現好幾次,不代表它真的執行了同樣多次;有些紀錄可能只是同一次操作的開始與結束,或是重複送達。AgentInspect 作者用一個讀取操作示範,替每次嘗試記下不同的識別資料,再檢查操作最多能重試幾次。測試也顯示,完全相同的紀錄再送一次,不該被算成新的嘗試;但兩次嘗試也不能直接證明付款或通知真的產生了兩次效果。

  12. Dev.to Top Tech77

    GitGuardian 盤點約 45 個可自動執行攻擊的開源 AI 助理框架

    把語言模型接上工具後,開源資安框架能自動執行一連串攻擊步驟,也可能被拿來搜尋公開程式碼中的機密。GitGuardian 閱讀程式碼並用 Shodan 盤點約 45 個框架,發現只有 Pojun、Cybermes、Xalgorix 和 AIRecon 內建可供 AI 助理使用的秘密掃描器,但都沒有 GitHub 抓取工具;由於許多框架仍能使用命令列和網路,模型可以在執行時自行串起這些步驟。研究也找到 11 個預設提供網頁介面的框架,部分公開服務缺少有效防護,防守者可先確認自家是否有服務暴露在網路上。

    推薦理由:這份盤點把約 45 個開源工具的秘密掃描能力與網路暴露情況放在一起,呈現防守方可先檢查的風險入口。

  13. Dev.to Top Tech64

    AIrocards 如何替能付款的 AI 助理做威脅分析

    讓 AI 助理拿卡付款,風險不只是不小心花太多,也可能洩漏卡號、重複扣款,或在任務結束後繼續被扣款。AIrocards 整理出六種情況,建議讓卡號留在伺服器端,由工具代為付款,只把結果和參考編號交給 AI 助理;再用卡片本身的消費限額、每筆付款的防重複機制,以及每項任務專用的卡片來管住支出。文章也建議記錄每項任務的花費,並準備一個能快速停卡的方式。

  14. Dev.to Top Tech62

    用 Python 檢查求職薪資:區間重疊不代表達到最低薪資

    求職網站的薪資篩選可能會找出薪資區間有重疊的職缺,但這不代表職缺列出的最低薪資符合求職者的要求。文章用 startup.jobs 的資料示範,先確認薪資有公開、幣別與年薪區間都能確認,再由程式檢查最低薪資是否達標;只有最高薪資達標的職缺,不能當成符合最低薪資。資料不足或薪資期間不明時,應保留為未確認。模型可以解釋分類結果,但要由程式決定哪些職缺能進入推薦清單;公開薪資也不等於實際錄取條件或保證薪資。

  15. Thomas Wolf55

    讓 1,000 名 AI 助理一起寫程式,難處可能不在 GPU 算得夠不夠快,而在大家怎麼配合。Hugging Face 的 Thomas Wolf 分享了 PyBot 實驗:團隊讓 DeepSeek V4.1 Flash AI 助理一起用 if-then 規則打造聊天機器人,並觀察這種合作方式能否在公開、可重現的環境中運作。實驗中,助理常要等程式碼合併和測試,也得重讀其他人的工作;團隊試著分配角色和溝通頻道,但協調品質仍難衡量。作者認為,擴大 AI 助理團隊後,工程基礎設施和協作方式會變得更重要。

  16. Dev.to Top Tech73

    開發者打造三種工具,讓 AI 助理的操作更安全、也更容易看懂

    把工作交給 AI 助理時,人們會擔心它做出危險操作、洩漏金鑰,或讓人看不出正在忙什麼。作者分享自己打造的三個開源專案:Yata 會在高風險操作前停下來請人確認;kagi 代為保管真正的 API 金鑰,只給 AI 助理短效憑證;Omoikane 則把 Claude Code 的活動整理成容易檢視的畫面。作者也提到,Yata 功能愈多,初次設定就愈繁瑣。這些經驗指出,安全預設和清楚呈現操作狀態,能讓人更放心地把工作交給 AI 助理。

  17. Dev.to Top Tech45

    HackJunction 2026 團隊打造 Revi,陪你用聊天方式看懂自己的財務

    看一長串刷卡紀錄和圖表,不一定知道錢到底花去哪裡,也很難判斷接下來能不能買車。HackJunction 2026 的參賽團隊 Project Aethon 做了 Revi,讓使用者直接用聊天方式詢問自己的財務狀況。Revi 會整理日常花費、固定支出和不定期但必要的開銷,也能試算明年買車對預算的影響,或看看多存三個月、調整目前花費會有什麼差別。它還能參考外部資訊,例如目前價格,協助使用者想清楚不同選擇會帶來的結果。

  18. Dev.to Top Tech46

    CycleCode 如何從 3 次真實失敗中重新設計 AI 輔助開發流程

    開發者原以為兩週就能做好的 CycleCode,花了 9 個月才在實際操作中發現:AI 助理改了 package.json,卻沒同步更新鎖定檔,讓 npm ci 失敗;修復時執行 git checkout,又被誤判違反範圍規則;測試全過,開起來才發現網頁根本沒有能用的畫面。這些問題促使他在 0.1.0-preview.7 調整流程,例如讓相關檔案一起納入工作範圍,並要求網頁專案先確認能在瀏覽器開啟。 CycleCode 也加入半自動流程,讓分析、設計和工作準備可以接續進行,但寫入程式碼前仍會停下來等人確認;完整自動執行則暫時關閉,直到檢查流程能在實際工作中證明可靠。這些改動提醒我們:測試都通過,不代表整個應用真的能用;讓 AI 助理工作的系統,也得檢查程式實際跑起來的結果。

  19. Dev.to Top Tech43

    多檔案程式修改怎麼避免 AI 助理跑偏?比較聊天接力與 Python 工作流程

    AI 助理一次修改好幾個程式檔時,對話越長,就越容易忘記一開始的細節,還可能只做表面檢查。作者比較兩種做法:一種是在同一段對話裡逐個檔案修改;另一種是先寫好 Python 檢查程式,列出每個檔案都要符合的規則,再交給新開的對話一次修完。以 3 個財務結算程式檔的測試來看,第一種有 2 個錯誤,20 題答對 18 題;第二種全數答對,輸入的 token 也少了 48.5%。這表示把檢查規則先寫清楚,能幫 AI 助理記住細節,也減少來回修改。

  20. Dev.to Top Tech55

    Trida AI 分析 Lyra 如何把 AI 工程服務帶進中小企業

    中小企業通常沒有資料團隊,也很難負擔大型企業那種長時間的 AI 專案。Lyra Technology Group 計畫在旗下 MSP 派駐 50 多位工程師,讓他們進到公司現場,先了解員工每天怎麼做事,再從一個最麻煩的工作流程開始改善。文中舉例,一家租賃管理與會計公司用電子郵件處理大量協調工作,MSP 團隊為它打造郵件分類系統;Lyra 表示,這讓每位員工每天約省下 45 分鐘。作者也提醒,這種做法仍有成本能否回收、工作太依賴單一工程師等風險。

  21. Dev.to Top Tech42

    AER-1 實作心得:第一次寫驗證工具時最容易犯的 3 個錯

    替 AER-1 寫驗證工具,光照著標準檔案做,還是容易踩到 3 個坑:把格式錯誤的收據當成小問題、以為 SHA-256 摘要正確就能證明收據身分沒被調包,以及拿舊版測試資料的成績當成新版成績。AER-1 收據會儲存一次 AI 助理工具呼叫的原始內容和 SHA-256 摘要;驗證時,除了重算摘要,也要確認格式和收據身分都正確,並註明哪些檢查真的有跑。 例如,有個驗證工具把缺少必要欄位的收據當成「還沒完成」,結果第一次只通過 146 項檢查中的 27 項;修正後通過 64 項,其餘 82 項則明確標示為不在檢查範圍內。另一個例子是測試資料更新後,舊成績看起來像有錯,其實只是拿不同版本相比。實作前先確認測試資料的版本和摘要,並誠實記錄檢查結果,才能知道工具到底驗證了什麼。

  22. Dev.to Top Tech42

    DAF 如何先設好審核流程,再讓 AI 助理組裝企業系統

    公司常常為每個新需求從頭打造系統,久了就有一堆難以維護的帳號和許可權設定。DAF 想把常用功能做成共用底座,再用一份藍圖組出不同系統;AI 助理可以提出組裝方式,但必須先經過檢查、沙盒預覽和人工核准,才能發布。像是藍圖要刪除欄位時,系統會列出哪些頁面或流程會受影響,並擋下這次修改。一次自動演練也測到審核、阻擋和回復舊版等流程。不過 DAF 還沒有正式上線的客戶,這些結果是測試演練,不代表已在實際營運中驗證。

  23. O'Reilly Radar68

    AI 判斷被改正後,企業如何找出仍依賴舊結果的決策

    AI 助理看錯供應商的品質證明,可能讓錯誤一路進入採購決策、儀錶板和報告;即使有人改正資料,其他系統也可能繼續沿用舊結果。作者以供應商審查為例,提出記錄「決策血緣」的方法:把 AI 提出的判斷、它依據的檔案、誰核准它,以及哪些決策和紀錄用過它連在一起。發現判斷有誤時,系統就能找出需要更新的報告、搜尋結果和待處理流程,並交由負責人重新檢視已做出的決策。這種做法適合用在會影響付款、合規或安全的高風險判斷;它能追查錯誤如何擴散,但不能保證原始證據或 AI 判斷正確。

  24. Dev.to Top Tech61

    作者用 145 行 Bash,讓多個 AI 助理輪流執行開發工作

    多個 AI 助理在同一臺筆電上同時跑開發伺服器、型別檢查和測試,可能把記憶體用光,讓所有工作都慢下來。作者替 CogniPrep 寫了一個 Bash 指令碼,用資料夾是否已存在來決定誰能先執行重工作業;其他工作會排隊,並顯示目前是哪個工作佔用。指令碼也會清掉已結束工作留下的鎖,並在開發伺服器閒置太久時將它停掉。這種做法能讓工作輪流使用電腦資源,但同一時間只能跑一項重工作業。

  25. Dev.to Top Tech55

    作者分享如何打造 BleedStop,在 API 花費前把關成本與安全

    AI 助理呼叫付費 API 時,提示詞攻擊或失控迴圈可能外洩資料、耗掉預算。作者打造開源工具 BleedStop,讓應用程式先送出請求,再依每個租戶設定的規則決定放行、限制、要求挑戰或拒絕;Redis 會讓多個服務共用預算,決策也會寫入 Postgres 紀錄。作者在一臺共用的 8 vCPU Linux 電腦上測試,三個執行個體每秒處理 6,291 次決策,對 $5 預算上限的超支為 $0.000。這些是測試結果,作者也說明準確率測試和公開展示站的限制,並未宣稱有實際客戶省下多少錢。

  26. Dev.to Top Tech54

    如何讓 AI 助理沿用既有的 z-index 層級,不亂填數字

    對話方塊被固定在頂端的導覽列擋住時,AI 助理常用很大的 z-index 數字硬把它推到最上面,卻可能讓通知或提示框蓋住其他內容。作者建議先沿用專案已有的命名層級;真的需要新層級,就加到同一份設定檔並說明它排在哪裡。若問題來自元素的堆疊脈絡,應找出是哪個父層造成,再修正脈絡或使用設計系統指定的掛載位置。把層級規則和設定檔片段放進提示詞,也能讓程式碼審查更容易發現亂填的數字。

  27. Dev.to Top Tech71

    如何讓 AI 助理在不知道時停止回答

    AI 助理只有「回答」和「出錯」兩種選擇時,遇到資料不足或彼此矛盾的情況,還是可能硬著頭皮作答。作者建議在程式中加入「無法判斷」的出口,依缺少欄位、檢查失敗或資料衝突等明確條件停止;模型自己說有多確定,只能當參考,不能作為唯一門檻。停止的案件要交給負責的人處理,並記下原因和後續決定;測試時也要放入本來就沒有答案的案例,追蹤哪些案件被轉交,以及哪些該停止卻仍然作答。

  28. Dev.to Top Tech60

    如何替 AI 助理加上外連檢查,降低提示詞注入風險

    只把 AI 助理關在沙箱裡,仍擋不住它受網頁、郵件或問題單中的惡意文字影響,透過有許可權的工具把資料送出去。作者示範在工具連線前先用程式檢查目的地、內容和大小:只允許連到列出的網域、攔下看起來像憑證的內容,並限制傳送資料的大小。文中也建議搭配收件者名單和人工核准,讓重要操作在執行前先停下來確認。

  29. Dev.to Top Tech81

    IFM 公開 K2-Horizon 六款模型及訓練資料,最大款有 375B 引數

    許多開放模型只提供權重,外界很難知道訓練資料怎麼來、模型又是怎麼做出來的。IFM 公開了 K2-Horizon 六款模型的權重、訓練資料、中途檢查點、訓練紀錄和製作資料的流程,也提供訓練與評估用的程式碼。模型從 0.9B 到 375B-A23B,適合不同規模的工作;其中 36B-A4B 使用的啟用引數較少,論文稱它的表現接近用相同資料訓練的 32B 模型。這些效能說法尚未經獨立測試,作者也沒有親自試用;公開資料讓人能研究和微調,但從頭重訓需要大量運算資源。

    推薦理由:K2-Horizon 同時公開權重、訓練資料與製作流程,讓人能檢視模型如何建成,也能比較不同規模的模型。

  30. Dev.to Top Tech66

    Krish Verma 如何讓 Ankita AI 邊產生語音邊播放

    桌面 AI 助理念出工作結果時,如果要等整段語音檔做好才播放,使用者得先等一段時間。Krish Verma 為 Ankita AI 改用串流語音,收到第一段音訊就開始播放,並在目前句子播放時準備下一句;完成的語音也會留在快取,方便重播。一次實測中,第一段音訊在 491 毫秒後到達,但這只是單次結果,不能當成普遍的速度保證。遇到供應商不支援串流時,程式會改用原本的整段合成方式,面板也會顯示實際採用的播放模式。

  31. Dev.to Top Tech57

    MySerene 多 AI 助理系統的實作回顧:為何先查資料再回覆

    金融服務的 AI 助理若一邊找資料、一邊回答,回覆可能還沒根據查到的證據。Ian Rathbone 分享 MySerene 沙盒版的做法:每次收到訊息,先由合規 AI 助理找出相關資料與引用,再交給關懷教練 AI 助理根據這些內容回覆。這樣能確保證據先出現,但不保證回答一定用得好,仍要靠評估檢查。他也回顧每輪建立新 AI 助理、記錄事件,以及原本應該更早加入自動評估等經驗;沙盒版已封存,後續產品則改用 Agent Framework 的目前版本。

  32. Dev.to Top Tech61

    AG-UI Protocol 教學:用事件串流連線 AI 助理與前端

    AI 助理會一邊回覆、一邊呼叫工具或等待使用者確認,傳統一次送出、一次回覆的方式不容易接住這些變化。AG-UI Protocol 把過程拆成有型別的事件,讓不同框架的 AI 助理用同一套格式和網頁、手機或終端機溝通,前端收到事件後就能更新畫面。文章也說明如何用序號處理重複或漏掉的事件,以及斷線後接續進度;協定本身不負責驗證身分,伺服器仍須檢查使用者資料。若只做簡單聊天,文章認為基本的 SSE 串流可能更合適。

  33. BlockTempo 動區動趨41

    《華爾街之狼》原型人物創辦 Tone,用 AI 助理打電話推銷

    電話業務常得一通通聯絡客戶,名單太長時,人手可能忙不過來。Jordan Belfort 和投資人 Shervin Pishevar 創辦了 Tone,讓 AI 助理用語音推銷,還會把陳述句說成問句,或放低聲音耳語,試著讓對方更願意聽。Jordan Belfort 表示,Tone 能從詢問需求一路介紹健康保險方案,反應約需 600 毫秒;目前已有律師事務所和健康保險公司等客戶。 Tone 收費方式包括按通話分鐘、月訂閱,或按成交結果計費,已募資約 1,000 萬美元。Jordan Belfort 也坦言,現在逐通比較時,頂尖業務員表現更好。他認為 Tone 的特色是判斷何時該用哪種語氣,這也提醒我們:AI 助理會說話、能完成推銷流程,不代表它已經勝過最厲害的人類業務。

  34. Dev.to Top Tech54

    MoEngage 的 Merlin AI 如何把 AI 助理接上即時平臺資料

    行銷團隊想讓 AI 助理讀取並操作平臺資料,也得避免它越權或拿到不該看的資訊。MoEngage 的 Merlin AI 透過 MCP 連線平臺原本使用的 API,沿用相同的身分驗證和許可權設定;文章也說明平臺把身分與存取控制放在模型之外,並依工作內容提供不同型別的 AI 助理。文中提到 Glance 的推播點選率提升 38% 等成效,但這些數字來自 AWS 與 MoEngage 共同撰寫的案例,沒有提供樣本數、測量期間或對照組,因此適合視為廠商公佈的結果,不能當成獨立驗證的結論。

  35. Dev.to Top Tech41

    AI 專案從原型走向正式上線的 5 個工程重點

    AI 示範作品看起來很順,真的上線後,卻可能遇到資料不完整、回答錯誤、API 故障,或 AI 助理做了不該做的事。文章整理 5 個工程重點:先限制 AI 助理能用的工具和許可權;分開檢查 RAG 找到的資料與最後答案是否正確;從開發一開始就做好資安;讓工程師也懂資料、系統和實際工作流程;定期檢查工具是否重複,並讓系統方便維護和調整。文中提到,30 個主要醫療體系中,43% 的主管表示正在試用或測試 AI 助理,只有 3% 表示已用在正式工作流程。做出能運作的示範只是第一步,系統遇到問題時仍能可靠運作,才算準備好上線。

  36. Dev.to Top Tech51

    AnBoWork 作者分享如何讓多個 AI 程式助理在同一臺電腦上各自運作

    同一臺電腦同時開好幾個 AI 程式助理時,它們可能共用設定、登入資料、網路代理和快取,讓一個工作階段的改動影響另一個。AnBoWork 作者根據打造桌面工作臺的經驗,建議每個工作階段使用自己的設定資料夾、快取和環境,並讓網路設定隻影響該工作階段,不去改整臺電腦的代理設定。作者也建議讓時區和網路出口地區一致,並把登入資料留在自己的電腦。這些做法能減少互相干擾,出問題時也比較容易找出原因。

  37. Dev.to Top Tech70

    實測 OpenSpec 搭配 Superpowers:審查者怎麼回答,結果就怎麼變

    把 OpenSpec 和 Superpowers 接在一起,能不能讓程式修改符合需求,關鍵可能在回答流程問題的人怎麼做決定。作者用同一個 Node API 和同一個請求跑了兩次:瞭解規格的審查者會指出錯誤,通過 8 項隱藏檢查;只知道請求、一路同意的審查者,結果通過 6 項。新版 OpenSpec 的指令已改成技能,預設設定也少了部分步驟;若選 Superpowers 的 Native 執行方式,後續檢查和封存步驟還得手動啟動。作者也提醒要看完整設計檔,因為聊天摘要漏掉的一個選項,會讓錯誤回應格式不一致。

  38. Dev.to Top Tech73

    AI 助理修復線上問題時猜錯六次,作者用實際查證找出原因

    AI 助理處理網站問題時,常會給出聽起來合理、實際卻錯的原因。作者在四天內記錄六個案例,並用連線紀錄、程式解析結果、伺服器回應、手機畫面和檔案數量逐一查證。例如,檔案清單列出 75 張圖片,實際搬走的卻少一張,原因是指令漏掉沒有換行的最後一行。這些例子顯示,修好問題不能只看程式有沒有報錯,還要檢查預期的紀錄或畫面是否真的出現。

  39. Dev.to Top Tech54

    Bonree-Js 教你計算企業 AI 助理每項任務的真實成本

    只看模型每百萬 token 的價格,很難知道一項任務實際花了多少錢,因為 AI 助理可能重試、呼叫工具,甚至最後沒有完成。作者建議把每次嘗試的模型用量、工具和 API 費用、運算資源、評估與監控費用,以及人工檢查都算進去,再除以真正完成的任務數。失敗的嘗試也要計入支出,才能看出不可靠的流程到底多花錢。文章也提醒,平均成本可能遮住少數特別昂貴的任務;除了成本,也要一起看完成率和品質。