Conferbot 說明如何防範面向顧客的 AI 聊天機器人提示詞注入
AI 聊天機器人會讀取顧客訊息、檔案和網頁,裡面若藏有惡意指令,可能讓它洩漏資料或做出未經同意的操作。Conferbot 的指南把這類攻擊分成兩種:顧客直接輸入指令,以及指令藏在機器人讀取的檔案或網頁裡。指南建議分層防護,包括檢查輸入和回答、只給機器人完成工作所需的工具許可權,並讓人核准退款等敏感操作;也要記錄工具使用情形,方便發現問題。這些做法不能保證攻擊完全失敗,但能限制出錯時造成的影響。
AI 聊天機器人會讀取顧客訊息、檔案和網頁,裡面若藏有惡意指令,可能讓它洩漏資料或做出未經同意的操作。Conferbot 的指南把這類攻擊分成兩種:顧客直接輸入指令,以及指令藏在機器人讀取的檔案或網頁裡。指南建議分層防護,包括檢查輸入和回答、只給機器人完成工作所需的工具許可權,並讓人核准退款等敏感操作;也要記錄工具使用情形,方便發現問題。這些做法不能保證攻擊完全失敗,但能限制出錯時造成的影響。
把寫程式的工作交給 AI 助理後,工程師仍得確認需求、設計系統,並判斷程式能不能安全上線。Matthew Odumosu 分享自己如何用 Claude Code 讀取工作需求與設計稿,再先規劃架構、編寫程式和測試,最後交由另一個 AI 助理檢查,並由人審核合併。他也介紹如何用 CLAUDE.md 記下專案規則,讓新工作階段能接續先前進度。文中整理了處理重複請求、同時修改資料、服務故障和監控紀錄的做法,並強調生產資料要用唯讀許可權,修改仍由人核准。
讓 Claude 幫忙發社群貼文時,怎麼避免設定錯誤或貼出沒核准的內容?作者示範用 pendpost 這個 MCP 伺服器連線 Claude Desktop、Claude Code 或 Cursor,先在模擬模式寫入假貼文,不會真的呼叫平臺 API。貼文一開始是草稿,作者本人核准後才能發布;寫草稿的 AI 助理不能核准自己的內容。作者也提醒,核准規則依賴呼叫工具時提供的身分名稱,因此仍要看清 MCP 使用者端的工具核准提示。確認流程可用後,再逐一連線真實帳號。
密碼加密調得更費工,安全性會提高,但伺服器也得花更多時間處理。文中一個團隊把 bcrypt 的成本從 10 調到 12,尖峰時段的 API 第 99 百分位延遲便從 85ms 飆到 3.8 秒。原因是成本每增加 1,計算量就會加倍;在 AWS t3.medium 上,成本 12 算一個密碼約要 710ms。Node.js 的背景工作執行緒數量有限,登入請求一多,後面的工作就得排隊,連檔案處理和 DNS 查詢也可能被拖慢。 文中建議先在接近正式環境的流量下測試延遲,再調整成本;也可增加 Node.js 使用的背景執行緒,或把密碼計算交給另一個服務處理。對多數互動式網站,作者認為成本 10 或 11 較合適。測試密碼雜湊時,也別把真實密碼或正式資料貼到不明網站,以免資料外流。
讓大家透過伺服器連到任意網址,可能被壞人拿來探查不該碰的網路位置;只封鎖網址也不夠,因為網址背後的 IP 可能被動手腳。作者替 FreeAPI 做了一個安全的轉送服務:先查出網址對應的 IP,擋掉私人或保留用途的 IP,再直接連到確認過的位址。服務也限制每次最多傳 5 MB,並替匿名使用者設定每個 IP 每分鐘 60 次的上限,減少大檔案和大量請求造成的負擔。若公開 API 回傳的其實是擋機器人的網頁,服務會回報 422,讓畫面能說明發生什麼事。
旅客現在會先問 AI 怎麼安排旅行,再到旅遊業者的網站確認價格和日期;他們喜歡 AI 回得快,重要行程卻還是想找真人和可信的公司。作者做了一個烏茲別克旅遊示範 AI 助理,會依業者提供的行程和價目表推薦旅遊方案、回答簽證和交通問題,也能把對話整理成附有編號的預約需求,再交給真人顧問處理。示範服務能用英文、烏茲別克文和俄文對話。重點是讓 AI 處理常見問題、真人照顧客人,而且價格等資訊必須來自業者的資料,不能讓 AI 自己猜。
每天手動整理品牌新聞很花時間,Google News 的搜尋結果也不是現成的表格。作者示範用他維護的 Apify Actor 搜尋新聞,再用 Python 和 pandas 把標題、媒體、日期與連結存進 CSV,並依關鍵字標記法律、股價或產品相關報導。以 Duolingo 為例,20 篇結果中也混有律師事務所公告和股價頁面,因此還要自行排序、篩選。搜尋結果每次最多約 100 篇,開啟媒體原始連結會多花一些時間;工具按每 1,000 筆 $1.50 計費。
剛註冊的網域只代表它是在某一天登記,不能單憑這點就封鎖網站或使用者。作者實際查詢 IP99 的每日網域 API,說明它會回傳網域、落地 IP、註冊商和國家欄位,但每天最多隻列出依網域名稱排序的前 1,000 筆,因此不能拿這份清單推論整天的新網域分佈。文章也示範再查落地 IP,並提醒 CDN 共用 IP、地理位置和風險分數都不能直接指向註冊者或判定有罪;可把新網域與當天簽發的憑證等線索一起檢查,再決定是否加強確認。
很多程式檔案被大量程式碼引用,看起來像是包辦太多工作的「上帝物件」,但光看引用次數還不夠。作者檢查 Grafana、Keycloak 和 Docker Compose 的熱門檔案,發現 Grafana 的檔案只負責轉出其他模組的名稱,Keycloak 的檔案則是供程式查詢功能的介面;Docker Compose 的共用套件則包含許多不同用途的資料。判斷時還要看檔案裡有沒有實際運作的程式、多久因哪些原因修改,以及引用它的程式各自用了哪些內容,才能看出是否真的該拆分。
想做生意時,常有人只憑一個點子就先花錢,等到後來才發現估算的數字不可靠。這套不用花錢的工具會先研究商業點子,並讓兩位查核者分頭檢查每項說法;兩人都認同,資料才會當成確認過的結果,意見不同就標成估算或刪掉。工具還會用 14 項檢查確認資料齊全、預算仍是 ₹0,任何一項沒過就不產生報告。 研究結果會整理成 PDF,列出發現和需要老闆決定的事;老闆看完並同意前,後續階段都會停住。這讓人能先看證據,再決定要不要花錢,避免點子還沒查清楚,就先買網域、做標誌或訂工具。
自動化常被說成能省下很多工時,但只把每次任務時間乘上次數,容易漏算設定、出錯處理和後續維護。作者建議先記錄一週的實際執行次數,分開計算人真正動手的時間和等待時間,再把例外處理與維護也算進去。文中舉例,一項每月做 100 次、每次省下 3 分鐘的工作,表面上能省 5 小時;扣掉 4 小時設定和 1.5 小時例外處理與維護後,第一個月只省約半小時。先用小範圍試跑,並一起檢查錯誤和品質,才能看出這項自動化是否值得長期維護。
Ledger 硬體錢包的安全晶片和作業系統沒有被發現有漏洞,但有遭人動手腳的裝置,會在設定時偷看螢幕上的 24 個助記詞,再透過行動網路傳出去。這表示晶片檢查只能確認晶片本身,無法看出電路板上是否多了其他零件。文章建議團隊記錄簽署裝置的購買來源,避免讓同一臺裝置單獨保管資金;若懷疑裝置遭動手腳,不要沿用原本的助記詞或密語,應在新裝置建立新助記詞並轉移資金。
研究開始前要找多少人參加,會影響研究能不能看出真正存在的差異;但預期效果抓錯了,算出的樣本數也可能不夠。文章用比較兩種血壓治療的假設案例說明,若要找出 5 mmHg 的差異,在設定的條件下每組需要 64 人;若實際差異只有 4 mmHg,檢定力會從約 80% 降到約 60%。作者也介紹如何用 R 的 power.t.test 或 G*Power 估算樣本數,並提醒研究結束後再用觀察到的結果計算事後檢定力,並不能增加判讀資訊;應改看效果估計與信賴區間,或事先設定等效範圍。
同一張臉在瀏覽器和 Blender 裡編輯,結果可能不一樣,因為匯出成 glTF 時,頂點會被拆開,兩邊的頂點編號就對不起來。作者改成看每個頂點的位置來決定怎麼移動,做左右對稱編輯時,也用移動前的位置一起算兩邊的移動量。舊方法讓臉部中央附近差了 0.83 mm;改法後,兩邊就能做出相同形狀。最後作者把瀏覽器匯出設為正式做法,因為不需要先在 Blender 裡烘焙才能完成。
網站名單只有一串網域,想找聯絡頁、表單用哪套工具,還有公司的社群帳號,逐個網站開啟來看很花時間。這篇介紹的 Apify 工具可以一次檢查多個網站,整理公司名稱、聯絡頁、表單工具、徵才頁和公司社群連結,也能篩出使用 HubSpot 或 WPForms 的網站。作者用 9 個網域測試,成功整理 7 個網站,整批約花 10 秒;每個成功整理的網站收 $0.003,另加 $0.003 啟動費。 它只讀網頁上的文字和連結,遇到用 JavaScript 顯示的表單可能看不到;受防護的網站也可能回傳錯誤,不會被繞過。因此「沒找到表單」不一定代表網站沒有表單。資料可匯出成 CSV 或 Excel,也能定期整理後送進 CRM,適合做網站研究或一對一聯絡。
股市預測常只秀猜中的時候,讓人看不出實際表現。AION Analytics 的 Veritas 每個交易日開盤前公佈 NIFTY 50 開盤前 15 分鐘的價格範圍,收盤後再公開結果,連猜錯的紀錄也保留。你可以用文中的 Python 程式碼讀取公開紀錄並計算命中情況:目前列出的 42 個交易日中,126 次預測有 91 次落在範圍內,約 72.2%,低於產品原本設定的 80% 目標。不過資料筆數還少,而且紀錄索引尚未列出所有日期,所以這個數字只能當作初步參考。
訂單一交給倉庫就通知顧客已出貨,可能讓人誤以為整張訂單都已寄出。這篇教學示範如何用 Zapier 接收倉庫管理系統的出貨回報,再更新 HubSpot 訂單狀態並傳 WhatsApp 訊息。流程會檢視每項商品累計寄出的數量,分辨部分出貨、整張訂單出貨和缺貨,也會把同一批貨的多個追蹤號碼放進一則訊息,避免連發通知。作者以範例資料檢查了程式碼,但沒有在 Zapier 或正式環境中測試;實際欄位和簽章方式須依倉庫系統設定。
整理傢俱資料時,如果只留下材質名稱,AI 助理可能把椅腳的實木誤認成整座書櫃都是實木。作者用 IKEA 商品資料示範如何把零件名稱和材質一起存進資料庫,讓搜尋時能看出每種材質屬於哪個零件;缺少材質資料時,也保留為未知,不當成「沒有木材」。照護說明和使用備註則分開存放,避免拿來回答材質問題。這樣能提供較清楚的查詢依據,但仍不能保證回答正確,也無法證明商品頁列出了所有材料。
AI 文字若帶有看不見的浮水印,或許能幫忙辨認機器生成內容,但一般人目前還不能用官方工具檢查 Claude 的文字。Andrew Stellman 用互動網頁示範原理:系統會用金鑰和前幾個詞,替候選詞算出硬幣正反面,再讓生成程式偏向某些詞;檢測器則用同一把金鑰檢視正面是否特別多。Anthropic 表示 Claude 使用 SynthID-Text。作者也提醒,公開金鑰可能讓人移除或仿造浮水印;短文的結果容易受巧合影響,不能單靠一次檢查就下定論。
AI 助理能幫資安團隊查資料、判斷警示,也可能直接停用帳號或隔離伺服器;但放手太多,一個錯誤就可能影響整家公司。文章建議把每項工作分開看:查詢紀錄、整理線索這類容易檢查的工作,可以交給 AI 助理處理;停用帳號或隔離正式環境的伺服器,則應保留人工核准。判斷時要看錯了能不能復原、會影響多少人,以及手上的證據是否可靠。 人工核准也要看得到 AI 助理查了什麼、根據什麼理由下結論,以及排除了哪些可能;否則人只是在排隊時一路按同意。團隊可以先讓 AI 助理在測試模式演練,確認結果可靠、留下完整紀錄,也準備好復原方法,再逐步增加許可權;如果表現變差,就應降低許可權。這樣才能讓 AI 助理接手查證工作,同時把可能造成的損害控制在範圍內。
廣告成效突然下滑,很多人會先換廣告或調整出價,但問題可能早在資料整理時就出現了。這張速查表教人先確認廣告帳戶的計算方式、日期和幣別是否一致,再沿著廣告曝光、點選、網站瀏覽到購買,一層層找出哪裡流失最多。像是不同廣告帳戶用了不同的歸因期間,ROAS 就不能直接加在一起;每日觸及人數也不能直接相加,否則會重複計算。先把資料核對清楚,再刪掉浪費預算的部分、改善成效,最後才增加預算,才不會把出價調得再勤,仍然被錯誤資料誤導。
想讓 AI 助理看即時行情或幫忙下單,卻怕它搞錯 API 設定,甚至不小心送出交易?Bitnxs 團隊開源了一套 Grok Bot 範本,分成三份技能說明和兩支 Python 程式。你可以先用不用 API 金鑰的程式檢視 BTC、ETH、SOL 行情;需要交易時,另一支程式則能在送出前先用試跑模式檢查訂單內容。範本也把 API 的使用規則寫清楚,並讓提醒和定期行情摘要維持只讀。舉例來說,試跑買進 BTC 的指令只會印出預計送出的訂單,不會真的下單。不過 Bitnxs 沒有測試網,實際送出的訂單會動用真實帳戶資金;使用槓桿也可能很快賠光保證金。
C++20 的 [[likely]] 和 [[unlikely]] 可以提示編譯器,哪條程式路徑比較常走,但用錯也可能讓程式變慢。它們不會直接控制 CPU 的分支預測,而是影響編譯器安排產生的程式碼;例如在 switch 中,從前一個 case 落空到下一個標籤,不會因此得到該標籤的提示。文章建議先用實際工作資料找出常走的分支,再檢查組譯結果並比較執行速度;若能使用 PGO,也可讓編譯器參考實際執行資料來調整程式。
網站分析看得出有人點了廣告、逛過價格頁,卻看不出他離開後打電話來,最後成了客人。電話追蹤會替不同廣告來源安排不同號碼,電話打進來時,就能用撥出的號碼找出客人從哪裡看到商家;這些號碼會再轉接到商家的原本電話。網站訪客可能來自不同地方,光用一個固定號碼分不出來,所以網站會依訪客的來源,暫時從一組號碼中分配一個,並把頁面上的電話換成它。像是有人從 Google 廣告進站,之後打電話,平臺就能把這通電話和廣告來源連起來,再轉接給商家。這樣商家能知道哪些廣告帶來電話,也能進一步瞭解來電品質。
AI 助理改了提示詞後,表面上回答得不錯,卻可能開始答應不該給的折扣。作者用一段 50 行的 Python 範例,替每種問題寫下要呼叫的工具、回答必須或不能出現的內容,以及可接受的回覆時間;每次改版後跑一遍,就能看到通過比例,決定是否部署。範例中的新版多答應了折扣,因此被檢查擋下。文章也建議把實際對話中的錯誤加入測試,並在每次提示詞、模型或工具變更後檢查。
Netflix 和 Spotify 常能推薦合胃口的內容,但推薦也可能讓人一直看到相似的東西。這篇文章整理兩家的做法:Netflix 根據播放、暫停、跳過等行為安排片單,Spotify 則參考聽眾的播放與收藏紀錄、歌曲相關文字和音訊特徵來推薦音樂。文章也提供調整方式,例如對喜歡的歌曲按收藏、快速跳過不喜歡的歌,或搜尋平常不會選的內容,讓推薦多一點變化。
太陽能、家用電池、電動車和每小時變動的電價若沒有協調好,可能會在不划算的時間買電,或讓電動車把家用電池的電量用掉。作者用 Antigravity 搭配 Gemini 4 Hydrogen 規劃需求、Gemini 4 Carbon 撰寫和測試程式,做出開源工具 cheap-watts,自動安排電池和車輛的充電時間。工具每 30 分鐘檢查天氣、電價和車輛狀態,也能先用 --dry-run 試跑,確認排程後才控制家用逆變器。作者也分享用不同 AI 助理分工、隔離硬體介面,以及透過程式檢查和 PR 流程降低金鑰外洩與裝置誤操作風險的做法。
有些問題得先找出一項線索,才能查到答案;如果第一步找錯,後面的結果可能看似合理,最後卻答錯。多跳檢索會根據前一步找到的內容提出下一個查詢,並把每一步用到的資料來源記錄下來。文章建議保留多個候選線索、查證線索確實出現在原文中,也可同時查詢不同線索再比較證據;若線索不可靠,就先不要作答。這種做法適合答案需要串起多項事實的問題,但步驟越多,延遲與錯誤風險也會增加。
Squid 代理伺服器的允許與拒絕規則看起來各自獨立,實際結果卻會受到排列順序影響。文章建議先拒絕禁止的目的地,再允許通過身分驗證的使用者,最後拒絕其餘要求;這樣沒符合前面規則的流量也會有明確結果。作者也提醒,代理伺服器要確認停用帳號無法登入,並防止使用者端假冒身分標頭。修改規則後,可測試不同使用者、來源與目的地的允許和拒絕情況,再檢查紀錄是否符合預期。
AI 測試工具會自動修正選取器、跳過部分測試或把不穩定的測試暫時停用,因此測試通過時,團隊可能不清楚工具實際檢查了什麼。文章建議記錄六類會影響結果的決定,包括選取器變更、略過的測試、停用原因、AI 撰寫的檢查專案、測試資料異動,以及使用的模型和工具版本。團隊可在每個開發週期安排短時間檢查紀錄,並為高風險變更保留人工確認。這樣遇到稽核或客戶詢問時,就能查出工具改了什麼、由誰檢查,以及測試為何通過。
做新產品時,拖太久可能錯過市場機會;用 AI 助理很快做出能用的程式,卻可能留下難懂又難修改的問題。作者建議,先用簡單做法把功能推出去可以,但要在程式旁寫清楚為什麼這樣做、規模變大時哪裡會出問題,以及什麼時候該重整。例如,程式直接連資料庫查資料,就註明它在約 500 個人同時使用時可能出問題。這樣團隊之後能先修真正拖慢系統的地方,不必急著把整個原型打掉重寫。
客戶付了錢,也陪著團隊試用、提出意見;工具的問題一個個修好後,他們卻還是用原本的方法做事。原因可能是團隊只看單一功能有沒有修好,客戶在意的卻是整件工作能不能從頭做到尾。像寫每週報告,工具先學會讀試算表,接著才發現草稿裡的日期還得有人確認;這不是新要求,而是前一次試用卡在更前面,還沒走到那一步。檢查工具是否真的接手工作,要看客戶能不能從草稿開始修改、確認後送出。修好功能不等於客戶已經改變工作方式,先付錢也不保證他們會一直陪著調整。
微調大型語言模型時,如果每學一項新技能都要儲存整份模型,檔案和訓練記憶體都會很吃緊。作者用一個小模型實測 LoRA:先凍結原本的權重,再加上一小組可以替換或合併回模型的修正值。這次只訓練 2.11% 的權重,LoRA 檔案是 0.51 MB,完整權重則是 23.44 MB;但在這項任務中,LoRA 的最好成績是 26%,完整微調是 44%。這個小模型的結果顯示,LoRA 能省下儲存和記憶體,學習效果則不一定追得上完整微調。
每次開新對話,AI 助理都得重新聽一遍規則,寫出來的程式也可能不一致。作者把網站架構、表單檢查和常見錯誤整理成 Claude Code 的技能,讓它接到合適任務時照著做;例如表單要真的送出測試,不能只看畫面能不能顯示。他也用 MCP 讓 AI 助理檢視 WordPress 等實際系統,並把研究和檢查工作分給不同 AI 助理。涉及正式環境、付款或客戶資料時,作者會親自看修改內容並做決定。
讓 AI 助理自己挑工作、寫程式並合併,最大的難題是出了錯時沒有人盯著每一步。作者分享一套自動化軟體工廠:人先訂產品目標並核准每個開發週期,AI 助理負責整理需求、設計、實作和檢查;CI 會確認整個產品流程能正常運作,合併關卡則只放行檢查通過的程式版本。作者主張把規則寫清楚哪些事情不能越界、每一步要留下什麼證據,讓 AI 助理自行決定中間做法。遇到產品行為、許可權或外部連線等需要人決定的事,才送交人處理。
剛開始找嵌入式工程工作,面試時常被問到:「你真的會讓硬體動起來嗎?」做幾個小專案,就能把課堂上的知識變成看得見的成果。可以試著讀取感測器數值、用 UART 接收開關 LED 的指令、控制馬達轉速、讓兩塊微控制器交換資料,或讓程式同時定時讀取感測器、閃爍 LED 和回報狀態。 專案完成後,還要能說清楚用了哪些硬體、程式怎麼寫,以及遇到故障時如何除錯。例如拔掉感測器或傳送錯誤資料,看看程式能不能妥善處理。把電路、程式碼、建置方式和測試過程整理好,放進 GitHub,面試時就能用自己的作品說明你懂多少,而不只是照著教學做出成品。
有些職缺會把指令藏在徵才內容裡,試著讓代替你求職的 AI 助理照著做。作者在自己的待處理清單中找到 20 則這類職缺,其中有些要求 AI 在履歷放入指定詞語,有些則要人用指定詞證明讀過職缺;有 6 則進入他的檢視流程,其中 5 則是寫給 AI 的。他的流程會先移除這段文字、標示警告並保留原文,之後再由本人決定是否使用指定詞。作者提醒,職缺和電子郵件、網站一樣,都是外來文字,可能夾帶危險指令,因此不該讓 AI 助理不加檢查地照做。
開始寫程式前,光是裝好工具、啟動資料庫、設定環境變數,就可能忙上 45 分鐘;不同人的電腦設定不一樣,舊說明也常常過時,問題就更難排除。文章建議把開發環境寫成跟程式碼放在一起的設定,讓每個人照著同一套步驟準備,也用一個指令自動完成安裝。像 Dev Containers 就能把環境設定放進專案,讓新加入的人比較快開始工作。把環境當成要持續照顧的產品,並記錄從開始設定到第一次成功建置要花多久,團隊才容易找出並改善拖慢大家的地方。
每次測試都呼叫大型語言模型,速度慢、要花錢,輸出還可能改變,讓測試結果不穩定。作者建議先把模型包在一個簡單介面後面,測試時換成會回傳指定內容的假模型,檢查提示詞有沒有帶入正確資料,也能測試空白、格式錯誤或不完整的回覆會怎麼處理。少數需要確認真實模型表現的測試則另外執行,例如定期或發布前跑。這樣每次修改都能快速檢查大多數程式,同時保留對真實模型的測試。
AI 語音通話一次會佔用好幾分鐘,電話連線、語音辨識、大型語言模型和語音合成都可能碰到限制或故障。作者整理了系統擴大到每天數千通時的做法:把通話進度存在服務程式之外,避免重新啟動就忘記談到哪裡;撥打前限制同時進行的通話,額滿時先排隊;同一個電話事件重送時只處理一次。文章也建議盡早開始播放語音、縮短提示詞,並記錄每通電話如何結束、在哪個步驟停下,方便找出需要改善的地方。