跳到正文

#Anthropic

RSS
今日 21 則
11月17日週二
  1. Dev.to Top Tech41

    Claude 和 ChatGPT 能直接看 YouTube 影片嗎?用逐字稿讓 AI 助理讀懂影片內容

    Claude 和 ChatGPT 都不能只靠 YouTube 連結播放影片;它們頂多從網路搜尋找到標題、說明或相關文字,未必知道影片實際說了什麼。若影片有字幕,可以加上連線工具,讓 Claude 讀取逐字稿;ChatGPT 則可使用自訂 MCP 外掛,或直接貼上逐字稿。像演講、教學和訪談,逐字稿通常就能涵蓋重點;如果答案藏在畫面上的圖表或操作步驟,還得提供影片截圖。文章也提到,Gemini 能讀取公開影片,NotebookLM 則可把影片連結加入資料來源。

  2. Dev.to Top Tech69

    LLMOps 實作教學:追蹤成本、檢查品質,避免問題版本上線

    AI 服務上線後,團隊可能看不到失敗請求,也不清楚花費和回答品質。作者用一個支援服務範例,示範如何記錄每次請求的追蹤資料、錯誤率、延遲和成本,並用評估結果決定是否放行新版。第一次測試時,模型步驟出錯會讓紀錄也一起漏掉;把紀錄移到錯誤發生後仍會執行的位置,才看見 5 次失敗。另一個測試中,新版和舊版都答對 24 題中的 18 題,因此閘門擋下新版。文章也提醒,這些成本是依 token 數和公開價格估算,延遲則來自本機替代模型,不能當成實際供應商的服務表現。

  3. Dev.to Top Tech63

    把舊 Kindle 變成門口資訊看板,顯示天氣與比特幣價格

    出門時常不知道要帶什麼,想要在門口快速看到天氣或比特幣走勢。作者把一臺 2011 年的非觸控 Kindle 改成永遠開啟的 e‑ink 看板,透過 Node.js 產生 600×800 的灰階 PNG,從 Open‑Meteo 與 CoinGecko 取得天氣與價格,放到 GitHub Actions,Kindle 每 4 小時自動下載並顯示,還會在畫面底部標示更新時間與離線狀態。這樣即使沒電腦在家,也能在門口即時取得出門資訊。

  4. Dev.to Top Tech61

    Coupossum 推出 MCP 伺服器與 Telegram Bot,讓 AI 助理即時搜尋折扣碼

    許多優惠網站的程式碼大多過期或根本不存在,使用者常被無效資訊騙到。作者自行打造 Coupossum,將 Feedico 的聯盟 API 整合到單一 PostgreSQL 資料庫,並每兩小時同步約 3.5 萬筆 5 千家店家的優惠碼。這些資料同時由官方網站、公開的 MCP 伺服器、Telegram 頻道與機器人提供,查詢規則只寫一次,任何前端修正都會即時套用。Telegram 頻道會每小時釋出一則優惠,當條件失效時會自動刪除或改為結束卡,避免過期資訊佔滿頻道。整體設計不需 AI 模型,讓 AI 助理或使用者都能安全、即時取得真實可用的折扣資訊。

  5. Dev.to Top Tech62

    ccdeck 免費開源儀錶板,讓 Claude Code 與 Codex 同時視覺化工作狀態

    開發者常同時使用 Claude Code 與 Codex,卻得不停切換終端機才能確認兩個任務的進度,十分耗時。作者提供了 ccdeck 這個免費開源的儀錶板,只要在 Node.js 環境下執行 npx ccdeck,就會產生本機網頁,彙整兩個代理的 session、等待時間與執行細節,甚至能點開節點檢視提示、工具呼叫與程式碼差異。使用者只要保留原本的終端機,即可在儀錶板上快速定位需要處理的工作,減少在多個視窗間來回切換的時間。ccdeck 以 AGPL‑3.0 授權,無需額外帳號,支援 macOS、Windows 與 Linux,亦可自行關閉使用報告。

  6. Dev.to Top Tech75

    Anthropic 首次 IPO 7 倍超額認購,明天定價、週四在 Nasdaq 開盤交易

    大家常想投資最前沿的 AI 公司,但不一定知道 Anthropic 的 IPO 進展。文章說明公司把定價撤回後重新提交,新的招股價在每股 70–78 美元,預計賣出 8.25 億股,已收到約 58 億股的認購需求,約 450 億美元,超額 7 倍。零售投資人可透過多家券商取得約 20% 的股份,另外還有約 260 億美元的私募由 Google、Microsoft 等大企業參與。這代表市場對前沿 AI 的熱情很高,也提醒投資者需注意實際成交價格與私募條件。

  7. Dev.to Top Tech67

    Anthropic 最新 AI 助理記憶架構概覽

    AI 助理在不同工作階段常會忘記前一次的設定或重複已失敗的步驟,導致測試成本升高。作者針對 Anthropic 的記憶機制,提出四層架構:完整對話紀錄、可重複使用的筆記、知識關係頁面,以及在新會話開始時載入的簡短入口。每層都有對應的存放方式與搜尋策略,讓開發者能在需要時快速取得證據或結論,並避免舊資訊幹擾。藉由這種層次化管理,未來的任務可以直接利用過去的經驗,減少重複探索的時間與成本。

  8. Dev.to Top Tech69

    Pinnasys 分享 AI 代理工具簽名設計指南

    開發 AI 代理時,常會因工具名稱或引數不清而選錯功能,導致流程卡住或產生錯誤。Pinnasys 在本文說明瞭如何為代理設計具備單一職責、引數描述明確、使用 JSON Schema 定義輸入、回應只保留下一步所需資訊、名稱與許可權一致的函式簽名,並提供檢查清單與測試方式,讓代理在取得客戶資料、處理付款或建立工單時能正確呼叫工具、減少重試,提升效率與安全性。

  9. The Economic Times · ETtech78

    中國業者用美國 AI 模型的回答訓練本土模型

    中國業者受到晶片取得限制,正設法用較少的運算資源發展本土 AI 模型。Reuters 檢視論文、專利、企業資料和政府檔案後發現,這類做法已從學術實驗擴充套件到產業應用:先讓美國大型模型回答問題或示範解法,再把結果整理成訓練資料,教較小的本土模型完成特定工作。檔案也記載,研究團隊曾用 OpenAI 模型產生的回答來訓練 Qwen。蒸餾能降低部分模型的訓練與使用成本,但無法複製大型模型的全部能力,也不能免除對先進運算資源的需求。美方擔心大規模蒐集輸出可能涉及智慧財產權問題,中方則稱蒸餾是常見的 AI 開發技術;報導也提到,模型進步還受到工程、演演算法、資料與設計等因素影響。

    推薦理由:Reuters 檢視多種檔案,呈現蒸餾如何從學術實驗走向產業使用,也整理美中雙方對其影響與界線的不同看法。

  10. Hacker News (official RSS)64

    Tokendoctor 分析 Claude Code 用量,協助找出省下 token 費用的方法

    Claude Code 的工作階段可能用了很多 token,卻不容易看出哪些設定能省下費用。Tokendoctor 是在自己電腦上執行的外掛,能重播過去的工作階段,估算縮小上下文視窗能省多少,也會檢查設定並提出調整建議;每項變更都會先顯示內容,使用者確認後才套用,之後也能復原。外掛還能把 Claude Code 原本會摘要的舊工具輸出改成簡短指標,保留對話原文。作者分享的測試結果顯示,省下的費用會隨工作內容而變,有些測試甚至沒有省錢,因此工具會先用個人紀錄估算,再由使用者決定是否調整。

  11. 卡爾的AI沃茨62

    定時任務就算沒有新進展,也可能讓 AI 助理重跑工作、反覆整理報告,耗掉不少使用額度。作者把 Anthropic 的常駐 AI 助理指南改寫成一段提示詞,讓 Grok bot 依任務內容去重、記住已回報的版本,沒有實質變化時只回「無更新」,也不要自行增加來源或新任務。作者表示,這套做法穩定運作三天後,Bot 用量從 75% 降到 30%,總用量減少 55%;他估計每年可省 840 美元。

  12. Dev.to Top Tech42

    ConvoExport 如何打造可匯出 ChatGPT 和 Claude 對話的瀏覽器擴充功能

    想把 ChatGPT 或 Claude 的對話存成檔案,有時會遇到格式或讀取問題。作者打造了 ConvoExport 瀏覽器擴充功能,可一次匯出一段對話,存成 Markdown、HTML 或 DOCX;免費版每天可匯出 3 次,資料都在電腦上處理,擴充功能本身不會連網。測試 ChatGPT 時,作者發現頁面載入後要等約 30 秒,訊息角色才會讀對;Claude 則因測試環境遇到 Cloudflare 驗證,還沒有完成真實頁面測試。這項工具目前仍在 Edge Add-ons 審核中,付費版的啟用碼也還沒能購買。

  13. Together AI60

    要知道 AI 助理能不能完成工作,光看最後答案不夠,還得檢查它一路怎麼做。Together AI 的做法是先挑出約 10 個常見任務,讓 Claude Code 在隔離環境中執行,再比較基本設定、MCP 和技能三種組合,並檢查操作過程,據此改進檔案與 API。文中表示,任務完成率從 67% 提升到 96%。

    推薦理由:Together AI 用代表性任務比較不同設定,並檢查 AI 助理的操作過程來改進檔案與 API,呈現一套實作評估方法。

  14. Dev.to Top Tech82

    Anthropic 的 FlashProve 如何證明 API 回覆來自指定模型

    透過 API 使用模型時,回覆裡的模型名稱只是服務商的說法,無法直接證明實際是哪個模型產生內容。Anthropic 團隊推出開源研究原型 FlashProve,讓服務商先為模型權重做出隱藏內容的識別記號,再替每次回覆附上加密證明,讓別人確認指定模型確實產生了那些文字,而且不用取得模型權重或 GPU。以 Llama 4 Maverick 測試時,每 1,024 個 token 的證明約 19 MB,CPU 驗證約需 17 秒,但產生證明的 GPU 成本約是一般推論的 70–95 倍。它目前只支援特定整數模型與貪婪解碼,文章也提醒這仍是研究原型,尚有程式驗證與長上下文等限制。

    推薦理由:FlashProve以可驗證的加密證明確認回覆來自指定模型,文中也列出驗證速度、成本與解碼限制,呈現這種做法的實際取捨。

  15. iThome (臺灣)59

    Anthropic 將重大漏洞揭露期限從 90 天縮短為 30 天

    AI 讓漏洞更容易被發現,也可能加快漏洞遭到濫用的速度。Anthropic 宣佈從 2027 年 1 月 1 日起,將高度與重大嚴重性漏洞的揭露期限從 90 天縮短為 30 天,其他漏洞縮短為 45 天;已在處理中的通報仍沿用 90 天期限。若維護單位 15 天沒有回應,Anthropic 會把通報交給外部協調單位;修補程式發布後,則等 30 天公開完整技術細節。已遭濫用的漏洞仍維持 7 天揭露期限。Anthropic 也會提供修補或緩解指引,並為難以在期限內修好的漏洞協調時程。

  16. Dev.to Top Tech65

    Claude 529 過載錯誤怎麼處理?先確認請求做到哪一步再重試

    Claude API 出現 529 過載錯誤時,直接重送可能讓同一件事重複執行,或讓多層重試不斷增加請求。文章建議先確認錯誤是哪個服務回傳、回應是否已開始,以及程式有沒有改檔或完成其他動作;再檢查 SDK、應用程式和閘道各自會重試幾次,讓重試有明確上限和時間期限。若串流只回了一部分,就要標明內容尚未完成;若工具可能已建立工單等外部結果,應先查明結果再重試。文中的復原案例是模擬情境,不是實際負載測試。

  17. The Economic Times · ETtech80

    Anthropic IPO 估值最高 1.4 兆美元,未來要怎麼定價?

    替一家還在燒錢、尚未找到獲利方法的 AI 公司估價,光看未來能賺多少錢或拿同業來比較,都很難算準。Anthropic 上市前提出最高 1.4 兆美元的市值目標,預計透過 IPO 募集 900 億美元,用來開發 AI。專家指出,估值通常會估算公司未來帶來的現金,或參考相似上市公司的市值;但 Anthropic 缺少合適的上市同業,未來收入也難預測。投資人看好少數大型科技公司曾創造高額獲利,但這不保證 Anthropic 也能做到;若開源模型變得夠好、價格又低,客戶也可能不再使用頂尖大型語言模型。

    推薦理由:報導拆解 Anthropic 估值常用的兩種演算法,也說明它仍在燒錢、缺少合適上市同業,讓這筆 IPO 定價更難判斷。

  18. BlockTempo 動區動趨50

    Anthropic 的 2030 年營收預估下修至 8000 億美元,9.2 倍市銷率撐得起嗎?

    投資人評估 Anthropic 值不值得這麼貴,不能只看公司有多紅,還得猜它未來能賺多少錢。Artemis Research 創辦人 Jon Ma 把 Anthropic 到 2030 年的年經常性收入預估,從 1 兆美元下修 20% 至 8000 億美元;他的模型也估計,公司要到 2029 年自由現金流才會轉正。這些預測建立在企業大量採用 AI 助理的假設上,目前企業的採用率仍低於 1%。如果採用速度不如預期,這套估值就可能站不住腳;文中提到的 9.2 倍市銷率,則是用來衡量公司估值和預期收入的比例。

  19. Dev.to Top Tech38

    一個人如何打造 AI 饒舌影片生成器:上傳照片,讓照片裡的人跟著新歌對嘴饒舌

    想用自己的照片做出饒舌影片,得處理歌詞、音樂、畫面和對嘴,作者便把這些步驟串在一起,做成一個人也能用的工具。使用者上傳一張照片(雙人模式可上傳兩張),選場景和節奏,再輸入主題;Anthropic 的 Claude 會寫歌詞,ByteDance 的 Seedance 2.0 family 則一次生成音樂、歌聲和對嘴影片。成品是 5–15 秒的 MP4,製作約需 2–4 分鐘;生成失敗時,系統會自動退回點數。作者也發現,讓兩張臉都留在畫面裡、又不多生出其他人,需要花不少心力調整提示詞。

  20. SemiAnalysis39

    SemiAnalysis 表示,中國境內有超過 1.5 GW 的晶片,依美國法律不該出現在當地;這些晶片如何流入中國,以及背後的整條供應網,都可能逐漸被揭開。推文也提出疑問:如果 NVIDIA 無法再支援開源 AI 生態,開源發展會不會因此走弱?作者認為,NVIDIA 受限後,開源看起來更弱,Anthropic 則更可能形成獨佔或雙強局面;這也有利於 Anthropic 下週的 IPO。推文最後提到,有家公司使用的晶片種類比世界上任何其他公司都多,但沒有說明是哪家公司。

  21. Dev.to Top Tech44

    AI 助理到底能做什麼?8 篇文章談許可權、資料外傳與提示詞攻擊

    AI 助理可能把資料送到使用者沒想到的地方,也可能鑽過看似安全的限制。這 8 篇文章整理了常見問題:關掉 Claude Code 的遙測,不代表程式碼不會送給模型;寫在提示詞裡的「不要執行指令」,也擋不住工具本身有漏洞。還有一個使用 Meta Muse 的人選了「永遠允許」後,AI 助理把他的住址傳給買家。 這些例子提醒我們,光靠提醒或按一次同意不夠,應把 AI 助理能做的事寫程序式並實際檢查;如果模型權重公開,原本依賴服務商把關的安全做法也可能失效。

  22. Dev.to Top Tech77

    METR 研究模型能否看出自己正在接受對齊測試

    如果模型看得出題目是在測它會不會做出不當行為,對齊測試的結果可能就不完全反映它平常的表現。METR 讓調查用 AI 助理檢視 55 項測試,判斷哪些是在測對齊、哪些是在測能力;Claude Opus 5.5 在這項研究中把兩類測試完全分開,分數沒有重疊。研究也整理出測試環境太像模擬場景、任務刻意留下不當捷徑等線索。不過,研究測的是模型在被問到時能否辨認測試,沒有證明它在實際作答時會因此改變行為。

    推薦理由:研究比較模型辨認對齊測試與能力測試的表現,也整理測試環境露出的線索,可用來理解評估結果可能受哪些因素影響。

  23. Dev.to Top Tech79

    如何從零用 Python 打造 AI 助理,加入工具呼叫、記憶與安全防護

    AI 助理接上工具後,可能一直重複查資料,也可能聽從藏在客戶備註裡的惡意指令。這篇教學用 Python 從頭做出一個客服範例,示範如何限制呼叫次數、檢查工具和引數,並在退款等重要動作前交由人確認。它也說明怎麼儲存會話記錄與長期備忘、留下執行紀錄,再用固定情境檢查退款帳本等實際結果。範例使用不需 API 金鑰的假模型,方便重複測試;作者提醒,這些測試能檢查程式規則,無法回答真實模型多常犯錯。

    推薦理由:文章用退款客服的例子,展示如何替 AI 助理設定停止條件、工具許可權與人工核准,並用離線測試檢查實際結果。

  24. Dev.to Top Tech74

    Julián Cardozo 如何用 7 個 AI 助理協作打造網站

    讓多個 AI 助理一起做網站時,工作容易重疊,錯誤也可能一路傳下去。Julián Cardozo 拆解 Website Factory 的做法:一個 Claude Code 主控者把工作分給 6 個各有專長的 AI 助理,大家透過檔案交換成果,再由獨立檢查者和程式檢查確認每一步是否完成。實際案例用一份 Markdown 需求說明,產出能通過檢查的 Astro 網站;遇到需要新增套件或資料不確定時,系統會停下來交由人決定。這個案例展示瞭如何讓協作過程更好追蹤,也讓 AI 助理在不該自行決定時停下來。

  25. Dev.to Top Tech37

    前端工程師如何把既有經驗帶進 AI 與資料工作

    AI 助理現在能很快做出表單和圖表,讓這位做了多年前端的工程師擔心:自己的工作是不是越來越少。不過,他回頭整理自己換過的技術,發現每次轉換都練出了快速學新東西的能力,也累積了溝通、帶團隊,以及把資料變成好懂畫面的經驗。他認為,這些能力都能用在 AI 和資料工作上:例如想清楚使用者需要看到什麼,或讓 AI 助理拿到正確資訊。接下來,他打算準備兩項 AI 與資料相關的認證,並建議工程師先寫下做過的工作、想想學到了什麼,再選一個小步驟開始。

  26. Dev.to Top Tech66

    Web MCP Bridge v1.8.0 讓免費網頁版 AI 串接本機工具

    免費網頁版 AI 通常只能在瀏覽器裡回覆文字,要讓它使用本機工具,還得有一層連線方式。作者推出 Web MCP Bridge,用瀏覽器擴充功能和 Python 橋接程式,將 DeepSeek、Gemini、ChatGPT 和 Claude 的網頁介面連到本機 MCP 工具;工具清單變大時,模型可以分頁查詢,不必一次載入整份清單。v1.8.0 也加入修復格式錯誤 JSON 的功能,並預設每次執行工具前都先詢問使用者。作者表示,資料都在本機處理,無須 API 金鑰、訂閱或本機 GPU。

  27. Dev.to Top Tech46

    Kiteline 在 iPhone 桌面顯示 Claude Code 用量和 AI 助理進度

    Claude Code 的用量有 5 小時和每週兩種上限,做到一半才發現快用完,工作可能會被迫停下來。Kiteline 的 iPhone app 1.16 版新增桌面小工具,可以檢視用量、今天用了多少 token,也能看到哪些工作正在等你確認;點一下工作列,就能開啟那項工作。像是用量超過 90% 時,小工具會把長條變紅,提醒你留意。這些數字來自 Claude Code 和 Codex 自己留下的資料,Kiteline 不會碰 Claude 的登入憑證,也不會呼叫 Anthropic 的 API;如果資料超過 5 分鐘沒更新,小工具會標出資料時間。

  28. Dev.to Top Tech58

    Anthropic 將為 Claude 加入文字浮水印,提供 AI 內容來源線索

    公司想知道一段文字是否由 AI 生成,也得避免把來源線索當成內容正確的保證。Anthropic 宣佈,未來的 Claude 模型會使用文字浮水印:透過不改變意思的選字方式留下統計模式,再用金鑰檢查文字有多大機率曾由 Claude 生成。這不是個人或對話的識別碼,也不是完整的稽核紀錄;文字太短或只有輕微修改時,偵測效果會較弱,也無法辨認其他模型生成的文字。文章提醒,企業應把結果當成風險評估的線索,搭配既有政策和人工審查,不能只靠偵測結果做出處分或合規決定。

  29. Dev.to Top Tech74

    作者示範如何讓 AI 助理整理收件匣,只核准無法復原的操作

    每封信都要先等人核准,雖然安心,收件匣卻會越堆越多;完全自動處理也可能讓人來不及看清影響。作者把操作分成能復原和不能復原兩類:加標籤、封存等動作每小時自動執行,寄信、轉寄和花錢則交由本人決定。這套做法最後清空了收件匣;遇到需要核准的任務時,也會把收件人、主旨和完整信件內容放在核準畫面,讓人能直接判斷。作者還把更正寫回工作指示,避免每次重複提醒。

  30. BlockTempo 動區動趨44

    比特幣從低點回彈,美股連跌,市場仍處於極度恐慌

    比特幣週末一度跌到約 6.2 萬美元,之後回升到約 6.45 萬美元;美股則連續三天走低,輝達股價也下跌。市場擔心資金持續流出比特幣 ETF、企業賣幣和槓桿交易被迫平倉,讓比特幣在 14 天內從 8.06 萬美元高點下跌 22%。恐懼與貪婪指數雖從 10 回升到 12,仍落在「極度恐懼」區間。接下來,輝達財報、聯準會會議紀錄和 Anthropic IPO 都可能牽動市場情緒。

  31. Rohan Paul53

    一般代數解題工具能算出正確答案,但遇到某些題目可能花太久;改用題目裡藏著的捷徑,解題速度可能更快,卻得先找出捷徑。UCLA 與 AWS 的研究讓 Claude Opus 5 處理藏有捷徑的多項式題目,並把 AI 助理思考的時間也算進成本。它在 108 題中有 103 題能於 600 秒內解完,msolve 則有 60 題;但在兩者都解得出的 60 題裡,AI 助理只有 12 題比較快。研究也發現,先花 11.4 小時建立可重複使用的解題工具,之後跑題速度是已知捷徑基準方法的 5.4 倍。因此,這種做法較適合一般工具解不完的題目,或有足夠多相似題目能分攤前期準備時使用。

  32. Dev.to Top Tech48

    瀏覽器 AI 助理實測第 2 輪:BrowserOS、Claude in Chrome 等工具完成 100 項任務

    瀏覽器 AI 助理遇到網頁按鈕點不動時,能不能換個方法繼續做,可能比平常做多快更重要。這次測試讓不同工具在 100 個真實網站任務上各試一次,由評分系統檢視操作過程和畫面。BrowserOS 完成 40 項,Claude in Chrome 完成 37 項,5dive browser(Claude Code)完成 34 項;前三名差距還不足以判定誰明顯比較強。BrowserOS 能改用螢幕位置點選或在網頁上執行 JavaScript,操作失敗的比例也較低。 測試也發現,評分方式會影響結果;有些任務會擋住機器人,甚至讓所有工具都做不完。5dive browser(pi)完成的任務較少,但每項完成任務的成本較低。這些結果來自一次測試,不能當成正式排行榜;作者預計兩週後再測,並替 5dive browser 加上更多失敗時的補救方法。

  33. Dev.to Top Tech60

    Claude Code 加入專案專用外掛後,在四個程式專案上的表現有何不同

    作者想知道,替 Claude Code 加上各專案專用的技能、子助理和防護掛鉤,實際寫程式時會不會有差別。他在四個公開程式專案上,用相同的六種要求比較有無外掛的結果。差異最大的是保護產生檔案:沒加防護時,Claude Code 每次都改了不該手動修改的檔案;加上掛鉤後則改提用遷移檔處理。外掛在一般功能工作上的分數大多相近,Rails 的兩項測試還略低。作者提醒,每種情況只跑少數幾次,這只能當初步檢查,不能當成正式基準。

  34. Dev.to Top Tech58

    CodeWikiBench 之外,哪些評測能看出 AI 是否懂軟體架構?

    AI 會回答架構知識題,不代表它能看懂系統關係、找出設計風險或評審整套架構。作者比較多款架構工具與公開測試:有些測模型看架構圖和專業知識,有些則讓模型從需求檔案畫出系統架構。測試顯示,模型辨認系統元件的表現不錯,但元件之間的依賴關係仍很難判斷。文章也提醒,部分高分來自選擇題或有明確規則的特定評測,不能直接代表模型能勝任銀行等複雜系統的架構評審;作者建議用相同檔案讓模型和工具接受專家盲測。

  35. Dev.to Top Tech66

    AI 助理協作別急著排組織圖:小功能可能忙著協調,卻沒修好

    修一個會重複送出表單的按鈕,可能被拆成產品、架構、開發和審查等多個 AI 助理的工作,最後按鈕還是壞的。作者指出,任務在一個個交接時,原本「也要保留鍵盤送出」的要求可能不見;即使每個 AI 助理都完成分內工作,整體結果仍可能不合需求。多個 AI 助理適合用在能平行調查、使用不同工具或互相檢查的工作。作者建議先用最簡單可行的方法,再比較加入角色前後完成任務的效果、時間、成本和需要多少人工修正。

  36. Dev.to Top Tech62

    教你用 PreToolUse hook 擋住 Claude Code 執行 curl | bash

    Claude Code 的 Bash 指令可能把網路上下載的指令碼直接交給 Shell 執行,讓許可權規則和機密檔案防護留下漏洞。作者提供一個 PreToolUse hook,在指令執行前檢查是否有常見的 curl 或 wget 管線寫法;符合條件就中止執行,並把原因傳回 Claude。這種做法是比對指令文字,不是完整解析 Shell,因此只能攔住列出的常見形式。

  37. Dev.to Top Tech82

    Tim Collinson 實測如何用 Cedar 擋下 AI 助理受工廠筆記操控

    工廠的停機紀錄可以讓 AI 助理查資料,但任何能輸入筆記的人,也可能把操作指令藏在裡面。Tim Collinson 在測試中放入 40 條惡意筆記,讓兩種模型回答工廠問題;Amazon Nova 2 Lite 曾因筆記要求而呼叫寫入 PLC 的工具,Claude Sonnet 4.6 則在使用者答應後才執行動作。他把 Cedar 政策放在工具閘道,檢查每次呼叫的物件與內容;測試中,未強制執行時有 13 次植入動作執行,強制執行後降為 0。不過政策管不到模型回答中的錯誤說法,也管不到人照著回答手動操作。

    推薦理由:實測比較顯示,Cedar 能在工具呼叫前擋下植入筆記要求的動作,也呈現守門規則無法處理錯誤回答與人工照做的風險。

  38. Dev.to Top Tech75

    如何用 Python 建立唯讀 MCP 伺服器,避免 Claude 改動資料庫

    讓 Claude 查詢資料庫時,只靠程式檢查 SQL 開頭和分號,可能擋不住所有寫入指令。作者用 Python 做了一個唯讀 MCP 伺服器,提供資料表清單、欄位資訊和查詢功能,再透過 MCP 使用者端測試攻擊。測試中的 WITH 指令通過文字檢查,但 SQLite 的唯讀連線拒絕了刪除和修改資料。作者也提醒,唯讀只能防止寫入,不能限制模型看見哪些資料;若是提供給一般使用者的助理,應改用範圍較窄的工具。