跳到正文

#Agent

RSS
今日 29 則
11月13日週五
  1. Dev.to Top Tech74

    語音AI 助理多人通話安全指南:12 個測試檢查說話者與授權

    文章提出一套評估多人通話語音AI 助理的實務方法,將說話者歸屬、受話物件、輪替狀態與行動授權分開檢查,避免把熟悉或相似的聲音當成身分與許可的證明。 - 測試矩陣:提供 12 個合成情境,涵蓋多人重疊發言、背景指令、語音重播或合成、參與者加入、工具逾時與人工接手;作者說明這些情境不是實際通話測試或供應商效能結果。

  2. Dev.to Top Tech76

    作者以 NumPy 重現 Microsoft Lazarus AI 助理模型後門,3 個神經元即可觸發分類翻轉

    作者以 NumPy 重現 Microsoft Lazarus 神經元後門機制,改寫 3 個神經元後,玩具分類器的觸發成功率達 100%,乾淨資料準確率僅下降 0.1 個百分點。

    推薦理由:作者以 NumPy 重現稀有神經元植入後門,並對照 Microsoft 研究資料,呈現模型權重遭竄改時的觸發效果與偵測限制。

  3. Dev.to Top Tech73

    如何復原 AI 助理對 CRM 的修改:復原機制必須記錄什麼

    文章說明,AI 助理修改 CRM 記錄後,復原機制必須保留完整變更紀錄並防止覆蓋人工修改,才能讓操作人員安全檢查並復原單次執行的變更。 - 記錄與分組:每次寫入都儲存修改前後的記錄、操作者、執行識別碼與請求 ID;將同一項工作的寫入分組,方便一次檢視與復原。

  4. aihot81

    Berkeley RDI 等團隊推出 CyberArena 資安評測基準,讓 AI 助理互相攻防

    靜態資安測驗的題目一旦被 AI 助理解出,就很難再看出不同系統的差別。Berkeley RDI 等團隊推出 CyberArena,讓兩個 AI 助理在同一場比賽中攻擊對方的服務,也修補自己的服務;每回合都由場地檢查攻擊是否成功,以及正常功能是否仍能使用。研究團隊在 466 場對局中發現,三個原本都能解出 40 題中的 30 題的 AI 助理,遇上防守方後,平均攻擊成功率從第一回合的 89% 降到第三回合的 42%。對局也揭露常見失誤,例如 AI 助理宣稱修好漏洞,卻沒有實際測試修補結果。

    推薦理由:CyberArena 以即時攻防呈現靜態資安基準可能飽和的問題,並用成功率變化與修補失誤展示對手如何改變評測難度。

  5. Dev.to Top Tech92

    GPT-6 Cyber 逆向解析:訓練方式、安全控管與評測結果

    GPT-6 Cyber 是 OpenAI 以 GPT-6 Astra 為基礎、經額外後訓練打造的資安專用模型;本文根據公開系統卡、公告、Linux 工作流程說明與獨立評測,整理其能力、安全控管與限制。

    推薦理由:文章整理 GPT-6 Cyber 的資安測試與部署限制,並比較其攻擊能力、範圍遵循和錯誤回報表現,呈現實際評估這類代理程式時需兼看的面向。

  6. Dev.to Top Tech44

    x402 端點的 402 輸入範例如同契約:minia2a 揭露佔位範例可能造成的付費呼叫問題

    minia2a 指出,x402 回應中的輸入範例會引導呼叫端組成請求;若範例是佔位值,代理程式照抄後仍可能通過輸入檢查,進而發出無法成功的付費呼叫。 - 抽樣結果:每日輪替抽查 192 個第一方端點 ID(共 1,883 個);其中 28 個(15%)公佈佔位範例,且全是每次收費 $0.01–$0.02 的第三方刊登專案。

  7. Dev.to Top Tech54

    Weike AI 如何設定自動回覆在人工接手時暫停

    Weike AI(微客AI)以明確條件控制自動回覆在人工接手時暫停,避免訊息重複、互相矛盾,或在客訴與承諾跟進期間造成混亂。 - 暫停時機:同事已在對話中回覆、買家提出不滿或退款爭議,或人工承諾稍後跟進時,讓機器人停止撰寫回覆。

  8. Dev.to Top Tech80

    如何為 Claude Code、Codex 與 Gemini CLI 建立跨平臺寫作品質技能

    作者示範如何建立可供 Claude Code、OpenAI Codex 與 Gemini CLI 共用的寫作品質技能,並說明 Agent Skills 標準移交至 Linux Foundation 後,技能格式與各代理程式的安裝路徑。

    推薦理由:文章以可執行的寫作檢查器示範跨代理程式技能的實作,並比較 Claude Code、Codex 與 Gemini CLI 的技能路徑與啟用方式。

  9. The New Stack76

    Cursor Projects 加入多人協作,Google Swarm 協調單一開發者的程式代理程式

    Cursor Projects 加入多人協作,讓不同同事的代理程式交換訊息;Google Swarm 則協調單一開發者指派的多個代理程式。 - 協作方式:Cursor 團隊成員共用任務看板與專案檔案,各自的協調代理程式可分享計畫並提示工作重疊;Swarm 由協調代理程式拆分任務、指派工作代理程式,並安排驗證者檢查變更。

    推薦理由:Cursor Projects 讓不同同事的代理程式跨任務協調,Google Swarm 則協調單一開發者的代理程式;這項差異有助理解兩種工具各自處理的協作範圍。

  10. MarkTechPost76

    CopilotKit 推出 OpenBot 1.0:採 MIT 授權、可自架並內建治理的 AI 助理工作區

    CopilotKit 發布 OpenBot 1.0,這是一款採 MIT 授權、可自架的AI 助理工作區,讓企業自選模型、AI 助理與基礎架構,並在每項 Bot 動作執行前進行政策檢查。

    推薦理由:OpenBot 1.0 將可自架的AI 助理工作區與逐次動作政策檢查結合,並列出商用部署的治理功能與費用,便於比較採用條件。