Claude Duet 會主動傳訊息,作者分析它的安全設計與核准風險
Claude Duet Messages You First. That Changes Who Is in Control.
重點導讀
AI 助理開始主動檢視帳號、準備工作並請人核准後續動作,使用者可能因為核准太頻繁而不再仔細檢查。
- Anthropic 推出的 Claude Duet 研究預覽版會每隔幾小時檢視已連結的帳號。
- 寄出敏感訊息、付款或刪除資料前,會顯示動作內容和收件人,並由模型外的檢查機制判斷是否符合使用者原意。密碼和登入憑證也不會交給模型。不過,作者提醒,核准畫面仍需要人仔細閱讀。
- 拔除帳號連線後,Duet 已記住的內容仍會保留,直到重設記憶。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Claude Duet Messages You First. That Changes Who Is in Control.
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文