跳到正文

#安全/對齊

RSS
今日 7 則
11月4日週三
11月3日週二
  1. BlockTempo 動區動趨64

    Claude 新規將上路:投資、醫療、法律建議、灌 AI 搜尋都屬高風險行為

    Anthropic 於 11 月 12 日推出新版使用政策,將高風險 AI 建議擴至 11 類,並新增對 AI 搜尋操縱與硬體控制的嚴格規範。 - 高風險 AI 建議:新增信貸、醫療資源取得、公共福利、法律身分與裁決等四類,總計 11 類;投資、報稅、法律、醫療等建議需經合格人審核並告知使用者 AI。

  2. Dev.to Top Tech35

    **title_zh:**

    程式碼代理觀察 GitHub:在開 PR 前的實務安全檢查清單 summary_zh: 一個在 GitHub 上觀察事件並自動產生 PR 的程式碼代理,作者提出了實務安全檢查清單以確保安全。

  3. TechCrunch · AI78

    Anthropic 警告可能即將達到遞迴自我改進(RSI)門檻

    Anthropic 在修訂版 S-1A 中表示,依內部估計,公司可能即將達到負責任擴充套件政策對「由 AI 帶來大幅加速進展」的定義,但目前沒有模型被認定已跨過門檻。

    推薦理由:Anthropic 在 S-1 檔案中說明 AI 加速研發帶來的安全風險,也稱可能接近其 RSI 定義;文章梳理了這項警示與人類監督承諾。

11月2日週一
  1. The Hacker News65

    Microsoft Teams 內的攻擊者冒充 IT 支援,誘使員工授權遠端存取,並利用 AD CS 獲取特權,成功盜取公司資料,即使 Microsoft Defender 已阻擋大部分攻擊。\n- 攻擊手法:社交工程 + 遠端協作工具。\n- 利用技術:AD CS 取得特權存取。\n- 防禦效果:Microsoft Defender 阻擋大部分,但仍有資料被竊。\n- 影響範圍:公司資料被盜。