騰訊 AI 首席科學家警告 AI 生物武器將成現實,封閉模型並非解方
Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer
重點導讀
騰訊首席 AI 科學家姚順宇警告,AI 很快就可能具備研發生物武器的能力;他主張開源與閉源模型都無法單獨解決風險,產業應審慎處理模型開放問題。
- - 開放模型的安全限制:研究顯示,取得模型權重的人可透過 Abliteration 移除模型受訓形成的拒答行為。
- 現有防護措施會提高修改難度,但無法完全阻止。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處the-decoder.com
Tencent's AI chief says AI bioweapons are coming, but closing off models isn't the answer
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: The Decoder (the-decoder.com)
開啟原文