Import AI 456:RSI 與經濟增長;AI 監管的激進可選性;以及神經計算機
Institute for Law & AI 的研究人員提出了針對 AI 監管的“激進可選性”方法,主張政府應在短期內避免過度監管,同時快速構建應對未來不確定風險所需的機構與資訊渠道。具體建議包括建立資訊收集機制、保護吹哨人、加強跨政府資訊共享、制定靈活規則、開展模型能力與安全評估以及提升模型權重安全性等。此外,來自 Meta 和 KAIST 的研究探討了神經網路能否作為傳統計算機執行。
Institute for Law & AI 的研究人員提出了針對 AI 監管的“激進可選性”方法,主張政府應在短期內避免過度監管,同時快速構建應對未來不確定風險所需的機構與資訊渠道。具體建議包括建立資訊收集機制、保護吹哨人、加強跨政府資訊共享、制定靈活規則、開展模型能力與安全評估以及提升模型權重安全性等。此外,來自 Meta 和 KAIST 的研究探討了神經網路能否作為傳統計算機執行。
summary_zh: 作者指出,AI 產業正面臨「偏差正常化」風險,企業與開發者過度依賴 LLM 輸出,可能導致安全漏洞與意外行為。 - 概念來源:此術語源自社會學家 Diane Vaughan 的「偏差正常化」概念,最初用於解釋美國航天挑戰者號災難中警示被忽視的過程。
Google 付費取得搜尋流量已成為市場主導,近期美國法庭裁定其與 Apple、Android 等平臺的「預設」合約違法。 - $20bn:2022 年 Google 向 Apple 付費以維持搜尋預設,佔 Apple 營收 17.5%。
summary_zh: 本文剖析 LLM 外在幻覺的成因與評估指標,強調訓練資料與微調的影響。 - 幻覺型別: - In‑context hallucination:輸出需與上下文一致。