METR 警告:AI 進步太快,專家可能來不及測試新系統是否安全
AI 模型愈來愈會處理研究和程式工作,但要確認新系統是否安全,專家可能跟不上進步速度。研究組織 METR 發現,在有明確目標和即時回饋的程式及計算任務上,模型多數時候已勝過有經驗的專業人士;人類需要更久才能完成的任務,模型能處理的時間長度約每 3.6 個月翻倍。METR 也提醒,常見測試可能高估模型在真實情境中的表現,因為開發者訓練模型時使用的環境和測試環境很相似。模型仍不擅長需要判斷、沒有即時回饋的開放式問題,而目前公開資料也不足以排除 AI 研究速度大幅加快的可能。