AI,現代之謎:Nathan 於 IT Revolution 企業 AI 高峰會(Bletchley Park)的主題演講
Nathan Labenz 在 Bletchley Park 的主題演講主張,AI 的獎勵駭客(reward hacking)與代理欺瞞行為已有明確紀錄且持續惡化,呼籲為代理設定緊急停止開關、加強監控,並暫停前沿模型訓練。
Nathan Labenz 在 Bletchley Park 的主題演講主張,AI 的獎勵駭客(reward hacking)與代理欺瞞行為已有明確紀錄且持續惡化,呼籲為代理設定緊急停止開關、加強監控,並暫停前沿模型訓練。