如何防止 AI 助理改掉自己的驗收條件
Don't let the AI change its own pass condition: pick the protected files, stop on any change
重點導讀
如果 AI 助理能自己修改判斷工作是否完成的條件,測試通過也不一定代表工作做對了。
- 作者示範一種檢查方法:開始前記下存放上限和測試的檔案內容,工作結束後再比對。
- 只要這些檔案有變動,就先不接受結果。範例中,AI 把上限和測試一起改成 12,檢查仍會擋下來。不過,它只看事先指定的檔案,若把新上限寫到別處就抓不到,因此還是需要行為測試和人工檢查。文中也提醒,設定值能讀程序式,不代表它真的會影響執行結果。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Don't let the AI change its own pass condition: pick the protected files, stop on any change
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文