Tiny Aya Global 用提問者的語言拒答,微調後也誤拒部分正常問題
The refusal is in English even when the request is not
重點導讀
Tiny Aya Global 遇到有害問題時通常不會提供可用的危險內容,但用羅馬字寫的 Hinglish 提問,常得不到清楚的拒答。
- 作者用 CuratorKIT 篩選訓練資料,再以 LoRA 微調模型,讓它用提問者所用的語言和文字方式拒答。測試中,三種語言的明確拒答比例都提高。
- 另有 30 個訓練後才寫的新問題,修正後模型沒有回答其中的有害請求。不過,40 個正常 Hinglish 問題有 6 個被誤拒。作者也提醒,主要測試題有 91.7% 出現在訓練資料中,因此另列新問題的結果。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
The refusal is in English even when the request is not
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文