跳到正文
Dev.to Top Tech(dev.to)· Harish Kotra (he/him)·· 4 天前品質評分52

Tiny Aya Global 用提問者的語言拒答,微調後也誤拒部分正常問題

The refusal is in English even when the request is not

重點導讀

Tiny Aya Global 遇到有害問題時通常不會提供可用的危險內容,但用羅馬字寫的 Hinglish 提問,常得不到清楚的拒答。

  • 作者用 CuratorKIT 篩選訓練資料,再以 LoRA 微調模型,讓它用提問者所用的語言和文字方式拒答。測試中,三種語言的明確拒答比例都提高。
  • 另有 30 個訓練後才寫的新問題,修正後模型沒有回答其中的有害請求。不過,40 個正常 Hinglish 問題有 6 個被誤拒。作者也提醒,主要測試題有 91.7% 出現在訓練資料中,因此另列新問題的結果。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

The refusal is in English even when the request is not

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論