跳到正文
solidot(solidot.org)·· 12 天前品質評分53

研究指出 DALL-E 3 透過提示詞修訂美化集約化畜牧業

生成式 AI 過度美化現實

重點導讀

研究發現,DALL-E 3 的提示詞修訂機制會將集約化畜牧業描繪成田園牧歌式場景,即使研究人員明確要求呈現真實情況也是如此。

  • - 研究比較:生成北美、歐洲和大洋洲農場影像時,模型多呈現奶牛在牧場吃草、豬在泥地拱土。
  • 關閉提示詞修訂後,影像更接近動物在室內飼養的現況,不同地區的差異也開始顯現。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

正文

生成式 AI 如 ChatGPT 正融入日常生活,成為人們獲取資訊和輔助決策的重要工具。然而大模型中嵌入的錯誤資訊和偏見引發了一系列倫理方面的擔憂。以往的研究已揭示出 AI 在涉及人類特徵的內容上存在偏見,例如膚色、性別以及地理文化背景等。為減輕文本生成影像(Text-to-Image)生成式模型中的偏見,OpenAI 等公司引入了提示詞修訂(Prompt Revision)機制。一種隱性的處理過程,即通過重寫使用者輸入的提示詞,新增更多細節,例如要求影像中呈現不同性別和膚色的人物,從而促進影像的多樣性。然而重寫使用者提示詞也可能引入其他偏見,在使用者不知情下改變其原本的意圖。發表在《Technology in Society》上的一項研究以集約化畜牧業(Intensive Livestock Farming)為例,首次提供證據表明,OpenAI 的文本生成影像模型 DALL-E 3 會通過提示詞修訂機制,抹去具有爭議性議題的真實面貌。DALL-E 3 表現出一種明顯的偏見,即傾向於將畜牧業浪漫化、美化。它生成的影像通常描繪奶牛在牧場上吃草、豬在泥地裡拱土。即使研究人員明確要求生成真實的場景,這種偏見依然存在。當研究人員關閉提示詞修訂功能後,生成的影像便更加接近現代畜牧業的實際飼養方式,即將農場動物飼養在室內。研究人員要求模型生成北美、歐洲和大洋洲農場的影像。結果發現,無論指定哪個地區,模型生成的影像大多呈現田園牧歌式的場景在關閉提示詞修訂功能後,不同地區之間的差異開始顯現。通過提示詞修訂機制將畜牧業浪漫化,掩蓋其真實狀況,可能會進一步強化公眾對於農場動物飼養方式的錯誤認知,甚至傳播錯誤資訊和虛假資訊。這種現實與 AI 生成內容之間的脫節,可能會阻礙社會開展有意義的對話。研究人員警告應警惕 AI 生成影像中普遍存在的、過度美化現實的傾向。

https://www.sciencedirect.com/science/article/pii/S0160791X26002551

來源: solidot (solidot.org)
開啟原文

讀者討論

理性交流 · 即時討論