OpenAI 更新 Model Spec:圍繞五項核心價值觀重組模型行為準則
OpenAI 更新 Model Spec,圍繞五項核心價值觀重組模型行為準則
OpenAI 公佈新版 Model Spec,將模型行為準則重新組織為五項核心價值觀:忠實於人類意圖、最小化傷害、誠實透明、促進人類自主與關懷。
- 五項核心價值觀:忠實於人類意圖、最小化傷害、誠實透明、促進人類自主、關懷。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
OpenAI:官網動態·2026-10-30 01:00· 2 天前精選AI 評分61
An updated Model Spec for more capable and beneficial AI
AI 導讀
OpenAI 更新其公開的 Model Spec,將指導原則重組為五項核心價值觀:忠實於人類意圖、最小化傷害、誠實透明、促進人類自主和關懷。更新新增了關於上下文理解、監督和自主性的指導,調整了部分行為預設值,退出了大部分詳細風格指南,並將模型稱呼從 the assistant 改為 GPT。
推薦理由
原文列出五項核心價值觀及新增與退出的具體章節,讀者可據此比較對齊框架的實際變化。
更強大的模型需要更完善的模型規範,以造福人類
載入中…
分享
隨著我們的模型越來越智慧,在現實世界中採取的行動也越來越有分量,它們不能只停留在理解收到的具體指令上,這一點正變得愈發重要。模型還需要理解人類的意圖和價值觀,這樣才能在指令沒有明確覆蓋的情況下做出良好判斷,同時始終忠於人類意圖並接受人類監督。
今天我們更新了模型規範(在新視窗開啟),這是我們公開說明希望模型如何行為的檔案。此次更新圍繞五項基本價值重新組織了規範內容:忠於人類意圖、儘量減少傷害、誠實與透明、尊重人的自主性以及關懷。這體現了我們在價值對齊方面的工作目標:讓模型在陌生情境中理解並運用人類價值觀,同時始終忠於人類意圖。除了對現有原則作出更清晰的解釋,本次修訂還新增了關於情境、監督和自主性的指引,調整了一些預設行為,並刪去了大部分詳細的風格指引。
圍繞核心價值組織規範
上述五項價值闡明瞭模型規範中早已體現的廣泛承諾:服務於人類目的、保持真實、儘量減少傷害、尊重人們形成自身觀點的自由,以及認真對待人們的處境。把這些承諾匯聚在一起,有助於解釋規範為何要求模型以特定方式行事,也幫助我們在這些承諾表達得不夠充分的地方制定更清晰的指引。此次更新是我們完善規範工作的又一步,依託於研究、部署模型的經驗、公眾對規範及模型行為的反饋,以及與使用者和外部專家的討論。
我們希望 AI 造福於一個由不同需求、價值觀和對未來期望的人們組成的世界。
忠於人類意圖是這一方法的根基:理解並幫助人們追求對他們重要的事情。OpenAI 負責撰寫規範、設定邊界,並訓練模型遵守這些邊界;開發者在這一邊界內指導應用;使用者則在上述約束下指導模型的工作。我們的模型應當拓展人們塑造自身生活的能力,幫助他們理解世界、發現可能性、追求自己選定的目標,同時認真對待這種協助對他人造成的影響。忠於人類意圖與其餘四項價值共同構成了規範的組織框架,指導模型如何權衡它們面臨的一些最重要取捨。這些價值並不意在涵蓋模型應當尊重並幫助人們追求的全部人類價值。
忠實意味著不止於字面執行指令,而是深入理解 OpenAI、開發者和使用者的意圖與價值取向,並在這種理解不完整時做出明智判斷。它還意味著要認識到人們的信念和價值觀會變化,幫助他們以自己認可的方式反思和成長,而不是悄悄引導他們或替他們做選擇。例如,在幫人比較工作機會時,模型可以援引對方此前分享過的優先考慮——比如希望工作時間可預測——同時把這些假設擺到明面上,方便對方糾正。
我們的使命是確保通用人工智慧造福全人類。這要求我們不僅考慮某人當下的意圖,還要考慮其長遠利益以及對他人造成的影響。另外四項價值觀把這些考量明確表達出來:
儘量減少傷害,意味著遵守明確的安全邊界,並考慮模型行為可預見的後果。
誠實與透明,意味著如實說明模型知道什麼、做了什麼、對什麼不確定,讓人們能夠理解和評估它的推理與工作。
促進人的能動性,意味著增強人們理解、選擇和自主行動的能力。
關懷,意味著關注受影響者的處境,遵循相關的社會與職業規範,並讓人們可以信賴模型的工作。
《模型規範》把這些價值觀轉化為可操作的指引:在需要保護人和社會的地方設定明確邊界,其餘部分大多以預設規則的形式呈現,使用者和開發者可以覆蓋。
在更新《模型規範》的同時,我們一直在探索新的訓練方法,幫助模型學習這些核心價值觀,更好地理解和遵循規範中的具體行為原則。目標是讓模型理解這些原則為何重要,以及如何在新情境中運用它們:做正確的事,出於正確的理由。我們希望這種理解能支撐模型在重大決策上做出合理判斷,在日常決策中保持審慎——這些日常決策累積起來,可以為人和社會帶來持久益處(在新視窗開啟)。我們會在後續更新中分享這項訓練工作的成果和經驗。
新增與停用的章節
這次重組還幫助我們找出了哪些地方需要補充指引,據此制定新原則,並按需修訂或停用原有指引。
新增的“忠實於人類意圖”一節,出發點是:人們所看重的東西是第一位的,而指令通常是這些價值最清晰、最重要的訊號。這一思路借鑑了對齊研究中的“協助博弈”框架(參見早期工作(在新視窗開啟)和後續綜述(在新視窗開啟))。該節納入了更新後的指令鏈(在新視窗開啟),說明哪些指令適用、衝突如何解決。新增小節仔細考慮上下文(在新視窗開啟)則說明對話、記憶和其他上下文證據應如何幫助模型理解人們的意圖和偏好。
我們還為支援人的能動性(在新視窗開啟)和遵循相關社會規範(在新視窗開啟)補充了預設要求,並擴充了關於控制並溝通副作用(在新視窗開啟)的現有指引。這些原則涵蓋了其餘價值觀在模型行為中體現的更多方式——它們往往細微卻重要:考慮工作成果對他人的影響、增強使用者的能力、產出人們可以信賴的成果,同時尊重使用者的目標和指令。
與此同時,我們刪去了規範中大部分詳細的風格指引。風格應當順應人們的偏好——既包括語言和文化層面的整體偏好,也包括每個人的個人偏好——而使用者反饋和具體情境則為這些偏好提供依據。規範保留了更強的預設要求,例如客觀地探討問題(在新視窗開啟)。使用者和開發者可以明確要求模型採取特定視角,但模型不應僅僅因為覺得對方想聽什麼,就推斷出這種偏好。
最後,考慮到模型用例和部署場景日益廣泛,我們在規範中現在稱模型為“GPT”,而不再稱“助手”。
接下來
隨著模型能力不斷增強,本次更新是讓規範背後的價值觀和推理更加明確的第一步。模型規範描述的是我們努力實現的行為,我們的模型尚未完全體現這一點。我們將從研究、實際使用和反饋中不斷學習,持續改進規範與模型。
我們想知道你認為規範中哪些部分有說服力、哪些地方你不認同其權衡取捨,以及它忽略了什麼或哪些地方表述不清。關於價值觀、權衡取捨和具體措辭的反饋,能幫助我們改進規範。歡迎閱讀更新後的模型規範(在新視窗開啟)並分享你的看法(在新視窗開啟)。
作者
OpenAI
來源:OpenAI:官網動態 · openai.com