OpenAI Blog精选79

审议式对齐：推理让语言模型更安全

Name: AI HOT 精选数据集（復刻站）
License: https://aihot.yuenlau.org/llms.txt

Deliberative alignment: reasoning enables safer language models

2024/12/20 18:00· 662天前

精选理由

介绍 o1 模型用推理提升安全对齐的新策略

AI 摘要

审议式对齐：推理让语言模型更安全介绍我们面向 o1 模型的新对齐策略：直接向模型教授安全规范，以及如何围绕这些规范进行推理。