OpenAI Blog精选73

利用基于规则的奖励改进模型安全行为

Name: AI HOT 精选数据集（復刻站）
License: https://aihot.yuenlau.org/llms.txt

Improving Model Safety Behavior with Rule-Based Rewards

2024/07/24 17:00· 811天前

精选理由

介绍用规则奖励提升模型安全对齐的新方法

AI 摘要

我们开发并应用了一种利用 Rule-Based Rewards（RBRs）的新方法，使模型能够在无需大量收集人类数据的情况下安全地行事。