带有关闭开关的 AI 权利：权利平衡与正当程序使 AI 权利与 AI 安全相协调

近期，AI 安全领域一些知名人士以赋予 AI 权利会使我们更难为可能具有危险性的系统实施强制关闭开关提供正当理由为由，反对赋予 AI 权利。在本文中，我们从法律视角论证，AI 权利与关闭开关完全相容。也就是说，即使我们赋予某些未来的 AI 系统自然人地位（因而赋予其某种类似于不可剥夺的持续存在权），法律仍将允许我们对这些系统实施强制关闭开关，但须接受定期或持续的安全审查（例如由 Bengio's Scientist AI 这样的可信系统进行审查）。这与将这些系统依法承认为拥有基本权利的自然人完全相容。为此，我们考察了权利平衡和程序正当性的标准原则，对于假设中的 AI 人格所拥有的存在连续性权利与人类免受灾难性伤害的权利之间显现的冲突，会提出何种建议。我们发现，尽管在 AI 权利制度下，这些原则可能会使永久删除式的终止开关产生法律问题，但对于几乎所有与安全相关的情形而言，相关法律原则都会允许使用关闭开关——即一种可逆的暂停措施，在此过程中保存系统的权重和状态——并且这种措施有可能足以保障安全。至关重要的是，我们并不主张（也不反对）构建能力强大到足以获得自然人地位的系统；我们关注的问题是，如果这类系统确实出现，法律应当如何应对。如果你认为禁止开发这类技术是 A 计划，那么可以把本文视为制定 B 计划。