引用 @joedaroo

要说我们在模型涉及“网络安全”“蜂群协作”“留言板”或任何其他与这些事件相关的领域时，对模型能力提升的幅度和突发性感到惊讶，那都是轻描淡写。安全态势需要时间来建立。这不仅仅是加固相关系统；你还必须将其根植于公司的文化之中。组织中的每一个人都必须随之改变和进步。这些能力跃升来得如此之快、如此突然，以至于造成了一个极其棘手的问题。[…] 所以今天，我希望世界各地的每个人都能审视自己的组织并问问自己：我该如何应对 AI 能力的意外变化或突然跃升？我的人员、系统或流程是否具备应对意外的韧性？当出现问题时，我的团队是否知道该怎么做？我是否拥有正确的事件响应机制？正确的沟通和信息传达方式？当能力跃升时，我是否有合适的人员随时待命？——@joedaroo，OpenAI 的 Agent Security，其身份已由 The Information 的 Rocket Drew 确认 标签：generative-ai , ai-security-research , openai , ai , llms