AI安全投资的市场激励

arXiv:2610.21607v1 公告类型：新 摘要：尽管现代AI系统具有重要的实际意义，但也带来了重大的社会风险，包括毒性内容、恶意使用和错误信息。对这些风险的缓解不仅取决于技术可行性，还取决于开发和部署这些系统的企业所面临的激励。我们展示了，在一个由上游LLM提供商和数家相互竞争的下游企业组成的AI供应链中，利润最大化如何影响安全投资。在我们的博弈论模型中，我们推导出市场驱动的安全投资水平，并将其与最大化市场福利和行业利润的投资水平进行比较。我们发现，下游竞争通常会促使下游企业进行高于行业利润最优水平的安全投资。相比之下，上游提供商相对于这些基准可能会投资不足，因为其无法完全获得安全投资所带来的剩余收益。最后，我们分析了不同监管干预如何影响参与者的激励和利润，以及由此产生的模型安全水平。