AI 与算力

我们发布了一项分析，显示自 2012 年以来，最大规模 AI 训练运行中使用的计算量一直在以 3.4 个月的翻倍时间呈指数增长（相比之下，Moore’s Law 的翻倍周期为 2 年）[^footnote-correction]。自 2012 年以来，这一指标增长了超过 300,000 倍（若按 2 年的翻倍周期计算，只会增加 7 倍）。计算能力的提升一直是 AI 进步的关键组成部分，因此只要这一趋势持续下去，就值得为能力远超当今系统的系统所带来的影响做好准备。