AI 有潜力显著改善社会的许多方面。

这项技术和此前的其他技术一样，将赋予人们更强的能力和自主性；人们借助 AI 能做到的事，将远远超过蒸汽机或电力曾让人们做到的事。

我们设想这样一个世界：普遍繁荣达到如今难以想象的程度，个人潜能、自主性和实现自我的机会都将大幅提升。许多我们只敢在科幻作品中想象的事情都可能成为现实，而且大多数人都可能过上比今天大多数人所能拥有的、更有意义的生活。

但这种结果并非必然。未来的权力，既可能掌握在少数几家使用并控制超级智能的公司手中，也可能以去中心化的方式掌握在人们自己手中。我们相信后者要好得多，我们的目标是让真正通用的 AI 尽可能掌握在更多人手中。和现在一样，未来不会全然糟糕，也不会全然美好，但我们现在做出的决定可以帮助把好的结果最大化。

我们的使命是确保 AGI 造福全人类。以下是指导我们工作的原则。

1. 民主化。我们将抵制这项技术把权力集中到少数人手中的潜在趋势。

这意味着，除了让每个人都能使用 AI 之外，我们还需要确保关于 AI 的关键决策通过民主程序并依据平等原则作出，而不只是由 AI 实验室来决定。

2. 赋能。我们相信，AI 能赋能每个人实现目标、学到更多、变得更快乐、更充实，并追逐自己的梦想，而整个社会也将因此受益。

要实现这一点，就需要让人们去探索摆在我们面前的巨大潜力，我们也需要打造能够支持这一点的产品。用户应当能够通过我们的服务，稳定可靠地完成价值越来越高的任务。

世界是多元的，人们的需求各不相同。我们希望给予用户所需的自主权，并在合理范围内尽可能放宽限制。

尽管我们希望在用户如何使用我们的服务方面给予非常广泛的空间，也坚信总体而言 AI 将带来巨大的益处，但我们有责任以尽量减少伤害的方式来构建和部署它。这当然包括防止灾难性伤害，也包括尽量减少局部伤害，并避免可能对社会造成的腐蚀性影响。这意味着在面对不确定性时宁可谨慎一些，并在证据更充分时放宽约束。

3. 普遍繁荣。我们希望未来每个人都能拥有卓越的生活。

我们相信，只要把易于使用且具备强大算力的 AI 系统交到每个人手中，人们就会找到新的方式创造价值，并大幅提升所有人的生活质量，尤其是在新科学发现方面。

为了让繁荣得到充分实现并被广泛共享，我们认为：1）各国政府可能需要考虑新的经济模式，以确保每个人都能参与到眼前这波价值创造之中；2）我们需要建设海量 AI 基础设施，并开发新技术，大幅降低 AI 基础设施的成本。

我们做的许多看起来有些不同寻常的事情——例如在收入还相对较少时就购买大量算力、通过垂直整合来降低成本并让我们的技术更易使用、推动在全球各地建设数据中心等等——都源于我们对普遍繁荣未来的根本信念。

4. 韧性。AI 将带来新的风险，我们将与其他公司、生态系统、政府以及社会各界合作来解决这些问题。我们会大量运用基金会的资源来支持这项工作。

没有任何一家 AI 实验室能够独自确保一个美好的未来。举一个明显的例子，可能会出现能力极强的模型，使制造新型病原体变得更容易，我们需要一种全社会层面的应对方式，利用不依赖特定病原体的对策来防范此类风险。再比如，随着模型的网络安全能力增强，我们需要迅速利用这些模型帮助保护开源软件和关键基础设施，同时训练这些模型帮助每个人开发出更安全的软件。

这是我们长期坚持的“迭代部署”战略的延伸；我们认为，社会需要面对 AI 能力一次次提升带来的每个新阶段，理解它、整合它，并共同找出最佳前进路径。这无法在真空中完成；社会与技术是共同演化的，而这需要时间。

这并不意味着这是我们唯一的安全策略；我们还需要打造安全的系统，并持续在技术对齐方面开展出色工作。

我们预计，在某些阶段，我们需要与各国政府、国际机构以及其他 AGI 努力开展合作，以确保在进一步推进我们的工作之前，我们已经充分解决了重大的对齐、安全或社会问题。

5. 适应性。我们依然相信，面对一个极难预测的未来，唯一能够应对其挑战的方法，就是准备好随着了解的增加而更新我们的立场。我们也承认，如今 OpenAI 对世界的影响力已远大于几年前，因此当我们的运营原则发生变化时，我们会就变化发生的时间、方式和原因保持透明。举个具体例子，虽然我们相当确信普遍繁荣始终会非常重要，但我们可以设想未来某些时期，为了获得更强的韧性，我们不得不在一定程度上牺牲部分赋能。

AI 的发展已经带来了许多意外，而未来还会有更多。随着技术进步，其涌现行为将变得越来越难以预测。我们通过谨慎推进能力提升、迭代部署系统，并从它们与世界的互动中学习，来拥抱这种不确定性⁠。

就在不久之前，我们还曾对发布 GPT‑2 的权重感到紧张，因为我们并不确定它会对社会产生什么影响。事后看来，这种担忧显然是多余的，但它促使我们发现了“迭代部署”这一策略，而这一直是我们所摸索出的最重要经验之一。

__

随着技术持续进步，我们正进入一个影响极其深远的阶段。人们完全有理由批评我们的每一个决定；鉴于我们所做事情的重要分量，我们理应接受极其严格的审视。我们不会把每件事都做对，但我们会快速学习并及时纠偏。

我们致力于尽自己的一份力量，让未来比过去更好；能够承担如此重要的工作，我们深感幸运。