在人工智能的浪潮中，Sam Altman，OpenAI的CEO，与哈佛商学院的Debora Spar展开了一场关于AI未来的深刻对话。他们探讨了从非营利到营利的转变、AI在科学发现中的潜力，以及AI对社会公平和人类情感的影响。
在 OpenAI CEO Sam Altman 与哈佛商学院商业与全球社会高级副院长 Debora Spar 的对话中，Altman 清晰地阐述了 OpenAI 从非营利转向营利模式的原因，强调了为实现技术突破而对资本支持的迫切需求。
此外，Altman 还展望了 AI 在加速科学发现、尤其是物理学领域的潜力，并探讨了 AI 对人类情感连接和社会公平的影响。
Debora Spar
那么，你是否可以更详细地描述一下，为什么以及你是如何觉得需要从非营利机构转向营利性机构的？是某种突然的灵光乍现吗？还是某种简单的……
Sam Altman
说得简单一点吧，我们需要的资本量远远超过我们作为非营利机构所能吸引到的规模。我们意识到扩展计算能力很重要，但还是大大低估了我们需要扩展的规模。
Debora Spar
那么，这是否意味着在某种有意义的程度上，没人可以以非营利的形式来做 AI 呢？
Sam Altman
不完全是。还有其他一些事情是可以做的，但如果想在扩展研究方面处于前沿，我认为大概就无法以非营利形式实现。
Debora Spar
那政府呢？
Sam Altman
政府当然可以做任何他们想做的事情，对吧？
Debora Spar
是的，但也不完全是。我们试图探讨的一个问题是，有些事情企业可能比政府做得更好。所以，你觉得像能源部或国防部这样的机构能像你们一样做好 OpenAI 吗？
Sam Altman
阿波罗计划就很令人印象深刻。
Debora Spar
所以你认为这可能是另一条路径吗？
Sam Altman
我认为，在一个运行良好的社会中，这本来应该是一个政府项目。
Debora Spar
但……
Sam Altman
既然没有发生，那我认为以这种方式作为一个美国项目去做是更好的。
Debora Spar
你还提到过几次政府或者社会在设定一些框架或导向上应该发挥作用，尤其是在公平性方面。
Sam Altman
确实应该有这样的角色。我觉得社会在这里应该扮演一个重要角色。
Debora Spar
但社会本身并不是一个“实体”。
Sam Altman
没错，这是许多不同利益相关方之间复杂的协商。但我们确实知道，我们有能力在时间的推移中把它做对。
Debora Spar
给个例子，我们是怎么做对的？
Sam Altman
比如说，飞机现在非常安全。尽管波音可能有些问题，但总体上飞机是非常安全的。
Debora Spar
这很大程度上是传统监管的结果。
Sam Altman
我认为，这也因为人们想乘飞机时知道自己不会死。而社会对此作出了回应，对吧？
Debora Spar
具体来说，是政府作出的回应。
Sam Altman
飞机制造商同样也需要确保生产的飞机是人们愿意乘坐的，政府当然有其角色，科学家和工程师也有一种责任感。我认为这是多方共同努力的结果，但监管确实起了很大作用。
Debora Spar
你在这一过程中显然是一个大玩家，而且会一直是。那么，你是如何思考自己与政府之间的关系的？
Sam Altman
我希望这是一种真正的合作关系，目前合作还是相当有建设性的。过度监管显然会减缓创新，而监管不足又会带来一系列其他问题。我认为大家都同意这两个说法。关键是我们在这个光谱上的定位。
Debora Spar
你认为政府中的哪些部门，像 DHS（国土安全部）、DOE（能源部）或者 DOD（国防部），是你最想建立桥梁的？
Sam Altman
很难说得太乐观，但我认为这将触及社会的所有部分，也会涉及政府的所有部分。
Debora Spar
但这些东西很难建立。
Sam Altman
确实如此。但互联网几乎触及了社会的所有部分，对吧？
Debora Spar
但可以说我们有些部分确实做得很糟糕。
Sam Altman
没错，也有很多部分做得很好。我不认为大多数人会选择撤销互联网，即便它有很多问题。
Debora Spar
这是个有趣的点。我发现我的学生们，许多在社交媒体上成长起来的学生，倒是希望互联网的这部分消失。
Sam Altman
当然会有部分是人们不喜欢的，未来十年你的学生也会有不喜欢的地方。但整体上，我认为 AI 会是一个巨大的净收益。
Debora Spar
从社会或者商业的角度来看，你对 AI 最感兴趣的领域是什么？
Sam Altman
我个人最感兴趣的是大幅加速科学发现的速度。我认为，从长远看，这才是让世界可持续变得更好的方式。我对这一点非常兴奋。当然还有很多其他领域，比如 AI 教师、 AI 医学顾问会非常棒。但从个人来说，我对科学方面最为兴奋。
Debora Spar
科学的具体哪些领域呢？
Sam Altman
如果让我选一个，我会说解决所有的物理学问题。但实际上，我对所有领域都感兴趣。
Debora Spar
为什么是物理学？
Sam Altman
因为我对它有着极大的个人好奇心，而且我相信，我们对物理学的理解越深，就越能操控宇宙。我不知道这会带来什么，但探索这点似乎非常重要。
Debora Spar
那接下来的问题是，如果所有的物理学问题都被解决了，物理学家会怎样？
Sam Altman
如果真的是那样，那我也不知道。我猜我们解决了当前的问题后，还会发现更多、更难、更有趣的问题。
Debora Spar
你看过约翰·梅纳德·凯恩斯写的《为我们的孙辈展望的经济前景》吗？
Sam Altman
没有。
Debora Spar
我得发给你。这是篇很棒的文章。凯恩斯在 1930 年写的，探讨 100 年后的世界会是什么样子……
Sam Altman
哦，我知道，必须了解。
Debora Spar
他谈到类似的问题——当所有问题都解决后，他得出的答案有点奇怪，我们只会创作艺术，不再关心金钱。你是否思考过这些存在主义的问题，比如物理学家会怎样？
Sam Altman
你知道，这些问题已经被人们讨论了很久。他（凯恩斯）有些观点是对的，有些则不然。从某种意义上说，如果回到20世纪30年代，看看今天的很多人，你可能会说他们确实只是在“创作艺术”，并且不怎么关心金钱。他们都过得不错，但这并不是他们自己对生活的感受。
如果我们再往前走一百年，去问未来的人怎么看我们这些人的工作，他们可能会给出一种奇怪的“艺术”定义，说：“好吧，他们在创作艺术，他们完全不关心金钱。”因为他们生活在令人难以置信的物质富足之中。
但如果你深入思考，就会发现，他们似乎依然很忙碌，也很有压力，同时他们从自己的工作中获得了极大的满足感。而且，他们不会真的称之为“艺术”。他们仍然会觉得自己拥有的不够，仍然希望拥有更多。他们会找到新的方式彼此比较。或许他们不再比较谁的房子更大，而是比较谁的银河系更漂亮。但我认为人类的驱动力会一直存在。
Debora Spar
是的，人性如此。
Sam Altman
我不认为这会改变。
Debora Spar
不会改变。所以在我的一些书中，我谈到过我们可能会“爱上机器人”。这是一种夸张的说法，但我确实认为我们将会接纳 AI 实体作为情感伴侣。你怎么看？你会支持那种奇点理论吗？就是人类与 AI 融合，我们开始与“被创造的事物”而非“被生育的事物”建立情感联系。
Sam Altman
我怀疑未来的娱乐形式会非常不同。可能今天很多用来看电视或玩电子游戏的时间，将被花在与 AI 的互动体验上。我们或许会从中获得某种陪伴感。
但我认为，对大多数人来说，“真实人类”的陪伴在这种世界中可能会变得更加珍贵，而不是更少。所以，我确信我们会经常与 AI 交流，并且这将是一个极具娱乐性的世界。但我相信人类天性中有一些深刻的东西，比如知道对方是否是真实的人类，这一点很重要。
Debora Spar
尽管有时，我和一些最关心的人仅通过短信交流，因为我们不在同一个城市。如果他们其实是 AI ，我可能也不会发现，也许我能接受这种情况？
Sam Altman
问题就在于：如果你知道那不是一个真实的人，你会有什么感觉？我认为你会感觉不同。
Debora Spar
是的，我们会知道的。
Sam Altman
对，我们终会知道。
Debora Spar
好的，我们可以打个赌。我觉得……
Sam Altman
我很乐意打这个赌，100 年后见。
Debora Spar
好的。回到你之前提到的一个话题，有学生问了关于公平的问题，你给了一个很好的回答。我同意你的观点，技术可能会推动公平，但需要一些推动。那么，你觉得需要怎样的“推动”？
Sam Altman
首先，我认为可能根本不需要推动。有时候技术自己会解决问题。我还认为，要知道什么样的推动是对的，从理论上很难做到，更多是需要经验实践。我现在的想法可能完全是错的。我认为，需要紧密的反馈循环，观察问题出现的地方，然后修复它们，并找到新的问题。这是我对“推动”的理解。
Debora Spar
但这很难，对吗？我刚从丹麦回来，在像丹麦这样的小国，可以通过良好的数据支持实现这些。但美国呢？在美国通过任何形式的监管可能需要30年。你怎么看待这种推动？
Sam Altman
我希望公司自己能做到。
Debora Spar
好的。
Sam Altman
如果寄希望于美国的监管，那可能会……
Debora Spar
但我实际上刚教过你写的《摩尔定律适用于一切》。
Sam Altman
我很久没读了。它还经得起时间的考验吗？
Debora Spar
我觉得挺有趣的，因为你讨论了税收系统的变化。这些变化并不是完全无法实现的，尽管当前的政治环境可能会让其难以执行。但你谈到的基本观点是，比如对土地和技术征税……
Sam Altman
对，基本上是对资本征税。我依然认为这是正确的。我觉得在一个由 AI 主导的世界中，主要对收入和企业利润征税并不合理。我们需要找到一种方式对资本征税。
Debora Spar
是的，我认为这是一个非常有趣的想法，与UBI（全民基本收入）有一定联系但又有所不同。如果让你对 AI 许一个愿，你会许什么愿？
Sam Altman
爱与人性。
Debora Spar
你认为可以将这些内置到 AI 中吗？
Sam Altman
我认为可以。有一个非常有效的方法是让 AI 系统按照特定方式运作。如果我们能够在很多不同情况下明确表达这些含义，那么是的，我认为我们可以让系统往这个方向发展。
Debora Spar
你觉得 OpenAI 可以并且应该有权制定自己的规则吗？为什么我们要信任你们？
Sam Altman
我认为你们不应该信任我们。我也不认为我们信任自己。坦率地说，这也不意味着应该把权力交给政府官僚。一个有趣的方向是，让这些系统与用户对话，了解他们的价值体系，并根据这些进行调整。我相信，技术的用户和受到影响最大的人，应该对其治理有很大话语权。
Debora Spar
这在实际操作上可行吗？尤其是考虑到巨额的资金需求？
Sam Altman
完全可行。这正是这项技术带来的新可能性。
Debora Spar
听起来像是 Anthropic 在推动的东西？
Sam Altman
我不确定他们在做什么。
Debora Spar
因为他们有一种似乎有点天真的理念，比如公开他们的设计原则供众包使用。
Sam Altman
我觉得，公开这些原则并解释系统如何做出取舍是很好的。但我更感兴趣的是一个思想实验：一个 AI 与你交谈几个小时，了解你的价值体系，然后与我和其他所有人做同样的事情，最终尝试找到一个深层次的共识。
Debora Spar
这本质上是利用 AI 来达成共识？
Sam Altman
是的，利用 AI 与每个人对话，深入理解数十亿人的共识。这可能是无法用其他方式实现的。
Debora Spar
将这样的共识与美国的建国文件相比会很有意思。这些文件明确反对多数规则。你描述的方式不同，但涉及一些根本性问题。
Sam Altman
是的，但它基本上是关于民主并带有一定的权力制衡。
Debora Spar
需要仔细考虑这些权力制衡的样子。如果共识认为 AI 是“坏的”或者“邪恶的”，该如何建立这种制衡？
Sam Altman
我认为这应该是人们为治理结构投票的一部分。
本文由人人都是产品经理作者【有新Newin】，微信公众号：【有新Newin】，原创/授权 发布于人人都是产品经理，未经许可，禁止转载。
题图来自Unsplash，基于 CC0 协议。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。