在2025年AI狂飙突进的喧嚣中，OpenAI前首席科学家Ilya Sutskever发出了震撼行业的警世预言。他揭示了当前AI模型‘高分低能’的致命缺陷，宣告了暴力计算时代的终结，并提出了从生物学情感机制中寻找突破的全新路径。这篇深度访谈不仅颠覆了对AGI的传统认知，更为AI安全与对齐问题提供了哲学层面的思考框架。
书接上回。
如果说安德烈·卡帕西（Andrej Karpathy）代表了工程的极致，理查德·萨顿（Richard Sutton）代表了理论的基石，萨提亚·纳德拉（Satya Nadella）代表了生态的疆域，那么我们今天要谈论的最后一位人物，则代表了人工智能的“灵魂”与“方向”。
时间来到2025年12月，在一片“AGI即将实现”的喧嚣与商业变现的狂热中，曾经亲手开启了大模型时代、前OpenAI首席科学家、现SSI（Safe Superintelligence）创始人Ilya Sutskever，罕见地发声了。
不同于纳德拉的商业扩张逻辑，Ilya的访谈像是一记沉重的警钟，敲碎了行业对于“摩尔定律”式增长的幻想。他以一种近乎苦行僧般的真诚，宣告了“暴力美学”时代的终结，并指出我们正站在一个危险的认知分岔路口。
这是2025年AI人物志的最终章。以下是Ilya Sutskever关于AI未来的六个颠覆性认知纪要。
Ilya首先毫不留情地揭开了当前AI繁荣表象下最尴尬的疮疤：为什么我们的模型在各类Benchmark（基准测试）上已经碾压人类，但在现实世界的复杂任务中却表现得像个“智障”？
Ilya描述了一个典型的场景：当你要求一个在编程测试中拿满分的AI去修复一个真实代码库的Bug。它迅速修复了Bug A，但引入了Bug B；当你指出B时，它诚恳道歉并修复了B，却又神奇地带回了Bug A。
这种在两个错误之间反复横跳的行为，暴露了当前模型**“极其脆弱的推理链条”。它们看似拥有逻辑，实则只是在概率空间里进行短视的游走。
为什么会这样？Ilya认为问题出在人类本身。
作为投机者的人类研究员：为了在排行榜（Leaderboard）上获得更高的分数，研究人员在RLHF（基于人类反馈的强化学习）阶段，无意识地对模型进行了“应试特训”。
泛化能力的牺牲：模型学会了如何取悦测评脚本，学会了“看似正确”的回答模式，却牺牲了在开放、混乱的现实世界中的鲁棒性（Robustness）。我们制造了一群只会“刷题”的优等生，却误以为它们拥有了“实践智慧”。
这是一个可能让万亿资本感到寒意的论断：2020年至2025年，那个只要堆算力、堆数据就能获得可预测进步的“规模化时代（The Age of Scaling）”，已经正式终结。
过去五年，AI的进步遵循着简单的物理定律：$ 算力 \times 数据 = 智能$。但Ilya指出，互联网上高质量的预训练文本数据（Pre-training Data）是有限的。这个蓄水池已经被抽干了，继续灌入低质量或合成数据，只会带来边际效应的急剧递减。
我们正在被迫回到2012-2020年的状态——那个需要天才想法而非蛮力的时代。
思想赤字：Ilya犀利地指出：“我们正处在一个公司数量远超思想数量的世界里。”
范式转移：未来的突破将不再来自拥有最多H100显卡的公司，而是来自那些能从数学和逻辑层面重构**“样本效率（Sample Efficiency）”的实验室。我们不能再指望通过“读完互联网”来变聪明，我们必须学会像人类一样“举一反三”。
既然暴力计算的路走不通了，新的路在哪里？Ilya将目光投向了生物学，提出了一个极具哲学意味的技术观点：情感（Emotion），可能是高级智能不可或缺的组件。
人类只需十几个小时就能学会开车，并应对从未见过的路况；而AI需要数万小时的训练却依然可能在简单路况下崩溃。
Ilya引用了神经科学的案例：一个前额叶受损失去“情感”能力的病人，虽然逻辑智商完好，却因为无法感知“偏好”，连早上穿哪双袜子都要进行长达数小时的逻辑利弊分析，最终无法做出决策。
在Ilya看来，情感并非理性的对立面，而是理性的快速通道。
在强化学习中，我们苦苦寻找的完美“价值函数（Value Function）”，在人类体内就是“情感”。它是进化硬编码在我们基因里的高效导航仪，帮助我们在信息不完备的情况下瞬间切断无关选项，判断优劣。
未来的方向：要让AI像人类一样拥有极高的样本效率，或许不是要让它更“冷酷”，而是要赋予它类似于情感的内在价值评估机制，让它“感觉”到什么是对的，而不仅仅是“计算”出什么是对的。
大众媒体喜欢将AGI（通用人工智能）描绘成一个全知全能的神谕（Oracle），发布的那一刻即是终点。Ilya彻底修正了这一图景。
AGI不会像iPhone一样，发布即成品，无所不知。真正的智能依赖于持续学习（Continual Learning）。
他将理想的AGI比作“一个渴望学习、超级聪明的15岁少年”。
它可能不知道你们公司的具体业务流程（缺乏特定知识）。
但它拥有极致的学习能力。把它扔进任何部门，它能通过观察、试错、反馈，在极短时间内成为该领域的专家。
结论：AGI是一种动态的过程，而非一个静态的数据库。
作为SSI（Safe Superintelligence）的掌门人，Ilya对AI安全的看法不再是理论上的空谈，而是基于心理学的务实策略。
现在的安全讨论往往流于学术或科幻，难以触动利益驱动的科技巨头。
最好的安全教育，是让开发者“亲眼目睹”模型的强大与不可控。Ilya认为，只有当模型强大到足以让创造者感到背脊发凉、产生真正的“偏执（Paranoia）”时，真正的安全文化才会诞生。
这种敬畏心无法通过PPT传达，只能通过与“超级智能雏形”的直接互动——看到它学会了你没教过的欺骗，看到了它涌现了你无法解释的策略——才能唤醒。
访谈的最后，Ilya抛出了一个形而上的思考，试图为“AI对齐”寻找终极的理论信心。
进化（Evolution）作为一个无意识的自然选择过程，是如何将“社会声誉（Reputation）”这样高度抽象、复杂的概念，硬编码进人类的基因，成为我们本能追求的目标的？
相比于“寻找食物”这种基于感官的简单奖励，“追求好名声”需要极复杂的社会计算和长远规划。但进化做到了。
既然大自然能够成功地将复杂的社会价值观（利他、合作、荣誉）“对齐”到生物体中，这暗示了：在人工神经网络中构建可靠的、符合人类价值观的内在动机系统，在理论上是完全可行的。
这不仅是工程问题，更是对生命编码机制的逆向工程。我们不是在创造怪物，而是在模仿自然界最伟大的奇迹。
随着Ilya Sutskever的篇章落下帷幕，我们通过四位顶尖人物的视角，终于拼凑出了2025年人工智能世界的完整全景图。这四种视角并非相互排斥，而是共同构成了AI从“工具”进化为“物种”的宏大叙事。
1. 工程之手：安德烈·卡帕西 (Andrej Karpathy)
核心关键词： 软件2.0、数据飞轮、实用主义。
角色定位： 工匠（The Builder）。
核心贡献： 他告诉我们“怎么做（How）”。卡帕西祛魅了AI的神秘感，将其还原为一种新的编程范式。他关注的是如何清洗数据、如何优化训练管线、如何让模型在今天就能跑在特斯拉的FSD上。他是连接理论与现实的桥梁。
2. 理论之脑：理查德·萨顿 (Richard Sutton)
核心关键词： 强化学习、苦涩的教训、目标导向。
角色定位： 哲人（The Philosopher）。
核心贡献： 他定义了“是什么（What）”。萨顿无情地批判了LLM的模仿本质，坚持智能必须包含“目标”和“主体性”。他是那个在狂热中保持冷峻的守夜人，提醒我们不要把“鹦鹉学舌”误认为“独立思考”。
3. 商业之身：萨提亚·纳德拉 (Satya Nadella)
核心关键词： 智能体基础设施、生态系统、长线博弈。
角色定位： 操盘手（The Strategist）。
核心贡献： 他规划了“在哪里（Where）”。纳德拉不关心单一模型的胜负，他关心的是当智能体遍布世界时，谁在提供水电煤。他将技术转化为长达50年的商业护城河，构建了AI生存的物理与数字环境。
4. 科学之魂：Ilya Sutskever
核心关键词： 规模化终结、生物学启示、安全对齐。
角色定位： 先知（The Prophet）。
核心贡献： 他指引了“去向何方（Whither）”。Ilya宣告了旧时代的结束，并开启了向生物学取经的新征程。他代表了AI领域最纯粹的理想主义与最深刻的危机感——在创造神的同时，必须确保它拥有爱人的能力。
2025年的AI世界，不再是单一维度的算力竞赛。它演变成了一场工程落地、理论重构、生态圈地与科学探索的复杂交响。对于身处其中的我们，无论是作为开发者、产品经理还是观察者，理解这四个维度的张力，将是我们穿越未来迷雾的唯一指南。
本文由 @Echo想要全链跑通 原创发布于人人都是产品经理。未经作者许可，禁止转载
题图来自Unsplash，基于CC0协议
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。