最近，小红书举办的科技话题Ask Me Anything（AMA）活动吸引了众多国内AI圈的顶尖人物参与。本文将摘录这些大佬们在活动中分享的部分观点，涵盖从学术研究到AGI（通用人工智能）的多个方面，帮助读者快速了解当前AI领域的最新动态和专家们的看法。
最近小红书发布的科技话题-Ask Me Anything AMA，吸引了国内AI圈顶尖的一波科学家、技术专家亮相。本文记录这些大佬们的部分观点，既有从事学术研究的建议，也有对AGI的前沿思考。
1、LLM 预计可以在知识密集型行业发挥作用，着重是将专业知识武装到 LLM 上。
2、大模型这波红利按照国家行动计划，要持续到2035 年。
3、可解释性是很重要的话题，感觉关键问题是如何定义“可解释”，这是一个目前看仍然主观性很强的概念。
4、具身智能，是AI 进入物理世界的必由之路。
5、AI操作电脑的两条路线，行为主义的模仿人类浏览屏幕，就是现在的 GUI-Agent，这个还需要进一步提升模型效率；一个是将 LLM 嵌入 OS，直接从接口层面完成 computer use，也有系统研发的难度。
6、RL 体现了人工智能的学习范式从过去 Next Token Prediction式的模仿学习，跃迁到了基于大规模强化学习的探索式学习，让大模型有望摆脱已有公开可学习数据日益枯竭的问题。RL 是重要的技术趋势。
7、大模型代表的人工智能前沿技术高速动态发展，是非线性的。就如去年很多人没有预料到 DS 的崛起，未来谁会崛起，恐怕也是很难被大众所预料的，大部分人还是喜欢线性地、延长线式地考虑问题。
1、本质上pretrain, SFT(), RL都是对齐某个目标分布，SFT和RL是加上某种bias。RL的奖励信号有时候会比next token prediction更能反映对齐的方向。
2、研一的学生最好跟着一个高年级的博士一起开展工作，多参加讨论班，思考问题，不懂就搜索相关论文，根据问题找论文读，逐渐扩大知识面，找到适合自己的读论文方式。比读论文更重要的是找论文，以及对前沿的敏感性，需要大量的阅读。
1、学术界在算力资源上，已经出现了落后，不过可以通过合作和更自由的探索一定弥补。工业界业务节奏有点快且相对有束缚，学术界缺资源但是可以相对自由探索一些
1、LLM的算法研究是有方法论的，其实我刚做LLM reasoning research也就三个月但是已经拿到好几个突破性成果了，资源也不多，很多东西是可以仔细想明白而不是暴力跑实验的
2、我其实在公司的计算资源也不是很多，我觉得这块是自适应的。再者，历史上伟大的这些idea都是很多年前没什么算力时想出来的，最根本的idea是可以在小的精心设计的场景验证研究出来的
1、AGI我觉得不是一个0或1的事，更类似一个spectrum，而且定义也在不断变化，以前大家觉得通过图灵测试就是AI的标准，但是现在看来也不是。
2、从纯商业价值来说，可靠同事型的LLM应该是更大的，并且也属于技术路线相对确定的方向。而顶尖科学家型的LLM，更类似对AI上限的探索，商业价值很难确定，但是故事性更强。起码在目前这个时代，对AGI的探索应该还会持续几年，但是如果没有更进一步的突破，没有出现了超越人类知识边界的AI(类似AlphaGo的神之一手)，那这个故事可能就很难讲下去，所以可能关键就看这几年的发展能不能达到预期了。
3、RAG给LLM加知识外挂是工程上最简单的方式。LLM的知识管理会诞生出一个有意思的研究方向，类似context internalization，我认为rag，context，模型权重，都算是储存知识的方式，怎么样进行互相转化会是一个有意思的问题，这里还会涉及到continual training的问题，很多open problem。
1、我个人觉得LLM就是概率相关性，与人的思考过程完全不一样，当前Transformer based 的大模型实现不了AGI，当前的机器学习方法缺少因果逻辑。
2、我自己最关心的是基础理论，大模型有没有突破统计机器学习的边界？有没有“涌现”？是不是可以进行类人推理？
3、ai创业推荐的赛道，要解决用户的痛点，并且不在大厂的炮口下的。
1、高校有高校的生态位，它的价值不会被取代。企业的卡多，但是企业很难愿意投入大量资源去做非共识的事情，更多是在现有的主流技术路线上去不断发展和完善、产品化、做出给大家用的东西，并创造利润。但是高校主要是一个个的课题组，高校所研究的内容的多样性和覆盖度不是企业能够比的。所以革命性的技术还是会从高校里面出来。深度学习本身就是在svm横扫整个工业界/学术界的时候，在高校里苟着，然后一直熬到它的春天的。下一代横扫AI的革命性的技术，也许现在在世界的某个角落，目前还不是共识，但正在高校里面被研究。
2、科学和有效的数据质量评估方法论还不完善，数据的优化最终还是要反映到模型效果上来，但根据模型效果反馈精确迭代数据还很难。可以参与到一个AI开源项目中，通过实战引导提高学习效率。
1、国内学术圈最好的路子还是先找好大树通过大树的路子走海优回来，一定要不出国的话要么博士期间就有大树，要么通过博后去拜码头。
2、对跟风搞llm的一些组织来说可能真的是泡沫了，但对真有决心把llm搞好，all in ai的公司来说应该说是刚开始。
1、kimi看好的后训练应用或者改进方向：Agent! Agent! Agent!
本文由人人都是产品经理作者【明思AI】，微信公众号：【明思AI】，原创/授权 发布于人人都是产品经理，未经许可，禁止转载。
题图来自Unsplash，基于 CC0 协议。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。