惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

S
Security @ Cisco Blogs
H
Hacker News: Front Page
P
Privacy International News Feed
N
News and Events Feed by Topic
T
Threatpost
Simon Willison's Weblog
Simon Willison's Weblog
S
Schneier on Security
K
Kaspersky official blog
S
Secure Thoughts
V2EX - 技术
V2EX - 技术
Security Latest
Security Latest
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
www.infosecurity-magazine.com
www.infosecurity-magazine.com
C
CERT Recently Published Vulnerability Notes
L
Lohrmann on Cybersecurity
Jina AI
Jina AI
P
Proofpoint News Feed
AI
AI
雷峰网
雷峰网
T
Tailwind CSS Blog
Engineering at Meta
Engineering at Meta
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
D
Darknet – Hacking Tools, Hacker News & Cyber Security
Recent Commits to openclaw:main
Recent Commits to openclaw:main
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
博客园 - 叶小钗
Webroot Blog
Webroot Blog
Apple Machine Learning Research
Apple Machine Learning Research
SecWiki News
SecWiki News
罗磊的独立博客
N
Netflix TechBlog - Medium
Martin Fowler
Martin Fowler
Google DeepMind News
Google DeepMind News
Cyberwarzone
Cyberwarzone
MongoDB | Blog
MongoDB | Blog
博客园 - Franky
Schneier on Security
Schneier on Security
The GitHub Blog
The GitHub Blog
S
Security Affairs
Blog — PlanetScale
Blog — PlanetScale
Last Week in AI
Last Week in AI
P
Proofpoint News Feed
月光博客
月光博客
D
Docker
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
S
Securelist
W
WeLiveSecurity
T
Troy Hunt's Blog
A
Arctic Wolf
博客园 - 司徒正美

莫尔索随笔

Vol.97 AI领域前沿动态:从智能体工程化到开源模型演进 | 莫尔索 Vol.96 AI智能体架构演进:从OpenClaw到Paperclip的编排实践 | 莫尔索 Vol.95 AI智能体技术架构与开源框架深度解析:从OpenClaw到LangChain | 莫尔索 Vol.94 AI智能体与消费级应用趋势:GPT-5.4、OpenClaw与Agent工程化实践 | 莫尔索 Vol.93 AI领域深度洞察:从智能体演进到设计变革与人生战略 | 莫尔索 Vol.92 AI行业周报:融资突破、伦理冲突与智能体革命深度解析 | 莫尔索 Vol.91 AI前沿洞察:智能体革命、编程范式转移与商业变革深度解析 | 莫尔索 Vol.90 2025年AI领域深度盘点:自动驾驶、Agent技术、硬件趋势与商业变革 | 莫尔索 Vol.89 AI领域前沿洞察:从编程范式变革到太空部署与伦理挑战 | 莫尔索 Vol.88 2026年AI全景解析:大模型、Agent、开源生态与中美竞争格局 | 莫尔索 Vol.87 AI领域2026年趋势:智能体爆发、SDD编程、开源模型与商业变现深度解析 | 莫尔索 Vol.86 AI领域前沿洞察:Agent技术、视频生成、模型优化与商业应用精选 | 莫尔索 Vol.85 AI领域深度洞察:从Agent爆发到工程实践,探索大模型时代的发展路径 | 莫尔索 Vol.84 2025-2026年AI领域趋势总结:Agent落地、多模态爆发与创业机会深度解析 | 莫尔索 Vol.83 AI领域深度洞察:组织变革、Agent落地、技术趋势与投资策略全解析 | 莫尔索 Vol.82 AI领域年度盘点:Agent技术、世界模型与增长策略深度解析 | 莫尔索 Vol.81 2026年AI行业趋势预测:垂直领域、世界模型与智能体工程深度解析 | 莫尔索 Vol.80 AI领域前沿洞察:从创业案例到技术演进,解析AI应用与未来趋势 | 莫尔索 Vol.79 AI领域精选:大模型竞争、Agent应用、图像生成与投资趋势深度解析 | 莫尔索 Vol.78 AI领域精选文章深度解析:从技术突破到商业落地全视角 | 莫尔索 Vol.77 AI领域精选文章深度解析:从创业增长到技术架构全面洞察 | 莫尔索 Vol.76 AI Agent落地挑战与策略:2025年企业部署实战经验解析 | 莫尔索 Vol.75 2025年AI领域十大核心趋势:从AGI使命到Agent工程实践深度解析 | 莫尔索 Vol.74 2025年AI大模型与Agent技术发展全景:趋势、应用与挑战 | 莫尔索 Vol.73 AI Agent技术演进与落地实践:从工具链到上下文工程全解析 | 莫尔索 Vol.72 AI医疗平权与Agent技术:京东健康AI医院与多智能体协作解析 | 莫尔索 Vol.71 AI领域精选文章总结:智能体开发、模型优化与商业应用 | 莫尔索 Vol.70 AI领域精选文章总结:从GTM策略到智能体应用与前沿技术 | 莫尔索 Vol.69 AI创业与编程智能体发展:从点子到实践的全方位解析 | 莫尔索 Vol.68 AI领域深度解析:大模型、智能体与创业趋势全览 | 莫尔索 Vol.67 2025年AI行业全景:技术突破、应用趋势与资本动向深度解析 | 莫尔索 Vol.66 AI领域洞见:Agent趋势、投资赛道与安全挑战深度解析 | 莫尔索 Vol.65 AI Agent技术前沿与创业策略:企业应用、手机端创新与安全挑战 | 莫尔索 Vol.64 AI领域深度解析:从科研工具到商业模式的全面探讨 | 莫尔索 Vol.63 GPT-5发布:AI领域的新里程碑与未来展望 | 莫尔索 Vol.62 AI领域深度解析:从大模型到智能体的技术演进与商业应用 | 莫尔索 Vol.61 阶跃星辰发布Step 3模型:推理效率创行业新高 | 莫尔索 Vol.60 AI时代数据商业模式与中美差异深度解析 | 莫尔索 Vol.59 Grok 4多模态AI模型:性能、争议与API定价解析 | 莫尔索 Vol.58 AI领域创新与挑战:从模型优化到应用落地 | 莫尔索 Vol.57 AI领域精选文章:从技术突破到创业策略的全面解析 | 莫尔索 Vol.56 AI Agent 进行时!OpenAI智能体指南发布,MiniMax 发布 Agent | 莫尔索 Vol.55 决定AI产品成功的隐藏指标 | 莫尔索 Vol.54 什么是 NLWeb | 莫尔索 Vol.53 如何让 Agent 规划调用工具 | 莫尔索 Vol.52 面向 AI 产品的智能体评估指南 | 莫尔索 Vol.51 AI 智能体商业落地的现状与真相 | 莫尔索 Vol.50:Evaluation is all you need | 莫尔索 Vol.49:大模型时代的表格数据挖掘 | 莫尔索 Vol.47:workflow 与 Agent 方案如何选择? | 莫尔索 Vol.46:智能体工具调用 API 与 GUI 的差异和融合 | 莫尔索 Vol.45:Anthropic MCP 当前还有哪些不足? | 莫尔索 Vol.44:模型即产品的技术实现路径 | 莫尔索 Vol.43 什么样的 Agent 会在 2025 年脱颖而出? | 莫尔索 Vol.42:AI Agent 如何颠覆传统的外包行业? | 莫尔索 Vol.41:DeepSeek R1爆火之后,到底什么任务适合用 RL 做? | 莫尔索 Vol.40:Grok3 是否意味着预训练阶段 Scaling Law 已失效? | 莫尔索 Vol.39:从 DeepSeek R1 看 Scaling Law 的未来 | 莫尔索 Vol.38:关于 DeepSeek 的误读与真相 | 莫尔索 Vol.37:2025 年 AI 编码类产品将如何演进? | 莫尔索 Vol.36:YC 回顾 2024 年 AI 行业创业生态 | 莫尔索 Vol.35:2024 年大模型领域的发展趋势和竞争格局全面回顾 | 莫尔索 Vol.34:对OpenAI o3模型的看法、思考与反思 | 莫尔索 Vol.33:为什么视频生成模型比文本生成模型发展速度更快? | 莫尔索 Vol.32:AI Creativity 赛道有哪些机会? | 莫尔索 Vol.31:AI Native 应用长什么样? | 莫尔索 Vol.30:什么是Agentic RAG? | 莫尔索 Vol.29:可视化呈现RAG的工作过程 | 莫尔索 Vol.28:从物理定律看视频生成离世界模型还有多远? | 莫尔索 Vol.27:如何定制 LLM 以更好地服务于特定领域的企业? | 莫尔索 Vol.26:AI Agent 应用、商业化以及当前行业的现状 | 莫尔索 Vol.25:AI像人一样使用计算机可信吗? | 莫尔索 Vol.24:实测可灵、Luma、Runway 等13个视频生成模型,哪个更好? | 莫尔索 Vol.23:为什么大语言模型仍无法做到真正的推理? | 莫尔索 Vol.22:垂直 SaaS 如何通过 AI 来提高收入? | 莫尔索 Vol.21:OpenAI o1合成数据与推理搜索 | 莫尔索 Vol.20:如何评估 Embedding 模型? | 莫尔索 Vol.19:AI应用正在这4个大场景里加速落地 | 莫尔索 Vol.18:大模型是泡沫吗? | 莫尔索 Vol.17:如何构建生成式 AI 应用平台? | 莫尔索 Vol.16:构建可靠 LLM 应用的三大原则 | 莫尔索 Vol.15:大语言模型应用如何实现端到端优化? | 莫尔索 Vol.14:如何改进大模型代码生成能力? | 莫尔索 Vol.13:如何验证模型是否被测试集污染? | 莫尔索 Vol.12:RAG 在企业落地中的挑战 | 莫尔索 Vol.11:AI 应用爆发何时到来? | 莫尔索 Vol.10:大模型提取表格信息(TIS)的能力究竟如何? | 莫尔索 Vol.9:构建 AI 产品过程的踩坑经验总结 | 莫尔索 Vol.8:如何针对 GPT-4o 语音模式进行越狱攻击? | 莫尔索 Vol.7:如何利用大模型解决传统行业的老问题? | 莫尔索 Vol.6:如何将 AI 模型转化为生产环境中的产品? | 莫尔索 Vol.5:面向企业的大模型应用算一个新赛道吗? | 莫尔索 Vol.4:DeepSeek-V2搅动市场,大模型价格战已拉开序幕? | 莫尔索 Vol.3:LIama 3 是大模型游戏规则改写者吗 | 莫尔索 Vol.2:开源模型与闭源模型之间的差距有多大? | 莫尔索 Vol.1:你支持AI“复活”逝者吗 | 莫尔索 AI 周刊 Weekly Gradient 介绍 | 莫尔索 Vol.21:我们缺的不是想法,而是分辨好想法和烂想法的能力 | 莫尔索 Vol.20:大模型时代,开发者应该如何成长? | 莫尔索 Vol.19:在 AI 时代,如何用新工具来扩展大脑思维与记忆的边界? | 莫尔索
Vol.48:AI 发展开始进入下半场 | 莫尔索
莫尔索 · 2025-04-21 · via 莫尔索随笔

大家好!Weekly Gradient 第 48 期内容已送达!### 论文

  1. LocAgent:辅助定位代码错误的 Agent:基于图引导的大语言模型,用于识别和定位软件中的错误。LocAgent 通过分析和理解代码的结构和语义,旨在帮助开发者更代码库中找到需要修改的具体位置,从而提高软件维护和重构的效率。该技术通过构建一个代码依赖图谱来引导代理对象,使其能够自动化地识别和定位代码中的相关部分。

    1. 自动化程度提升:LocAgent 通过自动化的方式提高了代码本地化的效率,减少了人工干预的需要。
    2. 精确度提升:利用图引导的大型语言模型,LocAgent 能够更精确地识别和定位代码中需要修改的部分。
    3. 结构和语义理解:LocAgent 能够更深入地理解代码的结构和语义,这允许更精细的代码分析,而不仅仅是基于文本匹配。
    4. 代码依赖图谱:通过构建和分析代码依赖图谱,LocAgent 能够更全面地理解代码之间的关系,从而提供更准确的本地化建议。
    5. 减少歧义和冗余:传统方法可能会因为重复和歧义而导致不准确的本地化结果,而 LocAgent 通过图引导的方法能够减少这种情况。
    6. 适应性强:LocAgent 更加适应性强,能够更好地处理大型软件项目中的复杂代码本地化场景。
    7. 维护和重构效率提升:通过直接定位到需要修改的代码位置,LocAgent 有助于提高软件维护和重构的效率。

    项目开源地址:LocAgent

  2. CrackSQL:实现不同数据库SQL的互转:CrackSQL 是一个结合规则与大语言模型方法的混合 SQL 翻译系统,旨在减少人工干预,提高翻译准确性。该系统支持三种翻译模式,包括 Web 控制台界面、PyPI 软件包和命令行工具,并提供多样化的部署和访问选项。CrackSQL 通过功能分解处理复杂查询,采用跨方言语法嵌入模型和自适应局部到全局翻译策略,以提高翻译的准确性和鲁棒性。该系统已开源,代码和文档可在 GitHub 上获取,并已在实际的 SQL 查询数据集上进行了测试,显示出低错误率和高用户友好性。

  3. 字节深度思考模型Seed-Thinking-v1.5技术报告:字节跳动Seed团队发布了一款名为Seed-Thinking-v1.5的混合专家模型(MoE),以86.7%的AIME数学竞赛得分和55.0%的Codeforces编程竞赛通过率,刷新了多项基准测试记录。Seed-Thinking-v1.5 使用了 Mixture-of-Experts (MoE) 架构,具有 20B 激活参数和 200B 总参数,并在内部基准测试中展示出其广泛的泛化能力。

  4. 大语言模型在学习新知识时可能会出现 “启动效应”,即在不相关的上下文中错误地应用新学到的知识,这可能会导致知识的 “污染”。Google Deepmind 团队开发了一个名为 “Outlandish” 的数据集,包含多种文本样本,用于测试 LLM 在学习新信息后的 “引导” 效应,即新学习的知识如何影响无关的知识。研究发现,新信息的学习可以通过预先测量的关键词概率来预测,这种关系在不同的模型架构、大小和训练阶段中都得到了验证。此外,研究还提出了两种新的策略来调节新知识对现有模型行为的影响:一是 “阶梯式” 文本增强策略,二是 “忽略前 k” 的梯度剥离技术。

工程

  1. MCP 安全检查清单:AI ⼯具⽣态系统安全指南:MCP(Model Context Protocol)安全检查清单是由慢雾安全团队编写和维护的,旨在帮助开发者确保 MCP 实现的安全性,并提供一系列的安全措施来管理和防范在 AI 工具和系统中的安全风险。该清单涵盖了从用户交互界面、客户端组件、服务插件,到多 MCP 协作机制及特定领域(如加密货币场景)的安全要点。强调了从 API 安全、服务插件安全、后台持久性控制、部署与运行时安全、代码与数据完整性、监控与日志记录、调用环境隔离、平台兼容性与安全、数据安全与隐私、资源安全、工具实现安全、MCP 客户端 / MCP HOST 安全、AI 控制与监控、本地存储安全、应用程序安全、客户端身份验证与授权、MCP Tools 与 Servers 管理、提示词安全、日志与审计、Server 验证与通信安全、权限 Token 存储与管理、自动批准控制、采样安全、MCP 在不同 LLM 上的适配与调用安全、多 MCP 场景安全、加密货币相关 MCP 的特有安全点等多个方面的安全考虑。
  2. awesome-gpt4o-images: OpenAI 最新多模态模型 GPT-4o 生成精彩案例的精选集合,展示了 GPT-4o 的强大功能,如跨模态理解、精准出图、多样风格支持、真实构图等。同时这篇文章整理了一份详细的 GPT-4o 图像生成风格指南,涵盖了多种艺术风格和应用场景,包括经典艺术风格如吉卜力动画、赛博朋克、水彩、油画、浮世绘等,以及现代创意风格如 3D Q 版角色、手绘简笔画、像素艺术等。这些风格可以应用于品牌设计、头像生成、儿童绘本、产品原型等多个实际场景。
  3. cursor-rules:介绍了 Cursor Rules 的最佳实践,包括 Cursor Rules 的定义、类型、最佳实践案例,以及如何通过 Project Rules 更精确地控制 AI 行为。
  4. PocketFlow:PocketFlow 是一个极简主义的 LLM 框架,以 100 行代码构建,基于图的核心抽象,提供轻量级的 AI Agent开发体验,简化了 LLM 应用的开发流程,提供了一系列基础教程,如聊天机器人、结构化输出、工作流、智能体、RAG、Map-Reduce、流式处理、聊天护栏、多智能体、并行处理等。
  5. 智谱开源 32B/9B 系列 GLM 模型,涵盖基座、推理、沉思模型,均遵循 MIT 许可协议
  6. GPT-4.1 提示指南:GPT-4.1 系列模型相比 GPT-4o 具有重大进步,特别是在编码、指令遵循和长文本理解方面。OpenAI 通过内部测试总结了一系列有效的提示技巧,帮助开发者充分利用 GPT-4.1 的能力。

产品

  1. Claude 推出了高级 Research 功能,并与 Google Workspace 实现了深度整合。这一新功能能够让用户更方便地在 Claude 平台上进行高级搜索和信息整理,提升工作效率。此外,Claude 与 Google Workspace 的整合使得用户可以直接在 Google Workspace 中使用 Claude 的高级语言处理功能,从而在处理文档、电子邮件等工作时获得更流畅的体验。

  2. OpenAI 发布三个新模型:GPT-4.1、GPT-4.1 mini 和 GPT-4.1 nano。这些模型目前仅支持 API,无法通过 ChatGPT 界面使用(不过可以在 OpenAI 的 API playground 中试用 )。这三个模型均可处理 1,047,576 个 token 的输入和 32,768 个 token 的输出,并且三个模型的训练数据截止日期均为 2024 年 5 月 31 日(之前的模型大多截止日期为 2023 年 9 月)。输入为每百万 token 0.10 美元,输出为每百万 token 0.40 美元,低于之前最便宜的 OpenAI 模型 GPT-4o-mini(0.15 美元/0.60 美元)。

    We will also begin deprecating GPT‑4.5 Preview in the API, as GPT‑4.1 offers improved or similar performance on many key capabilities at much lower cost and latency. GPT‑4.5 Preview will be turned off in three months, on July 14, 2025, to allow time for developers to transition。GPT-4.5 预览版会下线,GPT-4.5 可能很快就要面世了。

    OpenAI 还分享了一份 GPT 4.1 提示指南 ,其中包含有关长上下文的提示:在长上下文使用场景中,指令和上下文的摆放位置会显著影响模型表现。如果提示语包含较长上下文内容,最佳实践是将指令同时置于上下文的开头和结尾。我们的实验表明,这种”首尾呼应”的布局方式比单独将指令置于开头或结尾效果更佳。若倾向于仅设置单次指令,则将其置于上下文之前的效果优于置于之后。

  3. OpenAI 发布两款全新推理模型:o3 和 o4-mini。除了支持推理外,还支持工具调用能力,包括网络搜索、文件分析、以及视觉输入推理功能。同时发布的还有 Codex,一个在终端中运行的轻量级编程助手,类似 Claude-Code

  4. xAI 正式发布 Grok Studio 首个版本,集成了文档创建编辑和代码生成执行功能,代码方面目前支持 HTML 预览,并能执行 Python、C++、JavaScript、TypeScript 和 Bash 脚本。同时支持连接到 Google Drive,能够处理文档、电子表格和幻灯片,Grok Studio 目前对免费和付费用户均开放。

  5. 微软 Edge 浏览器即将上线 Copilot Vision:可以帮助用户浏览、整理网页内容,支持语音输入,目前仅支持维基百科、亚马逊等部分网站。微软表示未来会逐步扩大支持范围。

  6. 腾讯元宝现可直接添加为微信好友(目前还没有正式宣发):腾讯的 AI 助手元宝现在支持添加为微信好友进行聊天,就像好友一样,支持语音输入、图片、联网搜索,微信搜索元宝即可添加到联系人。

  7. 谷歌推出 Gemini 文生视频 & Whisk 图生视频:采用Veo2 视频生成模型,需要 Gemini Advanced 或 Google One AI Premium 订阅才能使用,可以在 Gemini 中进行文生视频,在 Whisk 中进行图生视频,最高能生成 8 秒 720p 的视频。

  8. 字节跳动发布的 Seedream 3.0(即梦 3.0)模型:登顶 Artificial Analysis 榜首( Mogo 模型),很强的汉字排版能力;最高支持 2K 分辨率输出。通过火山引擎接入该模型,目前定价为 0.2 元/张

市场

  1. 智谱正式启动A股IPO:北京智谱华章科技股份有限公司(以下简称“智谱”)于2025年3月31日同中金公司签署辅导协议,正式启动A股IPO进程。截至目前,智谱的投资方已汇集了中科创星、达晨财智、君联资本、启明创投、高瓴创投、今日资本、光速光合、红杉中国、顺为资本、招商局创投、云晖资本等知名VC,美团、蚂蚁、阿里巴巴、腾讯、小米、金山、BOSS直聘、好未来、三七互娱、华策影视等战略投资方,以及北京、杭州、珠海、成都等地的地方国资支持。
  2. OpenAI 考虑以 30 亿美元收购 AI 编程工具 Windsurf

观点

  1. Gemini 2.5 推理功能技术负责人(Google DeepMind 的首席研究科学家Jack Rae)访谈:Gemini 2.5 Pro的发布标志着Google DeepMind的大语言模型进入了新阶段。此次模型的主要特点是实现了超长上下文处理能力,能够处理数十万甚至更多token的输入。在实际应用中,该模型展现出精确掌握复杂代码库结构与细节的能力,并能在现有代码基础上进行高效的扩展与协作开发。这些突破的关键包括强化学习的广泛应用和工程细节的长期积累优化。

    Jack Rae表示,预训练阶段主要是学习大量的抽象特征和模式,为模型提供丰富的基础表达能力,捕捉文本分布中的各种行为,包括有效的推理模式和一些不理想的模式。而在后训练阶段,模型会从预训练中获得的众多模式中选择和精炼出优势,去除无关和低效的行为,专注于特定的推理和响应模式。成功实施强化学习后,模型能够进一步结合已有能力,应对更复杂、关键的任务。

    Jack Rae指出,以往小模型由于规模不足,简单的强化学习难以显现出复杂的推理结构。当模型规模达到一定程度后,会自然形成初步的内部推理机制,这些机制为强化学习的效果提供了基础。经过系统性优化后,强化学习能够帮助模型稳定地展现出自我纠正、探索多种推理路径等复杂行为,显著提升实际应用效果。这些复杂的推理模式是预训练阶段无法单独实现的,它们需要在后训练阶段通过强化学习来获得和巩固。

    Jack Rae认为,当前行业内“思维链”方法迅速流行,是因为这种方法显著地表达了内部推理过程。一旦模型具备足够的规模和能力,思维链方法便能快速验证和产生明显效果,因此被广泛应用。

    在模型内部机制的处理上,Gemini团队偏好让模型自然展现其内部思维过程,尽量减少人为干预。尽管在推理过程中可能出现语言单一化和模板化的现象,但这们被视为模型内部机制的自然体现。Gemini团队明确反对对思维链额外施加奖励压力,以确保推理过程的真实性和有效性。

    关于人类数据用于模型训练的问题,Jack Rae的经验是:当强制人们详细显式地记录推理过程时,数据质量往往较低。相反,自然产生的详尽描述对模型训练更有帮助。此外,模型自身生成的合成数据在训练中也显示出相当的实用性,有助于模型学习复杂的推理结构。

    在记忆机制方面,Jack Rae指出,尽管当前模型在上下文处理能力上已经取得了重要进展,但在长期理解和终身学习的场景下,仍需结合专门的外部记忆机制(如之前DeepMind研究过的Neural Turing Machine或可微分神经计算机)来实现高效的长期记忆能力。Gemini团队认为,将这种外部记忆机制与模型的深度思维能力相结合,是未来模型通向更高通用智能的关键路径。

    在多模态能力的深度整合方面,Jack Rae一直强调这一点。他观察到,深度多模态整合在文本和图像之间的有效结合远超简单的工具调用,极大地增强了模型的整体理解和表现。同时,他们也注意到在考虑是否将其他领域或数据类型(如生物数据)纳入统一多模态训练时,需具体评估数据规模、信息密度以及跨领域正向知识迁移的效果。这种务实的评估策略体现了Gemini团队目前优先从信息密集和规模较大、明确能提升模型整体能力的模态开始整合,并逐步拓展到其他模态领域。

  2. 本文是 OpenAI 科学家姚顺雨对 AI 发展下半场的解读,核心观点是 AI 的发展正从解决问题转向定义问题,Evaluation (模型评估) 会比 Training (模型训练) 更重要。文章回顾了 AI 上半场以算法和模型创新为主的特点,例如 Transformer、AlexNet、GPT-3 等,指出强化学习 (RL) 在实现通用人工智能 (AGI) 中的关键作用,并强调了先验知识 (priors) 的重要性。作者认为,AI 下半场需要重新思考评估方法,打破自动运行和独立同分布等假设,关注现实世界效用,以实现 AI 的真正价值。文章还提到了在计算机使用和网络导航等领域,RL Agent 的 zero-shot 能力仍有待提高。最后,文章鼓励 AI 研究者和从业者关注实际应用,打破固有思维模式,将智能转化为有用的产品,打造具有巨大商业价值的公司。


编辑此页