惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

B
Blog RSS Feed
Martin Fowler
Martin Fowler
爱范儿
爱范儿
IT之家
IT之家
Last Week in AI
Last Week in AI
A
About on SuperTechFans
Google DeepMind News
Google DeepMind News
阮一峰的网络日志
阮一峰的网络日志
V
V2EX
aimingoo的专栏
aimingoo的专栏
G
Google Developers Blog
J
Java Code Geeks
Microsoft Azure Blog
Microsoft Azure Blog
美团技术团队
The Cloudflare Blog
MyScale Blog
MyScale Blog
T
The Blog of Author Tim Ferriss
Hugging Face - Blog
Hugging Face - Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
云风的 BLOG
云风的 BLOG
Y
Y Combinator Blog
The GitHub Blog
The GitHub Blog
腾讯CDC
Microsoft Security Blog
Microsoft Security Blog

Prompt 语宙

kimi-thinking-preview – 月之暗面推出的多模态思考模型 pdf-craft – 开源 PDF 转 Markdown 工具 UltraMem – 字节豆包大模型团队推出的全新超稀疏模型架构 EasyControl – Tiamat AI 联合上海科大等开源的图像生成控制框架 GaussianCity – 南洋理工大学 S-Lab 团队推出的 3D 城市生成框架 X-Prompt – 用于多模态视频目标分割的通用框架 豆包大模型1.5 – 字节跳动推出的最新版大模型 GaussianAnything – 南洋理工 S-Lab 和上海 AI Lab 等推出的 3D 生成框架 Cube 3D – Roblox 推出的 AI 3D 生成模型 OpenMath-Nemotron – 英伟达开源的数学推理系列模型 MAI Transcribe-1.5 – 微软 MAI 推出的语音转文本模型 Seed1.5-Embedding – 字节跳动 Seed 团队推出的向量模型 2026世界杯人机大战引爆!联想携手DeepSeek等顶尖AI大模型,对战亿万球迷预测冠军 高考公平守护战!豆包、文心等主流大模型集体禁用拍题功能 ShotAdapter – Adobe联合UIUC推出的多镜头视频生成框架 Devstral – Mistral AI联合All Hands AI开源的编程专用AI模型 MMaDA – 字节联合普林斯顿大学等推出的多模态扩散模型 Software Copyright Materials Skill – 开源软著资料生成Skill Dulus – 开源的 CLI AI Agent,可驱动多模型工具调用 Reasonix – 专为 DeepSeek 推出的开源终端编程 Agent Mega-ASR – NTU、NUS、上海AI Lab开源的语音识别模型 CodeGraph – 开源代码知识图谱工具,加速代码理解和分析 MiniCPM5-1B – 面壁智能联合清华开源的端侧文本基座模型 Horizon – 开源 AI 信息聚合系统,构建专属新闻雷达 BitCPM-CANN – 面壁智能联合清华开源的端侧大模型 Xiaomi Auto World Model – 小米推出的辅助驾驶世界模型 opera-browser-cli – Opera Neon 开源的命令行工具 omp – 开源的 AI 终端编程智能体,能与 IDE 深度联动 Claude Opus 4.8 – Anthropic 推出的旗舰级大语言模型 Hy-Memory – 腾讯混元推出的 Agent 记忆插件
FrontierScience基准测试:OpenAI如何用竞赛级题目精准评估大...
站外新闻 · 2026-06-14 · via Prompt 语宙

💡 站外导读:随着AI大模型能力飞速发展,其在专业科学领域的真实推理水平成为业界核心关切。传统测试偏重知识检索,难以衡量复杂科学问题中的深度推理与假设验证能力。OpenAI推出的FrontierScience基准,以国际奥赛题和博士级科研任务为标尺,首次系统量化大模型的专家级科学推理潜力,揭示出AI在结构化任务中的优势与开放研究中的显著短板,为行业提供了关键评估框架。

FrontierScience是OpenAI推出的科学AI能力评估基准,专门测试大模型在物理、化学、生物领域的专家级推理能力。包含两个子集:奥林匹克赛道(100道竞赛级短答题)和研究赛道(60道博士级开放任务),由国际奥赛奖牌得主和在职科学家设计。测试结果显示,GPT-5.2在竞赛题上得分77%,但科研题仅25%,暴露出AI在长期推理和假设验证方面的不足。基准填补了传统科学测试的空白,强调深度推理而非简单知识检索,为AI在科研中的应用潜力提供了量化参考。

  • FrontierScience是什么
  • FrontierScience的主要功能
  • FrontierScience的技术原理
  • FrontierScience的项目地址
  • FrontierScience的应用场景
      • 📝 站长洞察 (Editor’s Insight)

FrontierScience

FrontierScience的主要功能

  • 评估科学推理能力:FrontierScience衡量AI在物理、化学和生物等科学领域的专家级推理能力。通过两个主要部分来实现这一目标:FrontierScience-Olympiad和FrontierScience-Research。
  • 提供标准化测试框架
    • FrontierScience-Olympiad包含100道由国际奥赛奖牌获得者设计的问题,以简答形式评估理论科学推理能力,难度至少达到国际奥赛水平。
    • FrontierScience-Research由博士科研人员设计的60个原创研究子任务构成,采用10分制评分标准,模拟真实科研中的多步推理问题。

  • 量化模型表现:基准通过独立子集采样和多次采样取平均值的方式,减少偶然性波动,确保评估的稳定性和可重复性。在评分方式上,Olympiad部分基于答案等价性判定,允许一定误差范围内的数值近似和表达式变换;Research部分则将科研推理过程拆解为多个可核查的关键环节,逐项对照评分标准进行评分。
  • 确定改进方向:FrontierScience为AI模型在科学推理领域的表现提供了“上游”参考点,帮助研究人员观察模型的成功与不足,并确定未来的改进方向。揭示了AI在结构化推理任务中的优势,以及在开放式思维和真实科研任务中的不足,为模型的进一步发展提供了明确的指导。

FrontierScience的技术原理

  • 数据集设计:FrontierScience构建了评测数据集,采用「专家原创 + 双层任务结构 + 可自动评分机制」的设计机制,形成同时具备挑战性、可扩展性与可重复性的科学推理评测基准。
  • 任务划分:FrontierScience数据集被划分为两个子集,分别对应封闭式精确推理与开放式科研推理两类能力:
    • Olympiad数据集:由国际奥赛奖牌获得者设计,问题难度对标国际顶级竞赛,聚焦短答案推理任务,要求模型输出单一数值、代数表达式或可模糊匹配的术语。

    • Research数据集:由科研人员撰写,题目模拟真实科研子问题,覆盖物理、化学与生物三大领域,每道题目配套10分制细粒度评分。

  • 评分机制:FrontierScience针对两类任务的不同特性,分别设计了可自动执行的评估策略:
    • Olympiad子集:评分主要基于答案等价性判定,允许在合理误差范围内的数值近似、代数表达式的等价变换,以及术语的模糊匹配。

    • Research子集:将科研推理过程拆解为多个独立、可核查的关键环节,模型的回答需逐项对照评分标准进行评分。

  • 评测流程:FrontierScience在评测过程中,所有模型均禁用联网功能,确保模型输出仅基于其内部知识和推理能力。为减少偶然性波动,研究团队对两个子集采用多次独立采样并取平均值的方式进行统计。
  • 问题筛选与审核:为确保问题的原创性和严谨性,研究团队在内部模型测试阶段对题目进行了筛选,剔除已被现有模型轻易解决的问题。训练任务总计会经历创建、审核、解决和修订4阶段,独立专家会相互审核各自的任务,以确保其符合标准。

FrontierScience的项目地址

  • 项目官网:https://openai.com/index/frontierscience/
  • HuggingFace数据库:https://huggingface.co/datasets/openai/frontierscience
  • 技术论文:https://cdn.openai.com/pdf/2fcd284c-b468-4c21-8ee0-7a783933efcc/frontierscience-paper.pdf

FrontierScience的应用场景

  • 加速科学发现:通过评估AI在复杂科学推理任务中的表现,FrontierScience可以帮助科学家快速筛选和优化研究方向,加速从药物开发到材料科学等领域的创新。

  • 科学教育评估:FrontierScience可以作为科学教育领域的评估工具,帮助教育工作者了解学生在科学推理和研究能力上的表现,从而优化教学方法。

  • 药物研发:在药物开发过程中,FrontierScience可以帮助评估AI模型在分子设计、药物筛选和临床前研究中的能力,加速新药的研发进程。

  • 研究项目规划:通过模拟真实的科研任务,FrontierScience可以帮助科研团队更好地规划研究项目,优化资源分配。

  • 标准制定:为AI在科学研究中的应用提供了标准化的评估框架,有助于制定相关技术标准和规范。

📝 站长洞察 (Editor’s Insight)

FrontierScience的发布标志着AI评估进入「深水区」。OpenAI不再满足于通用语言能力测试,而是直击科研场景的核心——深度推理与创造性假设验证。这一基准的设计凸显了当前大模型的本质矛盾:在封闭的、有标准答案的竞赛级任务上表现优异,却在开放、多步骤的真实科研问题前暴露短板。这恰是AI从「工具」迈向「伙伴」的关键瓶颈。从产业视角看,该基准为药物研发、材料科学等领域的AI应用提供了可量化的「能力地图」,未来或将推动模型训练范式从「知识灌输」向「推理链优化」转变。真正的科学AI,需跨越从「解题」到「探索」的鸿沟。