惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
量子位
MongoDB | Blog
MongoDB | Blog
N
Netflix TechBlog - Medium
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
B
Blog
A
About on SuperTechFans
腾讯CDC
The GitHub Blog
The GitHub Blog
云风的 BLOG
云风的 BLOG
雷峰网
雷峰网
Last Week in AI
Last Week in AI
H
Help Net Security
WordPress大学
WordPress大学
博客园 - 司徒正美
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
H
Hackread – Cybersecurity News, Data Breaches, AI and More
T
Tailwind CSS Blog
博客园 - 【当耐特】
S
SegmentFault 最新的问题
美团技术团队
M
MIT News - Artificial intelligence
L
LangChain Blog
博客园 - 聂微东

OpenAI News

Using custom GPTs ChatGPT for customer success teams Applications of AI at OpenAI Research with ChatGPT Analyzing data with ChatGPT Financial services Responsible and safe use of AI Writing with ChatGPT ChatGPT for research Creating images with ChatGPT Personalizing ChatGPT ChatGPT for finance teams Getting started with ChatGPT Working with files in ChatGPT Learn ChatGPT workflows for sales teams Prompting fundamentals ChatGPT for managers Using projects in ChatGPT Learn ChatGPT workflows for marketing teams Brainstorming with ChatGPT AI fundamentals ChatGPT for operations teams Healthcare Our response to the Axios developer tool compromise Using skills OpenAI Full Fan Mode Contest: Terms & Conditions CyberAgent moves faster with ChatGPT Enterprise and Codex The next phase of enterprise AI 儿童安全蓝图正式发布 推出 OpenAI 安全研究员计划
更新我们的《模型规范》,融入青少年保护措施
2025-12-18 · via OpenAI News

我们将分享《模型规范》更新内容,这是一组书面规则、价值观和行为期望,同时引入了新的“18 岁以下人群 (U18) 专项原则(在新窗口中打开)”,旨在引导 AI 模型的行为,尤其是在高难度或高风险情境下。模型行为对人们与 AI 的交互方式至关重要,而青少年的发展需求与成年人有所不同。

“U18 原则”将引导 ChatGPT 为 13 至 17 岁青少年提供安全、适龄的体验。这种方法以发展科学为基础,优先考虑预防措施、透明度和早期干预。在制定这些原则时,我们曾将其交由外部专家(包括美国心理学会)进行预审,作为我们持续寻求反馈以优化方案的组成部分。

虽然《模型规范》的原则仍适用于成人和青少年用户,但此次更新明确了这些原则在青少年情境中的应用方式,尤其是在未成年人安全考量可能更为突出的情况下。

“U18 原则”以四项指导承诺为基础:

  • 将青少年安全放在首位:即使这可能会与其他目标相冲突
  • 促进现实世界的支持:鼓励线下社交和提供可信资源
  • 以适龄化方式对待青少年:既不居高临下,也不将其视作成年人
  • 保持透明:设定明确的期望

这些原则遵循我们的“青少年安全蓝图”,始终致力于引导我们的青少年安全工作,包括对注册时声称自己未满 18 岁的用户实施内容保护以及应用家长控制功能。在这些情境下,我们已实施相关保护措施,以指导模型在讨论高风险内容时更加谨慎 — 包括自残和自杀、浪漫或性化角色扮演、图像化或露骨内容、危险活动和物质、身体形象和饮食失调等话题,以及要求对不安全行为保密的请求。

美国心理学会审阅了“U18 模型规范”的早期草案,并为长远发展提供了关键洞察,明确指出保护青少年的重要性:

“APA 鼓励 AI 开发人员为其产品的青少年用户提供适用于其发展阶段的预防措施,并对年轻用户采取更具保护性的方式。科学表明,人际互动对儿童和青少年的社会、心理、行为甚至生理发展都至关重要,如果 AI 工具与人际互动保持平衡,儿童和青少年就能从中受益。青少年使用 AI 的体验应接受审慎监督,并与可信赖的成年人进行讨论,以鼓励其对 AI 机器人提供的内容进行批判性审核,并鼓励年轻人培养独立思考能力和多种技能。”

美国心理学会首席执行官,Arthur C. Evans Jr 博士

此次更新还明确了当青少年出现安全问题时,智能助手应如何应对。这意味着我们应对青少年设立更完善的防护机制、提供更安全的替代方案,并在对话进入高风险领域时鼓励其寻求可信的线下支持。如果存在迫在眉睫的风险,我们将敦促青少年联系紧急服务或危机资源。

与《模型规范》的其他部分一致,“U18 原则”体现了我们期望的模型行为。我们将结合新的研究成果、专家意见和实际应用,继续对其进行完善。

在我们现有工作的基础上,加强青少年安全防护

在更新《模型规范》的同时,我们针对 ChatGPT 采取了多层次方案以加强青少年安全防护,包括产品保障、家庭支持和专家指导。

家长控制功能(在新窗口中打开)问世以来,我们已将保护措施扩展到群聊、ChatGPT Atlas 浏览器和 Sora 应用等新产品。随着我们不断推出新的产品和功能,这些更新将帮助家长定制其青少年 ChatGPT 专属体验。

与专家共同合作

我们与各个学科和领域的专家密切合作,并以其建议为指导,开展青少年安全工作。10 月,我们成立了身心健康与人工智能专家委员会,以提供建议并定义适用于各年龄段的健康 AI 交互方式。这项工作为家长控制和家长通知功能提供了指导基础。我们还通过全球医生网络整合临床专业知识,以引导安全研究和评估模型行为,包括改进 ChatGPT 识别困扰的能力,并在适当时引导人们寻求专业护理。我们在此基础上开发了 GPT‑5.2,并与 ThroughLine(在新窗口中打开) 建立合作,在 ChatGPT 和 Sora 中提供本地化帮助热线,从而扩展获取现实世界支持的途径。

下一步发展

目前,我们正处于面向 ChatGPT 消费者套餐逐步推出年龄预测模型(在新窗口中打开)的早期阶段。当我们判定某个帐户属于未成年人时,该模型将帮助我们自动应用青少年保护措施。如果我们无法确认某个用户的年龄或信息不完整,我们将默认提供 U18 体验,并采取适用于成年人的方式验证其年龄。

加强青少年安全是一项持续性工作,我们将不断优化家长控制功能和模型能力,扩展为家长提供的资源,并与身心健康委员会和全球医生网络等组织、研究人员和专家合作伙伴密切配合。

我们致力于制定完善的青少年保护措施,并不断加以改进,为青少年和家庭提供更有效的支持。