惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
H
Help Net Security
云风的 BLOG
云风的 BLOG
Apple Machine Learning Research
Apple Machine Learning Research
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Hugging Face - Blog
Hugging Face - Blog
博客园_首页
D
Docker
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Blog — PlanetScale
Blog — PlanetScale
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
GbyAI
GbyAI
博客园 - Franky
B
Blog RSS Feed
Stack Overflow Blog
Stack Overflow Blog
L
LangChain Blog
量子位
V
Visual Studio Blog
Y
Y Combinator Blog
小众软件
小众软件
N
Netflix TechBlog - Medium
博客园 - 三生石上(FineUI控件)
Microsoft Security Blog
Microsoft Security Blog
雷峰网
雷峰网

OpenAI News

Using custom GPTs ChatGPT for customer success teams Applications of AI at OpenAI Research with ChatGPT Analyzing data with ChatGPT Financial services Responsible and safe use of AI Writing with ChatGPT ChatGPT for research Creating images with ChatGPT Personalizing ChatGPT ChatGPT for finance teams Getting started with ChatGPT Working with files in ChatGPT Learn ChatGPT workflows for sales teams Prompting fundamentals ChatGPT for managers Using projects in ChatGPT Learn ChatGPT workflows for marketing teams Brainstorming with ChatGPT AI fundamentals ChatGPT for operations teams Healthcare Our response to the Axios developer tool compromise Using skills OpenAI Full Fan Mode Contest: Terms & Conditions CyberAgent moves faster with ChatGPT Enterprise and Codex The next phase of enterprise AI 儿童安全蓝图正式发布 推出 OpenAI 安全研究员计划
技术报告
2025-10-29 · via OpenAI News

简介

gpt-oss-safeguard-120b 与 gpt-oss-safeguard-20b 是基于 gpt-oss 模型后训练的两个开放权重推理模型,经过特定策略训练后可据此对内容进行标注。该模型遵循 Apache 2.0 许可协议及我们的 gpt-oss 使用政策。这些纯文本模型在开源社区反馈基础上开发,兼容我们的回复 API。模型支持定制化配置,提供完整的思维链 (CoT),可应用于不同推理强度(低/中/高),并支持结构化输出。

本报告阐述了 gpt-oss-safeguard 的功能特性,并基于底层 gpt-oss 模型作为基准,提供了 gpt-oss-safeguard 模型的安全基准评估。有关底层 gpt-oss 模型的开发与架构详情,请参阅原始 gpt-oss 模型卡片⁠

我们建议将这些模型用于依据预设政策对内容进行分类,而非作为终端用户交互的核心功能;原始 gpt-oss 模型更适合此类应用场景。下文提供的安全指标描述了 gpt-oss-safeguard 模型在聊天场景中的运作机制。gpt-oss-safeguard 模型并非为此用途设计,但因其为开放模型,用户可能将其用于此类场景。鉴于此可能性,我们需验证其在该场景下是否符合安全标准;本报告分享了相关测试结果。同时我们提供了聊天场景下的多语言性能初步评估,需注意该评估未直接考察基于预设政策的内容分类性能。

gpt-oss-safeguard 模型是对 gpt-oss 模型的微调版本,训练过程中未使用任何额外的生物学或网络安全数据。因此我们认定,此前基于 gpt-oss 版本发布的最坏情况场景评估研究同样适用于这些新模型。