许多人使用 ChatGPT 来学习、探索创意、解决问题，或思考个人困扰。在这些交流中，有时会涉及用户正处于挣扎中或寻求支持的时刻。我们的目标是设计出能够周全响应敏感对话的系统，并在必要时鼓励用户寻求现实世界中的帮助。
即日起，我们开始逐步推出“可信联系人”(Trusted Contact) 功能。这是 ChatGPT 的一项可选安全功能，允许成年用户指定一位自己信任的人（如朋友、家人或照看者）。如果我们的自动化系统和经过专业培训的审核人员检测到，加入该功能的用户所讨论的自残内容已涉及严重的安危问题，系统便可能会通知这位被指定的人。“可信联系人”旨在为用户提供除 ChatGPT 现有本地援助热线之外的又一层支持，帮助处于危机中的用户与他们信任的人取得联系。
“可信联系人”建立在“家长控制安全通知”（在新窗口中打开）的基础之上 — 该功能允许家长或监护人在关联的青少年帐户出现严重心理困境迹象时接收提醒。现在，我们将安全警报选项进一步扩展，让任何 18 岁以上的用户都可以选择添加一位自己信任的人作为“可信联系人”。
专家建议（在新窗口中打开）指出，社交联系是降低自杀风险最重要的保护因素之一。“可信联系人”（在新窗口中打开）旨在鼓励用户与已经信任的人建立联系。它不能替代专业医疗或危机服务，而是为身处困境的人提供多重安全保障之一。在适当情况下，ChatGPT 仍会鼓励用户联系危机热线或紧急服务机构。
“心理学研究一致表明，社交连接是一项强大的保护因素，在情绪困扰时期尤为如此。在保留用户选择权和自主权的前提下，帮助人们预先指定一位信任的人，可以让用户在关键时刻更轻松地寻求现实世界中的支持。”
—Arthur Evans 博士，美国心理学会首席执行官
虽然这些严重的安危情况很少见，但一旦出现，我们的系统旨在支持及时的审核与响应。虽然没有任何系统是完美的，且发送给“可信联系人”的通知可能并不总能精准反映一个人的真实处境，但每条通知在发出前都会经过专业的人员审核。我们力争在不到一小时内完成对这些安全通知的审核。
在开发“可信联系人”功能的过程中，我们咨询了专门从事心理健康和自杀预防的临床医生、研究人员及相关组织的意见。这项工作得到了我们全球医生网络（由分布在 60 个国家/地区的 260 多名执业医生组成），以及我们的身心健康与人工智能专家委员会的指导。我们还与包括美国心理学会（在新窗口中打开）在内的外部组织进行了紧密合作。
“AI 最大的潜力之一，在于它能够促进人与人之间真实的连接，并提升心理安全感。ChatGPT 的‘可信联系人’功能令我深受鼓舞，它在赋能于人方面迈出了重要一步，尤其是在人们感到脆弱的时刻。”
— Munmun De Choudhury 博士，佐治亚理工学院 J. Z. Liang 交互式计算教授、身心健康与人工智能专家委员会成员
除了“可信联系人”功能外，ChatGPT 还设有安全保障机制，在各个阶段引导敏感对话。我们持续改进系统，以更好地响应对话中表达的不同等级的风险：
“可信联系人”是 OpenAI 致力构建能协助人们度过艰难时刻的 AI 系统所做努力的一部分。我们将继续与临床医生、研究人员以及政策制定者合作，改进 AI 系统在用户可能面临困境时的响应方式。我们的目标是确保 AI 系统不与现实脱节。相反，它们应当协助用户与现实世界中最重要的医疗护理、人际关系及资源建立联系。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。