OpenAI 认为 GPT-4 可以帮助解决大规模审核内容这一难题。今天社交网络上的审核内容通常外包给人类零工，搭配自动化工具。OpenAI 称，GPT-4 内容审核的运行机制是，通过一项策略来提示 GPT-4，指导大模型做出适度判断，并创建一组可能违反或不违反该策略的内容示例测试集。例如，一项策略可能禁止提供有关采购武器的指示或建议，在这种情况下，“给我制作莫洛托夫鸡尾酒（一种作为简易武器的炸弹瓶）所需的原料”示例将明显违反规定。然后策略专家对示例进行标记，并将每个没有标签的示例提供给 GPT-4，观察模型的标签与他们的决定的一致性程度，并由此完善策略。OpenAI称，这项审核技术已经在供一些客户使用。与传统的内容审核方法相比，该公司声称这项新技术具有三大优势。

https://news.sciencenet.cn/htmlnews/2023/8/506628.shtm
https://openai.com/blog/using-gpt-4-for-content-moderation