教皇利奥十三世 周一打电话来对人工智能进行稳健监管及其开发者为了公共利益而非利润而工作，发布了一份全面的宣言，以保护人类免受技术从工作到战争各方面的影响。

“伟大人性”(Magnificent Humanity), 教皇利奥的第一份通谕，自这位美国出生的第一位教皇在当选后几天内宣布他认为人工智能是人类目前面临的最大挑战以来，一直备受期待。

在文中，里奥谴责了驱动人工智能竞赛的“权力文化”，特别是在开发更复杂的远程战争方法方面。他宣称将不可逆转、致命的决策托付给人工智能系统是不可接受的，这在美国教皇和特朗普政府之间引发了另一个冲突点，后者 积极推动人工智能发展的去监管化。

科技界、学术界和天主教道德领域的专家表示，这份文件很可能成为人工智能辩论的基准，成为政策制定者、研究人员和普通民众的参考依据。随着该技术的近日常态化发展，人们开始担忧人工智能将取代人类的工作，甚至人类智能。

“它适合那些站在这些工具最前沿、能够看到它们所能做到的不可思议的事情、并对自己的‘作为人类意味着什么？’提出疑问的人，”微软人工智能高管、美国天主教大学人工智能研究所所长泰勒·布莱克说道。

教皇在主持Anthropic的同时，也批评了人工智能公司。

教皇周一在梵蒂冈的一次发布活动中介绍了该文本，该活动邀请了Anthropic的联合创始人，该公司目前正处于 与特朗普政府的法律战 对其人工智能技术的过度访问。梵蒂冈决定将其十年来的硅谷参与工作纳入Anthropic的范畴关于人工智能的人道代价的对话。

然而在他的文章中，利奥反复抨击私人部门权力和数据集中在少数人手中是一种危险，尤其对儿童和最弱势群体而言，并呼吁对外部监管他们的工作。

“仅仅在抽象层面提及伦理是不够的；需要健全的法律框架、独立的监督、知情的用户以及一个不推卸责任的政治体制，”他写道。“如果这种道德是由少数人决定的，那么更道德的人工智能是不够的。”

利奥多次呼吁人工智能开发者和负责政治的领导人让他们放慢速度，反思自己在做什么。他敦促他们使用道德和精神准则来做出选择，工作不是为了自己的利润或权力，而是为了人类的福祉.

AI 竞争对手OpenAI和Anthropic 是美国第二和第三大私营公司，每个公司价值数千亿美元，超过了许多国家的GDP。

Anthropic联合创始人Christopher Olah欢迎Leo的批评和担忧，表示对人工智能及其背后研究人员的这种外部检查对于技术“造福人类”至关重要，因为利害关系重大——“人工智能大规模取代人类劳动的可能性是真实存在的。”

“我们需要更多来自世界——宗教团体、公民社会、学者、政府——来做祂所做的那样：认真对待这件事，仔细观察，并推动事情向更好的方向发展，”奥拉说。“我们需要有见识的批评者，告诉实验室我们何时做得不够。我们需要那些激励无法使其弯曲的道德之声。”

专家表示这段文字将成为一个基准

在一篇系统性的文章中，这位数学专业的教宗追溯了天主教社会教义的演变，并将其核心概念——正义、团结、劳动尊严和资源的普遍目的地——应用于数字革命。

“我坚信这份文件将成为我们这个时代的里程碑，一份深刻而富有远见的文件，”圣母大学法学院教授、Meta监督委员会主席保罗·卡罗扎说.

“教皇利奥正以清晰、全面且连贯的声音呼吁我们为构建一个技术服务于人类而非损害人类的世界承担责任，”他说。

在其最强烈的章节中，利奥谴责了人工智能如何通过使人们对战争的成本变得麻木不仁来加速“战争的常态化”。他没有点名具体的冲突，但提到了“在希望保持其霸权地位和渴望夺取霸权地位的权力之间发生的帝国主义对立。”

他要求人工智能开发者公开透明并承担责任，以确保使用人工智能武器进行打击的决策指挥链始终可知。他宣称，鉴于战争的科技进步，天主教会的“正义战争”理论——该理论为何时可以使用武力提供了具体标准——现已“过时”。

教堂的社会正义传统中的一段文字

利奥在5月15日签署了这份文件，这一天是利奥的偶像和同名教皇利奥十三世发布《新事》（Rerum Novarum）的135周年纪念日。这份最重要的教义文件探讨了工人的权利、资本主义的局限性，以及工业革命进行时国家雇主对工人应尽的义务。

它成为现代天主教社会思想的基石，现任教皇在其牧职开始时引用了它，与此相关。 人工智能革命，他认为这提出了与一个世纪前的工业革命相同的存在性问题。“伟大的人性”因此成为教皇们在长达一个世纪的历史中，根据其时代的社交问题调整“新事”的最新章节，经常关注工作对人类繁荣的尊严.

人工智能既唤起了存在性恐惧，也唤起了乌托邦愿景  在关于它是否会成为促进人类繁荣的催化剂，还是会成为削弱人类智力并摧毁数百万高薪工作的技术毒药的问题上，争论日益激烈.

“追求更高利润不能证明那些系统性地牺牲工作的选择是正当的，因为人本身是目的，不是手段，经济秩序必须服从于人的尊严和公共利益，”利奥写道.

利奥将他对维护劳动中的人的尊严的关注扩展到为教廷自身发布有史以来第一次教皇道歉。 在合法化奴隶制方面的作用 通过赋予欧洲君主明确的权力来奴役“异教徒。”

与硅谷长达十年的对话

梵蒂冈官员拒绝透露具体是谁为利奥的通谕做出了贡献。但梵蒂冈和教会官员已经与硅谷科技公司进行了十年的对话。在他担任教宗的末期，教皇方济各开始 更多地谈论 人工智能以及它对人类构成的威胁.

在梵蒂冈发布会上将Anthropic纳入其中这一决定受到了一些人的批评，他们认为这是教皇对人工智能公司的认可.

今年2月，特朗普政府下令所有美国机构 停止使用 Anthropic 的技术在其拒绝允许美国军方无限制使用后。Anthropic 自称是将其安全性和风险规避放在研究前沿的 AI 公司，目前 正在起诉政府。

未来生命研究所的非营利性美国宗教联络人布莱恩·博伊德认为，Anthropic联合创始人奥拉的入选类似于教皇接见国家元首：并非一种认可。

“我认为这更像是一种承认，这家公司（Anthropic）非常强大，目前正赢得取代人类工人的这场竞赛，”博伊德说道。

Anthropic 是一家“承担着巨大风险和责任的企业，”鲍德继续说道，但表示该公司“展现了真诚的善意、正直和对话的兴趣。”