孙笑侠、魏义铭:

司法 AI 的因果判断瓶颈：在人类认知中，因果推断往往被视为高级智能的重要组成部分。但从技术机理看，当下联结主义路径下的人工智能更擅长从既有数据中提取并复现统计规律，而难以把握规律背后的因果结构。这也构成了其在司法场景中难以胜任复杂推理任务的关键瓶颈。

司法 AI 的价值判断瓶颈：更进一步，即使人工智能能够模拟人类之“智”，它也未必具有法官之“智”。一方面，司法裁判是一种规范性的价值权衡，而 AI 的底层逻辑则是描述性的统计拟合，其缺少直接进行价值判断的能力。另一方面，法官进行价值判断时的专业思维与公众常识性思维之间也存在差异。一些学者甚至认为这种思维上的差异会导致法律人和常人大脑在生物学上的差异。法律专家在处理法律问题时更像是用规则去调控情绪，而普通人更像是用情绪去带动规则。[…]

当前以“联结主义”为主的技术路径，使 AI 更像是大众“自然理性”的数字化投影。AI 训练所基于的海量数据，如互联网文本、书籍、新闻报道、社交媒体的讨论，本质上是一个充满情绪化表达的混沌集合。它忠实地记录了人类社会在“自然理性”驱动下的种种反应：直觉的判断、道德的激愤、群体的狂热与根深蒂固的刻板印象。它会通过概率分析在数据中捕捉到某种“主流倾向性”，预测哪种判决结果与语料库中绝大多数人类的情感、观点和道德偏好最为一致，并会天然地倾向于产出一个符合大众情感和直觉的输出，甚至是对输入观点进行“迎合”。这种能力使得人工智能在模拟人类日常对话、进行常识问答时表现出色，因为它的目标就是再现人类思维的普遍样貌。但这恰恰构成了它在司法场域中的致命缺陷。因为法官需要在必要时能够抵御、超越并审慎地偏离这种普遍的自然理性，以维护一种更为长远的法治价值。法官的权威与正当性并非来源于迎合当下的民意，而是来源于对法律这一“人工理性”体系的忠诚。一个真正伟大的判决，往往不是顺应舆论，而是在舆论的喧嚣中，坚定地捍卫那些超越一时一地民意的法律原则。因此，一个被设计用来学习和复制大众普遍思维模式的人工智能，其内在逻辑与法官抵御舆论、捍卫法治的天职是存在对立的。人工智能在模仿人类共识上的强大能力，反而成为其在模仿法官专业判断时最脆弱的“阿喀琉斯之踵”。