AI审查合同正成为年轻人初入职场的首选工具，但一场由AI引发的劳动合同纠纷暴露出致命缺陷。当大模型幻觉遭遇法律严谨性需求，AI不仅杂糅各地法规、引入虚假判例，更因缺乏行业经验导致价值判断失准。本文深度剖析AI+法律应用的现实困境：从机密泄露风险到职业替代矛盾，揭示这个看似刚需的场景为何陷入'懂法律的不想用，不懂法律的用不好'的怪圈。
去年年底，我参加一个大模型类应用的年终总结会。会上数据显示，用AI审查合同专业类AI应用里的调用量第一名，甚至超过了文案生成、PPT制作、医疗建议等一般意义上的主流AI应用。
这当然很好解释，作为AI主要用户的年轻人，初入社会时需要突然面对劳动合同、租房合同等等一大堆合同。大多数非法律专业的同学，面对条条框框的复杂合同，当然第一选择是向AI求助。
当时看到这个数据我也觉得很合理。直到最近发生了一件事，让我对用AI审合同这件事有了一点新的观察和思考。
这件事也很简单：我们准备招聘的新同事，在签署劳动合同之前被AI劝走了。
事情大概是这样的。两个月前我们预计招聘一位新同事，工作内容和薪资待遇等都已经谈妥。但在签署劳动合同的环节出了问题。这位准同事列出了合同中的很多问题，要求进行修改，否则就不能入职。
这里必须强调一下，并不是说劳动合同不能修改。劳资双方商定劳动合同内容是天经地义的事，也不是说我们这份工作有多好，非来不行。招聘这件事本来就是双向选择。
这里仅仅想要讨论审查合同这件事本身。这位新同事列出了众多合同修改需求。公司法务看过之后的第一反应就是这应该是用AI审的。一问之下果然如此。新同事说她刚刚毕业，没看过合同，于是让一个非常主流的大模型代替完成了合同审查。
但问题是，公司法务认为AI提出的修改意见里有很多是无法接受的。比如AI说为了帮她保留应届生身份，因此必须把劳动合同修改为实习协议，但我们并不是要招聘实习生，这个修改显然很难满足。
于是，由于双方无法达成共识，这位新同事决定放弃入职。这个选择当然没有问题，但亲身经历了年轻人用AI审合同这件事之后，还是给我们带来不少思考。法务同事告诉我，AI审劳动合同往往一眼就能识别出来。比如，我们的合同是基本参照本市劳动合同模板输出的，但AI的审核意见会杂糅各个地方的劳动法规，甚至还会吸收很多网络上的劳动合同修改案例，从而尽可能多地提出意见。
但这些意见是否合理，是否掺杂了干扰信息，以及资方是否能够接受，都不在AI的负责范围里。
由此细究下去，我们这次招聘本身可能无关紧要，但会不会有人确实因为AI的意见，拒绝掉了本应珍惜的工作机会呢？
事实上，用AI审查合同这件事经常出现各种纰漏，审查劳动合同只是其中一个比较典型的场景罢了。这里面的关键问题在于，大语言模型的基础工作逻辑是尽可能多地输出内容，不过分在意所生成内容的严谨性。这也就产生了所谓的大模型幻觉。但问题是，审查合同这件事本身是非常要求严谨性的。这就让AI审合同这件事很容易被打上死结。
这里面最典型的问题就是AI会在审查合同时加入幻觉内容，引入事实性错误。为了能够自圆其说，很多AI会引用不存在的司法解释或者判例，并且很容易将互联网上的所有相关信息都视为抓取对象，也就是说非常容易出现模型污染。
这种情况落在审查合同、诉状生成等AI+法律场景，就很容易产生千奇百怪的错误。比如2023年有一桩民事诉讼。其中一方的代理律师就用AI生成了诉状，结果被发现AI引用了并不存在的最高法判例。类似情况在专业律师想要轻松一下，用AI偷个懒的时候都难以避免。非法律专业的普通人，很容易陷入AI说什么就是什么，根本无从分辨幻觉内容的尴尬境地。
另一方面，AI审查合同往往法律能力相对可靠，但行业经验严重缺失。
包括劳动合同在内的很多合同，都大概率要包含所处行业的行业惯例与行业规则。但这些内容往往是AI无法掌握的。这就导致AI只能照搬其他领域合同的审查经验，从而导致很多问题。比如说，AI很难判断一些模糊表述在本行业、本领域中是否适用，从而难以分辨背后的合同风险与公平问题。
再有一个，AI的价值判断与法律推理能力不足。
一位法律专业的朋友告诉我们，他发现当一份合同中包含了较为复杂的销售、服务内容，合同中包含不同的税点时，AI就会无法分辨、难以理解适配哪种。类似需要权衡利弊，进行推理判断的问题，都不是AI的强项。换言之，AI审查合同是十分死板的。当我们需要签署较为复杂、灵活的合同时，AI的弱点往往会充分暴露。
最为关键的是，AI不会承担任何法律责任。它可以洋洋洒洒提出众多法律意见，但并不会为合同签署结果负责，更不会为没有签署某份合同而惋惜。
当前阶段，很多人都习惯将AI视作一个免费且专业的律师。尤其是年轻人初入社会时，AI更是审查合同时的天然帮手，甚至很大程度愿意放手让AI接管。
但这种情况很容易造成对AI的过度依赖。还是那句话，本应严谨的事情，不能用随意的方式来应对。
由这个话题可以再多讨论一点。就是AI审查合同为代表的AI+法律类应用，真的有我们想象中那样前景广泛吗？
对普通人而言，AI+法律类应用确实带来了极大便捷，但我们无法确认AI是否可靠，可能还是需要求助专业的法律人士，这就让AI在其中的作用和位置变得有些尴尬。
而在法律专业人士看来，AI审合同更是非常鸡肋。上文中提到的法律从业者告诉我，目前AI的特点是法条引用比较精准，但行业经验和判断能力严重缺失。然而现实情况是，诉讼场景法条应用比较多，但诉讼律师已经是非常顶尖的法律从业者，他们只占行业的很少一部分，并且诉讼场景需要非常严谨，从业者极少会依赖AI。
而在更加大众化、需求量更大的AI审查合同场景，反而会暴露AI的弱势。合同审查需要的是经验与利益判断，这些AI往往并不擅长。
而且很多企业与行业有着严格的保密性。AI审查合同意味着需要将合同内容上传到服务器，这意味着核心机密信息的外露。但如果要本地搭建专门用来审查合同的AI服务器，又会带来高昂的企业成本。在专业律所收费已经非常平价的今天，盲目追求智能化合同审查显然是不划算的。
还有一个问题，如今法律从业者数量非常多。而审查合同往往是新人进入这个行业的第一站，也是维持法律行业就业基数的根本需求。这意味着大量推进AI审查合同，很容易遭遇从业者的抵制。
懂法律的不想用，不懂法律的用不好。最终导致AI审查合同这件事，变成了一个鸡肋难题。
当科技产业惊喜于终于给AI找到了一个合情合理的商业场景时，是否想过可能是在盖一座空中楼阁？
本文由人人都是产品经理作者【脑极体】，微信公众号：【脑极体】，原创/授权 发布于人人都是产品经理，未经许可，禁止转载。
题图来自Unsplash，基于CC0协议
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。