作者&编辑｜孙浩南

一直以来，对于各类违法犯罪问题，影响到了整个社会的繁荣稳定，群众无不对其咬牙切齿、恨之入骨。

昨天一早，网络上曝出，上海地铁9号线合川路站内有人持刀行凶的消息，一时间，引发社会广泛关注，对此，当地警方及时介入给予处置。

与此同时，也有“好事者”趁机作恶，为了热度利用AI捏造不实传闻，为此受到了法律的惩处。

中山公园地铁站捅人系谣言

6月19日8时许，上海地铁9号线合川站发生持刀伤人事件，有3人受伤。据网络视频显示，有一名男性伤者在闸机处腹部中刀倒地。事件发生后，合川站临时关闭配合公安机关处置，民警接报后迅速到场，将3名受伤人员送医治疗。目前，犯罪嫌疑人沈某(男，54岁)已被警方抓获，案件正在进一步侦办中。

然而，就在民众对此事件极为关注，想要获知人员伤亡情况时，有人却看上了这起恶性事件的流量和热度。

6月19日15时许，一人在途经中山公园附近一超市时，看到便衣民警正在抓捕盗窃嫌疑人，现场根本没有发生持刀伤人等情况，她却为营销品牌博取关注，故意编造并在网上发布“中山公园地铁站捅人”的谣言。

事后经民警调查，此人为陶某某(女，31岁)系某品牌营销人员，因不久前的热度让其“头脑一热”将抓小偷的小案件编造为持刀伤人的恶性事件来博取关注。造成群众恐慌，产生恶劣社会影响。目前，陶某已被依法处以行政拘留。

无独有偶，看上真实持刀伤人事件流量的高某某(女，46岁)同样产生了歪心思。身为某品牌营销人员的她在6月19日上午，为增加其运营的自媒体账号粉丝数和关注度，使用AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息发布在网上，造成恶劣社会影响。目前，高某某已被依法处以行政拘留。

AI成了“蹭热度”的造假工具

自去年12月开始，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作，造谣生事等网络违法乱象开展全力集中整治。截至2024年4月，累计查处网络谣言384起，依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个。

在侦办案件的过程中，警方发现，利用AI技术炮制“爆点”的不法行为是最近兴起的新型手段。

譬如上海青浦警方在打击网络谣言专项行动中，查处了一起虚构事实扰乱公共秩序的案件。该案中，男子为提升曝光度，博取流量，输入关键字用AI杜撰关于青浦区发生命案的文章，并在网上下载网图后移花接木，发布在网上吸引网友关注，之后被依法行政拘留。

相较于传统的，由造谣者人工编造散播的谣言，使用AI工具来造谣的危害显然更大。一方面，利用AI技术，造谣者只需要进行简单的描述，虚假文字信息，图片，视频就会立马生成。另一方面，最新的生成式AI技术足够厉害，已经接近“以假乱真”的效果。人工智能还能根据传播渠道的特征，实施个性化的谣言生成，迷惑性更强，传播范围更广，所产生的危害也会更大。

据日本瑞穗研究所及技术公司的调查，70%的日本受访者认为互联网上的信息很难判断真假，但只有26%的受访者表示在接触可疑信息后会进行某种程度的验证。

2024年年初，世界经济论坛发布《2024年全球风险报告》，将人工智能生成的错误信息和虚假信息列为“未来两年全球十大风险”之首，担心其会使本就两极分化、冲突频发的全球形势进一步恶化。

对于广大网友来说，在上网浏览信息时要保持对信息来源的警惕性，尽量选择权威、可信赖的媒体或机构作为信息来源。切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者等待官方消息发布后再做判断。

科技旋涡认为，AI技术的发展虽然带来了许多便利和福祉，但其潜在危害也不容忽视。我们需要在享受科技带来的好处的同时，保持警惕和理性思考，加强对AI技术的监管和管理，在确保其不会对人类安全造成威胁的前提下进行发展。

写在最后

AI技术作为当今科技领域的热门话题，其在带来便利的同时，也容易被“好事者”利用来制造虚假信息、扰乱社会秩序。AI是一种辅助人类工作、提高效率的工具，不应该被用来造谣生事、犯罪。

流量固然能够带来巨大的宣传效果，但靠造假和吃人血馒头得来的利益终究会迎来更大的反噬。AI是一把双刃剑正体现于此，在给人类生活带来便利的同时，它也带来了诸多困境。此次事件再次敲响了警钟，提醒着我们直面AI带来的种种挑战。