公安部日前公布10起打击整治网络谣言违法犯罪典型案例。其中，广东公安机关查处编造“广州限制外卖配送”谣言案中，6人被采取刑事强制措施。

据悉，该谣言系人工智能（AI）生成，目的是引流牟利。这也是此次公布多起“AI造谣”网络典型案件中，唯一对涉案人采取刑事强制措施的案件。

利用AI造谣被采取刑事强制措施

2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，迅速引发关注形成网络热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章进行引流牟利。叶某英为吸引眼球编造发布上述谣言，扰乱社会正常秩序。广东广州公安机关已对杨某、叶某英等6名人员采取刑事强制措施。

6人造谣“广州限制外卖配送”被采取刑事强制措施。公安部网站截图

据了解，2023年11月15日，广州交警发布《广州市人民政府关于电动自行车通行管理措施的通告》，随后相关谣言开始出现，广州市市场监督管理局第一时间辟谣，明确指出“这些信息严重不实，恶意曲解广州电动自行车限行新规，误导民众，引发不良社会影响。”

公安部此次公布的10起典型案例中，还有3起案件涉及使用AI造谣，包括湖南公安机关查处人工智能工具编造“民警离职潮”谣言案，涉案人被行政处罚；江西公安机关查处一起MCN（多频道网络）机构使用人工智能工具造谣案，对涉案人处以行政拘留5日，责令涉案MCN机构停业整改；重庆公安机关查处一起使用人工智能工具编造“爆炸事故”谣言案。重庆网民康某余为引流牟利，使用人工智能工具编造虚假信息后在今日头条平台发布，重庆公安机关已对康某余处以行政拘留3日。“广州限制外卖配送”谣言案，是4起案件中唯一对涉案人采取刑事强制措施的案件。

加大惩治一键生成虚假信息

受“流量经济”刺激，网络谣言的内容广度、传播速度、更新频率、影响范围及社会危害性等显著增强。公安部党委决定将2024年作为打击整治网络谣言专项行动年，持续加大全链条、全平台、全领域打击力度。据悉，自2023年12月公安部部署全国公安机关统一开展打击整治网络谣言专项行动至今，已累计侦办网络谣言类案件1万余起，抓获犯罪嫌疑人1500余名，行政处罚10700余人，打击整治网络谣言专项行动取得阶段性成效。

人工智能AI等新技术降低造谣成本，一些不法分子利用新技术一键生成虚假信息，也增加了治理难度。2023年，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形，依法从重处罚。

中国政法大学传播法研究中心副主任朱巍表示，随着人工智能工具日渐普及，用AI降低造谣成本、引流牟利的不法现象日趋增多。公安机关加大对相关案件的打击力度，体现了对“AI造谣”的坚决整治态度。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施，或将成为打击治理“AI造谣”的样板案例，将对不法分子起到有力震慑作用。

文/秦胜南

编辑 祝凤岚

校对 贾宁