两人用AI洗稿编造车企谣言被抓 非法获利8万余元。近日，上海警方公布了多起利用人工智能工具编造谣言、非法获利的典型案例。两名不法分子通过AI“洗稿”批量发布针对多家车企的虚假文章，累计发布70余万篇次，非法获利8万余元，目前因涉嫌非法经营罪被依法刑事拘留。另一起案件中，某微信公众号编造与三甲医院合作开展干细胞治疗肾病的不实信息，两名运营人员被处以行政处罚；还有一名网民故意裁切AI生成视频中的“技术生成”水印标签，制造外卖骑手负面假象，已被行政拘留。
今年3月初，上海黄浦警方接到一家三甲医院报警，称名为“医学科学院细胞中心”的微信公众号发布多篇不实文章。这些文章声称该中心与医院合作，可通过干细胞治疗肾脏病，并罗列了所谓联合研究数据和患者康复案例。经医院核实，干细胞目前并未被批准用于肾脏病临床治疗，文章内提到的合作、数据及患者案例均为杜撰。警方调查发现，该公众号为某自媒体运营公司今年2月新注册，以医疗科普为名，实际目的是为线下的医疗机构引流，招揽病人后按比例分成。文章由工作人员陈某利用AI工具，通过词库和关键词直接生成，其本人没有医疗背景，无法识别内容真伪。团队运营主管蔡某同样缺乏医学知识，在未核实的情况下放任发布。目前，陈某、蔡某已被警方依法处以行政处罚。
另一起案件中，一段外卖员将撒落在外卖箱里的面条重新装盒配送的短视频今年2月起在网上传播，引发大量指责。经上海青浦警方调查，该视频完全由AI生成，原作者在原始视频下方已标注“AI技术生成”字样。网民刘某某下载该视频后，故意裁切掉水印标签重新发布，以博取眼球。此后，网民高某某、武某某为吸引关注，在评论区发布“我就这样干过”“哪个外卖员没干过”等不实信息。目前，刘某某已被警方依法行政拘留，高某某、武某某被处以罚款。
