上海警方于4月8日通报多起利用人工智能工具编造谣言、非法获利的典型案例，具体情况如下：
一、AI“洗稿”编造车企虚假信息案
两名不法分子梁某、郭某为博取眼球及平台奖励，通过AI工具“洗稿”（歪曲细节、删减后杜撰内容，如将电池泄漏起火编造为正常行驶起火），针对多家车企编造“经营亏损”“新能源电池风险”等不实信息，配合搜集争议话题后批量发布。他们非法获取4000余个网络账号，利用平台新用户原创奖励机制，在凌晨1-6点集中发布，累计发布70余万篇次，非法获利8万余元。两人因涉嫌非法经营罪被依法刑事拘留。
二、AI生成医疗虚假信息引流案
某自媒体运营公司注册的微信公众号，以“医疗科普”为名，利用AI工具生成“三甲医院合作干细胞治疗肾病”的虚假文章（虚构合作、研究数据及康复案例），实际目的是为线下医疗机构引流招揽病人并按比例分成。运营人员陈某（无医疗背景）、蔡某（缺乏医学知识）均未核实内容真伪，直接放任发布。两人因行政处罚被依法处理。
三、AI视频水印造假案
一段AI生成的“外卖员撒面重装”视频原标注“技术生成”水印，网民刘某某下载后故意裁切水印重新发布，制造骑手负面假象；高某某、武某某在评论区散布“我就这样干过”“外卖员普遍如此”等不实言论。刘某某被行政拘留，高、武二人被处以罚款。
四、法律依据与平台责任
警方明确，以营利为目的，明知虚假信息仍通过网络有偿发布、扰乱市场秩序的行为，个人非法经营数额达5万元以上或违法所得2万元以上即构成非法经营罪。目前，涉事平台已被要求关停相关账号、下架不实信息，网信部门正敦促平台履行内容审核义务。
总结：AI技术被滥用导致虚假信息传播，不仅侵犯企业与公众权益，更需警惕技术被用于恶意引流、制造对立等违法活动。
一站式数字化解决方案服务商 —— 专业提供软件开发、网站设计、APP 与小程序开发，搭载低费率支付通道，结合创意广告设计，助力企业全链路数字化升级。
- 使用本网站请联系客服
- 点击关注微信公众号：乐鱼网络
- 点击-在线客服