男子用AI制造谣言被采取刑事强制措施 合成虚假视频

据福建网警今日披露，一男子为了吸粉引流、非法牟利，利用 AI 技术制造谣言，误导公众认知，扰乱社会秩序，厦门海沧警方对其采取刑事强制措施。
今年 6 月，厦门警方接到举报，某互联网平台上名为“小逸看世界”的账号，发布了图文视频：“广东省五华县华阳镇一 70 多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月。”

该视频一经发出便迅速吸引了大量网友的关注，经过民警的侦查研判，发现该视频的图文内容系移花接木、肆意编造的网络谣言，并于 6 月 13 日晚抓获造谣人员任某。

据任某供述，这段长达几分钟、声色并茂的视频全是由 AI 合成的，他通过网站榜单寻找吸引眼球的标题，然后再用自动生成工具生成内容虚假的文章，并根据文章内容自动生成图片组合成虚假视频。通过社交平台发布，以此达到引流、增加视频号粉丝数的目的，再依据视频号流量盈利规则非法牟利。

任某通过发布与民生息息相关的信息，并加入夸张故事情节、猎奇的标题，以及各类不实信息，以此获得网民的关注和点赞，进而达到流量变现和涨粉的目的。目前，任某被厦门海沧警方依法采取刑事强制措施。