“有顶流明星在澳门输了10亿”

“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”

“上海退休教授靠阳台核电池供电”

……

这些吸引眼球的内容

都是AI生成的谣言！

随着AI技术的发展

正确使用的确能为人类的工作带来方便

但因滥用AI所造成的乱象也不少

AI谣言就是其中之一

哪些信息容易被AI制作成假新闻？

如何判断AI制作的假新闻？

一起来看

AI谣言频出

近日，一则

“有顶流明星在澳门输了10亿”的信息

在互联网平台传播

引发网民热议和各种猜测

相关话题频繁登上社交媒体热搜热榜

后经公安网安部门查明

这条信息为AI制作的假新闻

公安机关根据相关法律法规

对制作这条假新闻的徐某强

处以行政拘留8日处罚

无独有偶

近日，上海辟谣平台公布一起网络谣言

称“上海退休教授靠阳台核电池供电”为假消息

辟谣平台调查发现，相关消息大概率是

造谣者用AI技术编写、制图并剪辑视频

在传播者中，除了受误导的网民

还有一些别有用心的传谣者

通过续写、点评等方式扩大谣言负面效应

荐股群所谓内幕或是AI生成

除了一些AI造谣信息

还有些不法分子利用AI技术

盯上了你的钱包

前不久，有受害者反映

自己付费10000元加入“荐股”咨询群

群内“大佬”说中国要大力发展国防军工

制造业要迁到四川地区来

于是他重仓买入“大佬”推荐的股票

结果不仅没有大涨 反而一路下跌

经警方调查

这些所谓的股票利好消息

其实是利用AI生成的虚假信息

花一万多元的学费

得到的所谓炒股知识、内幕消息

不过是骗子在利益驱使下

炮制而来的虚假信息

目前，警方已抓获15名犯罪嫌疑人

这些信息容易被AI制作成假新闻

假新闻并非新生事物

但AI大模型的崛起

无疑大幅降低了造假的门槛

如今，只需与AI智能助手进行简短对话

几秒钟内便能生成

一篇图文并茂的假新闻

△ 使用AI工具，1分钟便可制造一篇AI假新闻、AI图片。图源：网信浙江

而在多起AI造谣事件背后

造谣者的动机主要源于引流和借此牟利

网警总结了四种典型AI谣言场景

1

伪造热点事件

用AI生成“某地重大事故”图文/视频

配煽动性标题博流量

△ 2025年1月7日，西藏日喀则市定日县发生6.8级地震，震后，一张“小孩被压废墟下”的图片被大量转发。后经查证，图片是由AI生成，图中人物甚至有6根手指。

2

捏造名人言论

篡改语音、合成视频

假借权威人士发布虚假政策解读

3

炮制伪科普

利用AI生成“科学数据”

兜售伪劣产品（如“AI检测抗癌神药”）

△ 2024年年底，有网友称在网络卖货视频中看到知名医生张文宏在售卖一种蛋白棒产品。在带货视频中，被合成的人像反复介绍一种产品，声音听起来很像张文宏本人。对此，张文宏回应称，这样的卖货账号不止一个，而且一直在变，他多次向平台投诉但屡禁不绝。

4

嫁接虚假证据

将无关图片通过AI换脸/换背景

捏造“维权证据”“聊天记录”等

四步识别AI谣言

不当“受害者”更别当“帮凶”

如何识别AI谣言？

这些要点请记住↓↓↓

1

查源头

警惕无明确作者、无正规信源的内容

AI生成信息常伪装成

“网友投稿”“内部消息”

2

看细节

AI图像：观察手指数量异常、光影不自然等；

AI视频：注意口型与声音不同步、背景模糊扭曲。

3

验逻辑

AI生成谣言常出现时间矛盾

（如“2024年政策”引用2025年数据）

地名错误等

4

用工具

关注官方账号公布的打谣信息

或通过“中国互联网联合辟谣平台”等渠道

一键验证

还有一条好消息

为了促进人工智能健康发展

规范人工智能生成合成内容标识

《人工智能生成合成内容标识办法》

正式发布，9月1日正式施行