文｜互联网那些事

生成式AI出现后，标题党、小编体、擦边内容的制作门槛正变得越来越低。

在现代技术的加持下，这些低质内容、谣言的传播力、说服力、伪装性，也迎来了空前强化。

可以说。

随着技术的不断发展，一场没有硝烟却与所有人息息相关的“认知战争”正在打响。

头条用魔法打败魔法

今日头条所发布的《2024年度治理报告》指出。

在2024年，平台所拦截的不实信息超500万条，封禁造谣、传谣等违规账号4.77万个；处置低质量AI内容超93万条，封禁、禁言相关账号超2.9万个；处罚同质化发文超781万篇，封禁、禁言违规账号超6.3万个。

“作为内容资讯平台，今日头条有责任、有义务让我们的用户看到真实、有用的信息。”在相关报道中，今日头条内容策划负责人刘姗姗说道。

对平台而言，虚假、低质内容的出现会破坏平台生态，降低优质创作者的更新热情；对用户而言，虚假、低质内容的出现不仅会左右自己的事件认知，甚至还可能影响我们的深度思考能力、道德价值判断。

所以在这场认知战争中，平台作为内容的保管方+审核方，它们必须冲锋在前。

为此，今日头条推出了自己的“治谣套餐”。它们分别是谣言库、权威信源库、专业审核团队，并基于此展开了一场“用魔法打败魔法”的反击行动。

依托谣言库所建立的大模型，可以通过关键词抓取、内容比对等方式快速验证信息的真伪；权威信源库的存在，不仅能帮助谣言库、审核人员进行信息判定，还能够在定位谣言后进行精准辟谣；人工审核团队搭配AI审核机制，让平台内部“风险发现-风险识别-风险处置”的治理流程更加灵动可靠，在守护原创空间之余净化了用户的阅文环境。

想要击败对手，就不能一味加固自己的盾牌，还要磨利剑锋。

为实现科普内容、权威内容的跨圈传播，今日头条官方同医学、法律等领域专家合作推出了《头条讲真的》项目，对不实信息、劣质信息主动出击。最终在维护优质内容增量的同时，和上述辟谣系统共同构成了今日头条在认知战争中的“双轮驱动体系”。

抖音剑指虚假信息

1月26日，抖音发布了2024年平台治理报告。

报告内容显示，2024年，抖音累计删除谣言452万条；提前拦截谣言340万条；处置涉企谣言视频4.8万条。

另针对老年人易受骗一事，抖音日均下架违规视频5000余条；每日成功劝阻约1万人。

需要注意的是。

和今日头条不同，身为短视频平台的抖音还面临着“摆拍乱象”的冲击。

谈及此事，抖音集团副总裁李亮曾坦言称：“其实，怎么识别摆拍是治理难点，一些媒体有时也会误把段子当作新闻来报道。”

在摆拍乱象面前，抖音给出的答案是“专项核实”。当某个事件达到特定的热度阈值或收到举报后，平台便会联系当事人或邀请当地媒体进行真实性核查。在没有明确的调查结果前，平台会暂停相关内容的推荐，以此来确保信息真实性。

2月13日，字节跳动全员会上，CEO梁汝波特意提到抖音要做好虚假信息和谣言的治理，对无底线博流量的行为展开打击。

据悉，目前抖音除准备安全与信任中心，去推动算法和平台治理透明化外。还针对网友们关心的不同问题，推出了不同的治理方案。

比如。

针对争议内容，抖音将扩大同权威媒体、机构的合作，在各类热点事件中加强人工研判与核实；针对优质内容，抖音将加大扶持力度，预计在2025年增加300%的优质内容曝光；针对信息茧房，抖音将进一步完善推荐算法，加强内容多样性探索、兴趣探索和匹配等机制去补充推荐信源。

学会让子弹再飞一会

想要取得认知战争的胜利，除了靠各平台把好审核关以外，用户自己的大脑防火墙构建也十分重要。

举个例子。

近期，互联网上有关“截至2024年末，80后死亡率突破5.2%，相当于每20个80后中就有1人已经去世”“80后的死亡率已经超过70后”的内容广为流传。

通过进行延伸搜索，我们发现这些借“80后死亡率”来博取流量的内容，大多称自己的数据来源为2020年所进行的第七次人口普查。

那么问题就来了。

一份出自2020年的报告，又是怎样得到“2021年-2024年的人口死亡数据”“80后在2024年的死亡率、存活率”的呢？莫非它学会了时空穿梭？

中国人民大学教授李婷在内容溯源后表示，这一错误信息的源头可能是AI对话。

总所周知，AI没有意识。

与其说它掌握了和人类对话的能力，倒不如说它掌握了“词语接龙Plus版”。在互动过程中，AI往往会根据提示词、对话历史进行延伸搜索，并在数据库里抓取对应的内容进行回复。

倘若用户提出的要求过于“抽象”，它就会因为数据库无法锚定而出现“幻觉效应”，开始一本正经地胡说八道；或是被互联网上的非权威信源所误导，在自己生成的结果里掺杂错误的数据或内容。

除此以外，那些想要用AI截图传播谣言的恶意分子，还可以通过“角色扮演法”“复读游戏法”等途径去生成特定信息，混淆人们的视听。

这类情况的出现，恰好为我们敲响了警钟。

在今天，有太多人对AI呈现出了一种错误的“信任”，去盲目认为AI所给出的内容、数据都是绝对准确、权威的。

殊不知，AI也会犯错，AI也会被人操控。

在日益复杂的网络生态面前，每个人都将是认知战争的亲历者和参战者。想要取得最终的胜利，除内容平台本身要去强化审核机制外，我们每个人也都应该在大脑里建立“信息防火墙”；在按下转发键之前，学会“让子弹再飞一会”。

参考：

观察者网：今日头条2024年拦截不实信息超500万条，处置不友善内容3亿条

北京商报：当平台治理遇上AI挑战，今日头条分享“经验包”

新京报：抖音年度治理报告：不当言论展现量降63%，将建安全与信任中心

每日经济新闻：打击网暴及谣言、整治“信息茧房”⋯⋯推进算法和平台治理透明化，抖音出手了

光明网：“每20个80后就有1人去世”？谣言！罪魁祸首可能是AI

科学辟谣：警惕！全网热传的的AI截图可能正在成为新的谣言制造机！