当科技博主毕导看到数字人“毕导”大言不惭地抢自己的饭碗时，再一次直呼“太神了！”。

9月6日下午，外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛拉开帷幕，用AI技术对抗Deepfake（深度伪造技术）的选手代表，在全网期待中亮相，吸引众多观众围观。

▲比赛现场。受访者供图

据悉，此次表演赛中，中国科学技术大学网络空间安全学院和蚂蚁数科天玑实验室联合出题，对选手模型进行终极考察。和线上赛一样，表演赛现场分为图像赛道和音视频赛道，各赛道排名前三选手两两PK。

图像赛道一开始，台下立即躁动起来。毕导唤出了9张玛丽莲梦露的照片，其中2张是AIGC伪造的。肉眼真假难辨的9张图，选手却需要用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张照片与正确答案进行比对。

“本来以为只需要隔岸观火，不曾想到，自己也被卷进了战斗状态，试图用肉眼与AI一较高下。”来自一家科技公司的观众小张说。

而伪造概率值的问题，引发了毕导的追问——到底AI能否100%识别伪造?赛事出题人之一、ZOLOZ技术总监姚伟斌介绍道，让AI百分百识别伪造图像是否伪造，是十分困难的。伪造技术也在不断迭代更新，对抗需要不断地提升。这也是我们今天做比赛的一大意义。在实际应用中，通常是将识别算法与其他检测手段结合使用，综合判断风险。

视频赛道环节，毕导数字分身出演了多部经典电影名场面，选手同样要通过AI模型来辨别真伪。现场选手比分上，在一些难度一般的赛题上，表演赛的结果比分接近，伪造识别率几乎都在80%以上，但是在一些高难度赛题上，模型结果差异悬殊。

毕导向新加坡科技研究局天異教授发出灵魂拷问，为什么肉眼觉得一眼假的画面，AI却不能完全答对？而肉眼难以辨别的画面，AI反而1秒识别？对此，周天異认为人类在判断图像是否伪造会依赖直觉和逻辑，比如毕导的人脸换到了哈利波特身上，人类一眼便知，AI却不了解背后的故事。而人类会下意识地偷懒，AI是最称职的工具人，AI不受情绪干扰，他会一丝不苟、勤勤恳恳地完成人类的指令。所以，AI在工作效率和稳定性上，都是大大高于人类的。

▲比赛现场。受访者供图

连日来，韩国Deepfake恶性事件牵动人心，引发了人们对防范“AI换脸”欺诈行为的前所未有的关注。而此次全球Deepfake攻防挑战赛针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才参赛。大赛吸引了来自26个国家和地区的2200多名选手、1500多支队伍报名。

当天的活动上，十余家机构联合发布了国内首个面向金融场景的“AI 换脸”检测标准。该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据，也填补了这一领域的空白。而这场Deepfake 攻防挑战赛，正是应用了此标准的框架和指标，进行赛题的制定和答案的评价。

据了解，外滩大会AI创新赛包括“AFAC2024 金融智能创新大赛”和“全球 Deepfake攻防挑战赛”两大子赛事，全面展示了人工智能在多个领域的最新应用与前沿探索，也彰显出了科技创新的无限活力。同时，Inclusion外滩大会第二届AI创新赛· “全球AI攻防挑战赛”也已正式启动。赛事聚焦AI大模型产业实践，设有攻防双向赛道。

相关新闻