来源:36氪
【专家:#AI换脸技术存在被滥用风险# ,一般人很难识别】#AI换脸诈骗会引发法律和伦理问题#
据凤凰网财经消息。最近韩国利用AI换脸制造色情图和视频,并通过社交媒体传播,引发韩国女性的恐慌。
华南理工大学软件学院院长蔡毅提到AI换脸技术确实存在被滥用的风险。一旦被用于侵犯他人权益、进行诈骗等违法犯罪行为,就会引发诸多法律和伦理问题。关于换脸诈骗,由于AI换脸技术的逼真度较高,一般人很难识别出视频中的面部是否经过篡改。因此,如果不熟悉对方,确实存在被骗的风险。
据观察者网此前消息,韩联社报道称,首尔大学毕业生朴某和姜某,从2021年7月至2024年4月,涉嫌利用“深度伪造”技术换脸合成色情照片和视频,并在“电报”上私密传播,受害女性多达61人,包括12名首尔大学学生。“深度伪造”意指利用他人照片和视频制作非法内容。报道称,针对女性的“深度伪造”犯罪在韩国日趋猖獗。 #韩国deepfake#