据上海证券报 随着AI技术的快速发展和普及,生成视频的成本和难度正在迅速降低。过去人们难以想象离开后还能以数字形式“复活”于这个世界,但现在这个问题已经变得不再遥远。而各大平台作为管理者,应承担对相关内容进行审查的责任。
早在2016年,小冰公司就开始研究AI“复生”技术。小冰CEO李笛曾提醒,比起AI“复生”带来的好处,更需要担心其被滥用的风险。
“当大量没有严格自我规范的企业进入市场时,他们可能会借助人们的情感需求进行勒索,其中包括个人隐私数据以及金钱。”李笛说,对于普通公众,“AI复生”的价格可以不贵,昂贵的地方在于一旦被滥用后产生的巨大破坏力。
4月2日,抖音官方发布的《抖音关于清明期间内容创作的提醒》明确提到:“尊重逝者及其亲友。未经逝者生前同意或逝者家属授权,请勿利用AI或其他技术手段‘复活’逝者。”
科大讯飞虚拟人平台相关负责人表示,公司相关团队很早就注意到“AI复活亲人”这一现象,但现阶段不会开放此类业务。因为仍有很多法律的真空地带,以及伦理边界不清晰。
“当前,公司旗下的‘讯飞智作平台’更多是在业务应用场景的数字化赋能,例如媒体、教育、企业宣传、自媒体短视频场景等。”该负责人表示,“讯飞智作平台”已支持用户自主完成虚拟人的构建训练,但并非提交相关素材就可完成。平台有严格的身份授权与审核机制,例如视频录制内容、活体检测、授权认证等。