IT之家 12 月 23 日消息，近年来，人工智能（AI）技术的快速发展为社会带来了诸多便利，但也伴随着安全隐患。据IT之家了解，其中深度伪造技术就带来了不小的隐患，其生成高度逼真但并非真实的视频或图像的能力，已经引发了一系列社会问题。
据央视新闻报道，今年以来，利用 AI 深度伪造假冒名人的案例层出不穷。例如，不久前就有不法分子通过 AI 技术伪造张文宏医生的面部和声音，用于直播带货，卖出 1200 多件蛋白棒产品。
此外，名人刘德华和企业家雷军也成为 AI 伪造的目标。刘德华的声音被恶意用于增加短视频流量，其电影公司也多次发布声明以警示公众。
专家指出，目前的 AI 技术可以通过深度学习轻松克隆他人面部和声音，甚至只需一张照片和一段语音样本即可完成。然而，这种技术并非毫无破绽。例如，伪造视频通常无法实时直播，同时在脸部轮廓和背景融合度等细节上存在缺陷。 观众通过仔细观察可发现破绽，尤其是在口型和语音匹配度方面。
专家表示，未经授权使用他人形象或声音属于侵权行为，根据《民法典》和《网络安全法》， 发布者可能面临包括损害赔偿和刑事责任在内的处罚 。同时，消费者如因 AI 假冒名人带货受骗，可依据消费者权益保护法要求“退一赔三”。
专家还呼吁短视频平台承担主体责任，及时下架违规内容，并对发布者采取信用管理和处罚措施。
