中新网5月22日电 (中新财经 左雨晴)“点进直播间一看，‘迪丽热巴’居然在直播卖货。”近日，有网友点开直播间，却发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。

(资料图片)

  AI实时换脸，正在直播间悄然出现。

  迪丽热巴、杨幂直播卖货？假的！

  “一开始只是以为长得像，没想到刷进去好几个直播间都这样，才发现是用了‘换脸’。”路垚(化名)向中新财经表示，近期她被推送的好几个直播间，都采用了AI换脸明星的方式进行直播带货，而杨幂、迪丽热巴、angelababy等当红女星，成为了AI换脸的重点对象。

  “向平台投诉了也没什么用。”她说。

  中新财经注意到，目前的AI实时换脸，在直播中已能达到以假乱真的地步，不少人点进直播间以后以为主播只是长得像明星，不过也有一些直播间出现了人身比例失调的违和现象。有网友指出了其中一些破绽：“主播低头整理头发的时候，脑门上全是黑的。”

  “现在普通人的脸已经不配直播了。”有网友如此感慨。

  对于竞争火热的直播间来说，“高颜值”是主播的重要资本之一，而使用“明星脸”直播，或许可以更好达到引流效果，并节省直播成本。此外，使用统一的“换脸”形象，也使直播间降低了主播走红后“单飞”带来的风险。

  但不少网友也对“换脸”表示了反感：“发现是‘换脸’直播后，就失去了购买的欲望。”

  AI实时换脸全套模型仅需3.5万元

  随着AI技术的不断进步，AI实时换脸已逐渐成熟。近年来，AI实时换脸已从最初的娱乐“整活”，向直播等多个应用场景发展。通过智能后台的AI换脸技术，主播可以实现形象的实时替换。

  有视频换脸研究者表示，实时换脸不存在延迟，也不会有Bug，而直播画面传输的延迟则取决于使用者的网络配置和进行直播的平台。

  中新财经以使用者的身份咨询了一家提供“换脸软件”的网站。该网站客服表示，使用AI换脸需要进行模型训练。“合成效果好不好，关键看模型和素材。”

  据提供“换脸软件”的网站介绍，使用者自己从零开始训练模型，如果24小时挂机不停的训练模型，需要经过半个月到一个月的时间，才能达到可以合成视频的效果。

  而比起自己花费大量时间训练模型，更多人选择购买现成的模型。“素材充足的话，你只要花费半个小时到几个小时的时间就可以直接合成视频。模型可以替换任意素材使用，不分张三李四。”

  该网站客服称，他们提供的全套模型购买价格为3.5万元，AI实时换脸可适用于各大直播平台。

  换脸直播存在哪些侵权？

  与此前因争议冲上热搜的“AI孙燕姿”一样，AI换脸也存在侵权问题。

  北京云嘉律师事务所律师赵占领向中新财经表示，AI换脸主要涉及肖像权等问题。“如果说未经他人同意，用他人的肖像替换某一个主播的形象，这种情况下涉嫌侵犯肖像权；如果说还使用了他人的姓名，那还涉嫌侵犯姓名权。”

  中新财经注意到，在一些提供换脸软件的教程或网站上，提供者均提醒要警惕使用AI换脸进行诈骗或者侵权的行为。

  那么，在AI换脸直播中，平台是否负有责任？

  赵占领表示，平台对于平台内商家的侵权行为不承担直接侵权的责任，而是否构成帮助侵权，主要是看平台对于商家的侵权行为是否属于明知或应知。

  “一般情况下，平台使用的是通知删除规则，也就是说权利人向平台发出侵权通知后，如果平台对于被投诉的行为不处理，那么平台构成帮助侵权。但如果平台处理了，那一般不承担责任。”

  但对于如何判定平台对用户、权利人的投诉是否明知或应知，赵占领也表示，在一般情况下很难认定。

  日前，某短视频平台发布《关于人工智能生成内容的平台规范暨行业倡议》，提出应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。“禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。”(完)

关键词：