5月18日，有明星工作室发文，针对近期网络上大量利用AI技术伪造其形象和声音进行虚假广告宣传的行为进行公开打假。根据工作室发布的截图，可以看到这些伪造视频中，明星肖像被用于推荐保健、减肥产品，台词涉及养生、育儿经验等内容。
科技改变世界，网络精彩生活。随着互联网不断普及，AI技术也得到了迅猛发展。借助AI技术，生成合成文本、图片、音频、视频等就变得更加便利。只是AI技术发展也是把“双刃剑”，在便利民众工作生活、推动经济社会发展的同时，也衍生出技术滥用、虚假信息等系列问题。比如，就有一些商家通过AI换脸、合成人声等手段，将一些名医、名人的面容与声音进行移花接木，用于推销产品。由此也带来了一系列问题，误导社会公众认知、侵害公民合法权益、污染网络生态环境等等。
更可怕的是，AI造假能力可谓“没有边界”。往往只需要一个指令，AI技术就可以生成相关视频或者照片。前不久公安部网安局曾公布10起涉民生等领域网络谣言案件，其中就包括一起利用AI工具编造“暴雨后许昌满目疮痍”谣言信息进行传播的案件。更有媒体报道显示，2024年南昌一家MCN机构因为利用AI造谣被查处，这家MCN机构用AI生成文章和图片，最高峰一天能生成4000至7000篇，每天收入在万元以上。这些虽然只是沧海一粟，但却已经足以让我们感受到AI造假带来的触目惊心。
网络不是法外之地，法律底线同样不可逾越。事实上，依法加强网络空间治理，也已经成为互联网事业健康发展的重要保障。就现实而言，在规范AI技术方面，相关法律法规也一直在完善。比如，《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法（征求意见稿）》等，都对生成内容的标识和使用范围等做出了规定。接下来，遏制AI造假，就应进一步细化完善相关法律法规，在源头治理上下功夫。同时，也应强化法律法规实施，以法律的刚性约束为营造清朗网络空间提供坚实保障。
AI类谣言危害甚大，绝不能一笑了之。在“互联网+”时代，当AI越来越成为寻常生活里的日常，推动其向上向善的重要性已经不言而喻。今年2月，中央网信办发布2025年“清朗”系列专项行动整治重点，其中明确提出整治AI技术滥用乱象，突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。基于此，必须进一步明确规则，同时压紧平台审核责任，在立法、执法等方面形成强大合力，对AI类造谣正本清源。（杨飞）
初审：熊一黎
复审：曲翱
终审：陈尤欣
