一键生成“变脸”视频。真假难辨的AI内容如何监控？

来源：央视新闻客户端 连日来，国内大型AI模型密集发布新版本。其中，在国内平台内测的新一代视频生成模型对相关行业产生了较大影响。只需简单的文字描述和一键点击，这个大型模型就可以自动生成具有多镜头过渡、一致的叙述和同步音效的视频作品。影视制作门槛大幅降低。有人喊道，“以后拍电影就只有一个导演了”。然而惊喜的背后，却也隐藏着震惊。该平台生成的名人和演员的视频在互联网上疯传，让人难以辨别其真假。众所周知，很多人都被古老的技术愚弄了。变脸、加倍语音的AI耳机。如今制作了如此多的假电影质量视频，如何我们能区分虚拟和真实吗？如何保护人们的肖像权、隐私权、版权？春节临近，中国人工智能领域出现创新“爆发”。去年仍然以 DeepSeek 为主，但今年出现了多个较大模型的重大更新和发布，并且在多个技术领域取得了重大进展。本周，在智能代理编程领域，智浦推出新一代旗舰机型GLM-5，首发全球科技圈。更引人注目的是，在视觉生成赛道上，字节跳动正式发布了新一代AI视频生成模型Seedance 2.0，定位为“可寻址电影级全流程生成引擎”，正在席卷国内外内容制作界。只需输入简短的描述和参考图像，它就会生成高质量的视频s with multi-camera motion and native sound effects.它还支持多平面长篇叙述等功能。随着Seedance 2.0模型的到来，著名视频博主潘天红感叹这只是一个通用的视频生成模型。 Pan Tianhong is a modelI also participated in grayscale testing before the official launch.他们的评测视频的标题是“将改变视频行业的AI即将到来，但有点可怕”。潘天红：总是惊喜，而不是失望。这是该模型“可怕”的部分。它远远超出了我的预期。这个AI的特点是它具有感性动作，他可以​​创建清晰的故事板，所有角色都表达得不失真，非常逼真。 Seedance 2.0和国外最好的视频模型Sora相比，哪个更好？本周，记者与视频博主合作进行了测试。记者希望大型模型能够制作了一段“大熊猫参加冬奥会，在滑雪板上完成1980度抓取动作”的视频。记者在两个大型模型中分别输入了 80 个单词来指示任务。 Sora版本的视频使用现场解说来近似职业动作，但Seadance版本的视频更注重酷感，似乎更适合广泛使用。查看专家评论。潘天宏团队表示，Seedance 2.0不是工具升级，而是行业革命。除了脚趾批评者之外，游戏制作人冯骥也发表了评论。 The days of AIGC, or artificial intelligence, or multimodal content creation method, are over, and this model is “currently the most powerful video generation model on the planet”; and after using this tool, many directors and people in American film and television have publicly expressed feelings such as “Hollywood will end” or “This can really bring down Hollywood.”根据2024年数据，市场规模我国网络视听产业规模突破1.22万亿元，短视频用户规模达到10.4亿款，使用率达93.8%。业内普遍认为，AI视频技术的持续迭代将重塑内容制作产业链，从创意、拍摄到传播，AI深度介入。一个人可以用一个词制作一部电影：醋。很多媒体都用“颠覆”这个词来形容海舞。性能2.0。这不仅影响了整个行业，也影响了Seadance人的判断。 2.0 在灰度测试的视频生成阶段，生成的视频过于真实，因此很假，这对“眼见为实”这句话提出了很大的挑战。现在，随着新一代大型视频模型的到来，仿真能力得到了提升，技术门槛也降低了。当然，人们的焦虑增加。在这款大型模型进行了短短两天的内部测试后，该公司就宣布进行紧急优化。在周四正式发布的版本中，尚未提供使用真实世界图像作为主题参考的功能。大家都在想，“这样的乐趣还能恢复吗？”更重要的是，如何与这种强大的技术划清界限？让AI自动匹配你的声音，而不需要给你音频文件。2.0的流行不仅引起了技术的钦佩，也引起了公众对隐私的深刻担忧。在早期Seedance 2.0的内部测试中，有网友使用该工具生成与名人相关的视频，导致“魔改”内容激增。相比于之前模型的文本级进步大规模语言学，Seedance 2.0带来的视频生成能力的飞跃就像打开了潘多拉魔盒 经过仅仅两天的内测，Seedance 2.0就揭晓了其中存在诸多侵权风险的就是真人素材参考功能。 2月9日，相关运营商通知内测group.terno进行紧急优化，Seedance暂时不再支持输入真实素材作为主要参考。 2.0正式发布时，人物图片参考功能尚不可用。我如何使用安全、合规地查看真实人物资料的功能？ 《个人信息保护法》明确将面部、语音信息等生物识别信息定义为“敏感个人信息”，其处理另文规定。法律明确规定，必须征得个人同意。 2.0还面临着动画影视作品版权侵权的隐忧。辨别人工智能生成视频的真伪变得越来越困难。负责生成t的AI平台视频应承担初步责任。他们必须建立完善的内部和外部监督机制，防止侵权视频的产生。不过，除了生成平台之外，发布和传播这些视频的短视频平台和社交网络也负有责任。在人工智能内容大量生成并瞬间传播的世界里，仅仅依靠人们举报然后删除已经不够了。平台是否应该把责任放在首位，建立更严格的调查机制，从源头遏制这些侵权视频的发布和传播？基于名人和名人形象的视频充斥着各种短视频和社交媒体平台。有些可能涉嫌侵犯版权或可能被用来推销产品。作为沟通平台我们应该承担什么责任？ Codego Civil 规定，如果互联网用户利用互联网服务实施侵权行为的，权利人有权通知互联网服务提供者采取删除、屏蔽、断开链接等必要措施。这就是“安全港原则”。根据这一原则，平台只需按照“通知删除”原则行使后续救济即可。专家认为，随着大规模人工智能生成内容的出现，这一原则显然需要改进。事实上，《民法典》已经规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权利而不采取必要措施的，将与网络用户承担连带责任。 “应知”四个字意味着平台有更高的注意义务。内联打击AI违规视频专家认为平台需要从下架后被动转向主动出击y 识别和管理评论。目前，主要传播平台通常会采用一定的过滤和拦截技术来防止侵权视频的传播。专家表示，相比于通讯平台，人工智能视频生成平台作为内容提供商，在检测侵权违法内容方面应承担更大的责任。将于2023年8月施行的《生成型人工智能服务管理暂行办法》明确，生成型人工智能服务提供者对网络信息内容生产者负责，依法履行网络信息安全义务。人工智能的持续改进还需要监管方面的努力。国家网信办周四宣布，针对人工智能生成信息发布时未标注等问题，进行专项整治。d 传播虚假和误导性内容。注销账号1.3万余个，删除违法信息54.3万条。典型案例包括通过人工智能改变面孔的假运动员，或者出售人工智能生成的名人“送上祝福”的视频。从文字、图像、声音到生成越来越真实的视频，AI技术的迭代速度超出了很多人的想象。但人工智能发展越加速，我们就越需要停下来思考一个基本问题：“我们开发人工智能的目的是什么？”如果科学技术的进步导致世界越来越难以辨别真假、善恶、美丑，我们想要这样的“进步”吗？技术进步永远是一把双刃剑。为防止技术滥用，还应加快相关监管的制定。制片人|陆志嘉 主编 徐新 |导演李静 |沉勇g’er 张大鹏 李新玲 特别说明：以上内容（如有，包括图片、视频）由自媒体平台“网易号”用户上传发布。本程序平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。