谷歌发布人工智能视频生成器Lumiere 引发深度伪造担忧

最近，谷歌研究团队发布了一款名为Lumiere的先进人工智能视频生成器，引起了对深度伪造技术可能增加的担忧。Lumiere能够根据简单的文本提示创建逼真的五秒视频，其先进之处在于采用了"时空 U-Net 架构"，通过一次传递即生成整个视频的时间持续序列。

以前的人工智能模型通常通过逐帧生成单个图像来创建视频，而Lumiere则采用了更先进的方法，使用户可以在没有技术专业知识的情况下更轻松地创建和编辑视频。用户只需提供类似“熊猫在家里弹尤克里里”或“海滩日落延时”等简短提示，Lumiere就能生成详细逼真的视频。此外，它还可以根据单个图像的风格生成视频，比如儿童的花卉水彩画。

Lumiere的编辑功能引起了关注，它能够为图像的目标部分设置动画，并通过"视频修复"填充图像中的空白区域。更令人惊讶的是，它还能通过后续的文本提示编辑视频的特定部分，例如更换女性的衣服或为猫头鹰和小鸡的视频添加配饰。

然而，由于此类技术可能被滥用，Lumiere的发布引发了对深度伪造可能性的担忧。谷歌在研究论文中强调了他们的主要目标是使新手用户能够生成视觉内容，但也强调了滥用风险存在的现实，并表示他们认为开发检测偏见和恶意用例的工具至关重要，以确保安全和公平使用。

尽管Lumiere目前仍处于研究阶段，尚未提及如何或何时将其用作面向消费者的工具。然而，对于谷歌这样一家强调在人工智能领域承担责任的公司，该研究团队的这一遗漏引起了公众的担忧。截至目前，谷歌尚未回应有关Lumiere的进一步问题。