AI生成霉霉 “不雅照”疯传后 微软紧急更新其免费AI软件

在一场涉及深度伪造丑闻后，微软紧急更新其免费人工智能软件，以加强对其文本到图像工具Designer的保护。

据悉，该工具被发现与在社交媒体上流传的泰勒·斯威夫特(Taylor Swift)深度伪造图片有关。这些涉及裸体斯威夫特的虚假照片被追溯到微软的Designer AI，然后在X、Reddit等网站上传播。

微软迅速推送了一次更新，加入了“护栏”，以防止非同意照片的使用。这个流行的工具，由OpenAI的Dall-E3提供支持，在更新后得以阻止深度伪造图片的制作。微软发言人表示，他们正在调查这些报告，并采取适当的行动来解决问题。根据公司的行为准则，任何使用Designer制作深度伪造的用户将失去对该服务的访问权限。

微软首席执行官萨特亚·纳德拉表示，科技公司需要迅速采取行动，以防范人工智能工具的滥用。纳德拉指出，对“残酷夏季”歌手的虚假色情图片的传播“令人震惊且可怕”，并强调所有科技平台都需要行动，确保在线世界对内容创作者和消费者都是安全的。

这些深度伪造图片在X上被观看超过4500万次，最终在约17小时后才被删除。微软的更新引发了一系列对人工智能深伪造趋势的担忧，特别是在法律、立法和监管方面。白宫新闻秘书卡琳·让-皮埃尔(Karine Jean-Pierre)称深伪造趋势为“非常令人担忧”，表示拜登政府将尽力应对这一问题。

这场争议可能会对微软等人工智能领导者带来新的麻烦，尤其是在科技大佬们即将在参议院委员会作证之际。

此外，纽约和新泽西的立法者一直在努力将非同意分享人工智能生成的色情图片视为联邦罪行，可处以监禁、罚款或两者兼施的刑罚。一项名为“预防深伪造亲密图像法案”的法案已提交到众议院司法委员会，但该委员会尚未决定是否通过该法案。