泰勒斯威夫特的深伪色情影片并不是新鲜事，但这并不意味著我们就不需要担心。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X前身为Twitter上爆红后，我们不得不思考：这对未来的AI意味著什么？

在最近一个令人不安的事件中，AI生成的泰勒斯威夫特露骨图片充斥著X平台，突显了AI能力的阴暗面。这些图片据信使用微软设计工具制作，迅速引发关注，并突显了AI生成假色情内容的日益严峻的挑战。

随著这些图片在平台上迅速传播，此事件不仅激起了粉丝和隐私维护者的愤怒，也引发了人们对AI在媒体创作中伦理使用的关键问题的思考。

Avast威胁情报总监Michal Salt在这场时宜的讨论中提供了丰富的专业知识。Salt抓住了科技、安全和伦理的交汇点，对AI生成内容的影响提供了细致的看法。

在接下来的部分中，我们将深入他的见解，探讨图像操纵的历史平行、AI能力所带来的伦理困境，以及在这个日益由AI驱动的世界中，对数字信任和安全性的更广泛影响。

假色情不是新议题

Salt将目前AI生成逼真图像的能力与过去的Photoshop使用相比。正如Photoshop在多年前彻底改变了图像操纵的方法，如今的AI使创造现实图像变得更简单。然而，操纵图像的概念并不新鲜；AI只是这场延续故事中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，并强调操纵图像的问题已经存在十多年。现在的关键区别在于AI技术带来的便利和可接触性。这一转变引发了重要问题，即社会如何适应及规范这些新工具，因为这些工具使得创建逼真图像变得比以往任何时候都更加容易。

AI与露骨内容的伦理困境

最迫切的关注之一是使用AI生成露骨图片的伦理影响，特别是未经特定个体同意的情况下。虽然生成普通裸体图像可能不会引起太多伦理问题，但真正的问题在于轻而易举地创建识别性个体的露骨图片。

“对我来说，AI生成色情内容本身并没有固有的错误或伦理问题，”Salt表示。“但伦理问题在于，你可以相对轻松地生成包含特定面孔的图片。”

这一能力不仅扩展到像泰勒斯威夫特这样的名人，甚至可能适用于任何人，强调了需要建立伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿的裸体图片共享在48个州都是违法的，但AI生成的深伪色情目前仅在10个州被禁止。这是一个显著的差异，强调了立法需要追赶技术的必要

AI公司如何防止生成深伪色情？

也许因为生成AI的获取相对较新，因此在创造露骨内容时缺乏对主体同意的防范措施。然而，根据Salt的说法，对AI公司来说，实施这些措施并不困难：不允许生成特定人物的图像或使用客户提交的图片作为素材，就能为大多数人提供足够的障碍。

“当然，有些人能够突破限制，迫使模型做一些不该做的事，”Salt说。“我认为，目前完全避免这一点实际上是不可能的你只能让它变得更难。我想强调的是，提供这些服务的公司应该更加努力地避免这种情况的发生。”

此外，还有可能有人创建自己的无限制色情生成模型。然而，Salt指出，即使这是可能的，这样做需要大量的技术知识和大量的计算能力。

“能够自行创建生成裸体图片的AI的人并不多，”Salt表示。“因此，这更像是使用Photoshop，你需要有一定的技能水平才能做到这一点。”

Salt将目前的AI开发状态与安全行业的演变进行了比较。他观察到，我们正看到安全行业在AI方面“重新开始”。这一比较强调了将AI开发视为一个持续过程的重要性，识别和修复漏洞是成熟技术的关键。

在X平台上出现的泰勒斯威夫特AI生成图片凸显了负责任使用AI的重要性。随著AI的持续发展，平衡技术能力与伦理考量及安全措施将至关重要。通过从像Michal Salt这样的专家学习和反思过去的挑战，我们可以以更有知识和谨慎的方式驾驭这个复杂的环境。