泰勒斯威夫特的深度伪造色情影片并不是新鲜事但这并不意味著我们不应该关心这个问题。

Emma McGowan 2024年1月30日

随著Taylor Swift的AI生成色情图片在X平台上迅速传播，我们不禁要问：这对AI的未来究竟意味著什么？

最近，AI生成的著名歌手Taylor Swift的明确图片在X前身为Twitter上引发关注，这突显了AI能力的黑暗面。这些图片据信是使用Microsoft Designer制作的，并且迅速吸引了广泛的注意，显示了AI生成假色情内容日益增长的挑战。

这些图片在平台上的广泛传播，不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监Michal Salt在这场及时的讨论中带来了丰富的知识与专业见解。Salt专注于技术、安全和伦理之间的交集，并提供了对AI生成内容影响的深入看法。

在接下来的部分中，我们将探讨他的见解，研究图片操控的历史平行、AI能力带来的伦理困境，以及在我们日益依赖AI的世界中，数字信任和安全的更广泛影响。

假色情不是新问题

Salt将当前AI生成逼真图片的能力与过去使用Photoshop进行的图片处理作了比较。正如Photoshop多年前彻底改变了图片处理方式，现在的AI技术使得生成现实图片变得更加容易。然而，操控图片这一概念并不新鲜；AI只不过成为了这场持久斗争中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，并强调了操控图片这一问题已经困扰我们十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了社会如何适应和规范这些新工具的重要问题，因为这些工具使得创造逼真图片比以往任何时候都更加容易。

AI与明确内容的伦理困境

最迫切的问题之一是使用AI生成明确图片的伦理影响，特别是针对特定个体而未获得他们的同意。虽然生成一般的裸体图片可能不会引起太多的伦理问题，但真正的问题在于创建可识别人物的明确图片的便利性。

“对我来说，AI生成色情内容本身并没有什么根本错误或伦理问题，”Salt说。“但伦理问题，至少对我来说，是你可以相对容易地生成带有已知或特定面孔的图片。”

这一能力不仅限于像Taylor Swift这样的名人，还可能扩展到任何人，强调了制定伦理指导方针和立法的必要性。虽然所谓的“报复色情”即非自愿分享裸体图片在48个州是非法的，但目前AI生成的深伪色情内容仅在10个州禁止。这是一个鲜明的对比，突显出立法需要跟上技术的发展。

AI公司如何防止深伪色情的创建？

也许因为生成性AI的使用相对较新，对于在未经主体同意的情况下创建明确内容的规范很少。然而，Salt认为，对AI公司来说，实施这些措施并不会太困难：像不允许生成特定个体的图片或不使用客户提交的图片作为素材的简单措施就能为绝大多数人提供足够的阻碍。

“当然，有些人会能够突破这些限制，迫使模型做它本不应该做的事情，”Salt说。“在我看来，目前几乎不可能完全避免这种情况只能让它变得更难。我想说的是，提供这些服务的公司应该更加努力地避免这种情况。”

还有可能有人创建自己的色情生成模型，不带有任何限制。然而，Salt指出，尽管这是有可能的，但这需要大量的技术知识和大量的计算能力。

“并不是所有人都有能力自行创建生成裸体图片的AI，”Salt说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到。”

Salt将当前的AI发展状态与安全行业的演变做了比较。他观察到，我们正看到安全行业“重新开始与AI合作”。这一对比突显了将AI发展视为一个持续过程的重要性，其中识别和修复漏洞是成熟技术的关键。

在X上出现的Taylor Swift的AI生成图片强调了负责任使用AI的重要性。随著AI不断进步，平衡技术能力与伦理考量以及安全措施将变得至关重要。透过像Michal Salt这样的专家学习，并反思过去的挑战，我们可以以更明智和谨慎的方式应对这一复杂局面。