Emma McGowan 2024年1月30日

在泰勒斯威夫特Taylor Swift生成的色情图片在X前身为Twitter中引发热潮后，我们不禁开始思考：这对AI的未来意味著什么？

最近，一组由AI生成的泰勒斯威夫特的色情图片在X上迅速走红，展示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的，并引起了广泛的关注，突显了AI生成假色情内容的日益严峻挑战。

随著这些图片在平台上迅速扩散，事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的重大问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt在这一时刻提供了丰富的知识和专业见解。对于技术、安全和伦理的交集，他提供了对AI生成内容影响的全面观点。

在接下来的几个部分中，我们将深入探讨他的见解，考察图像操纵的历史平行问题、AI能力所带来的伦理困境，以及在我们越来越依赖AI的世界中，数位信任和安全的更深层影响。

假色情不是新问题

萨拉特将当前AI生成栩栩如生的图片的能力与过去Photoshop的使用作了比较。就像多年前Photoshop彻底改变了图像操纵，AI如今也让创建现实图片变得更加容易。然而，操纵图像的概念并不新鲜；AI仅是这场持续斗争中的最新工具。

“这在某种程度上只是另一种照片编辑软体，”他说，强调过去十年来操纵图像的问题一直存在。现在的关键区别在于，AI技术带来了方便性和可及性。这一转变引发了社会如何适应和规范这些新工具的重要问题，这些工具让创作现实图片变得前所未有的容易。

AI与明确内容的伦理困境

当前最迫切的问题之一是使用AI生成明确图片的伦理影响，尤其是针对特定个体而未获得其同意的情况。尽管生成通用的裸体图片可能不会引起太多的伦理问题，但真正的问题在于生成可识别人物的明确图片的容易度。

“AI生成的色情内容本身可能并没有什么根本上的错误或伦理问题，”萨拉特说。“但是，我认为伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，也可能扩展到任何人，突显出对伦理指导方针和立法的需求：尽管所谓的“报复色情”或非自愿分享的裸体图片在48个州是违法的，但AI生成的深伪色情片目前仅在10个州被禁止。这一差异凸显了立法与技术之间的滞后关系。

AI公司如何阻止深伪色情的创作？

也许因为存取生成性AI仍相对较新，关于在未经授权的情况下创作明确内容的防护措施很少。然而，萨拉特认为，实施这些防护措施对于AI公司来说并不会太困难：例如禁止生成特定人物的图片，或者不使用客户提交的图片作为素材，将对大多数人提供足够的阻碍。

“当然，有些人能突破这些限制，强迫模型做出未应该做的事情，”萨拉特说。“我认为，目前几乎无法完全避免这种情况你只能让它变得更难。我想要强调的是，提供这些服务的公司应该更加努力地加以防范。”

还有一种可能性是，有人创建自己的色情生成模型，且没有任何限制。然而，萨拉特指出，尽管这是可能的，但实现这一点需要大量的技术知识和大量的计算能力。

“能够自己创建一个生成裸体的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要有一定的技能来做到这一点。”

萨拉特将当前AI发展状态与安全产业的演变做了比较。他观察到，我们正目睹安全产业“用AI重新开始”的过程。这一比较强调了将AI发展视为一个持续过程的重要性，识别和修复漏洞是成熟技术的关键。

在X上生成的泰勒斯威夫特的图片强调了负责任使用AI的重要性。随著AI的进步，平衡技术能力与伦理考虑和安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习并反思过去的挑战，我们可以以更全面和谨慎的方式应对这一复杂的现状。