艾玛麦戈文 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台上引发热议后，我们不得不思考：这对AI的未来意味着什么？

最近，一些AI生成的泰勒斯威夫特的露骨图片在X前Twitter平台上迅速传播，凸显了AI技术的阴暗面。这些图片据说是使用Microsoft Designer创建的，迅速引起了广泛关注，突显了AI生成的假色情内容日益增长的挑战。

随著这些图片在平台上的迅速扩散，事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt为这一时事讨论带来了丰富的知识和专业见解。他对技术、安全和伦理交叉点的敏锐洞察，提供了对AI生成内容影响的深刻看法。

接下来的部分，我们将深入探讨他的见解，包括图像处理的历史类比、AI能力带来的伦理困境，以及在这个日益以AI驱动的世界中，数字信任和安全的更广泛影响。

假色情内容不是新问题

萨拉特将当前AI生成逼真图像的能力与过去使用Photoshop的情况作类比。就像Photoshop多年前彻底改变了图像处理，现在AI使得创建现实图像变得更加容易。然而，图像操纵的概念并不新鲜；AI只是这场持续剧情最新的工具。

“这在某种程度上只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念已经是个担忧超过十年。现在的关键区别在于AI技术带来的便利和可及性。这一转变提出了重要问题，即社会如何适应并规范这些新工具，这些工具使得创建现实图像比以往任何时候都更容易。

AI与露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图像的伦理影响，特别是针对特定个体而未经他们同意的情况。尽管生成一般的裸体图像可能不会引发太多伦理问题，但真正的问题在于创建可识别人物的露骨图像的便利性。

“AI生成色情内容本身可能没有内在的错误或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于你可以相对容易地生成一个有已知或特定面孔的图像。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸到任何人，凸显出制定伦理准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体在48个州是非法的，但AI生成的深伪色情目前只有在10个州被禁止。这一显著差异突显了立法需要与技术进步保持同步。

AI公司如何防止生成深伪色情？

或许因为生成性AI的使用相对较新，因此在创建未经主体同意的露骨内容方面几乎没有设置保护措施。尽管如此，萨拉特认为，AI公司实施这些措施并不会特别困难：例如，不允许针对特定人或使用顾客提交的图片为来源材料进行图像生成，就可以为绝大多数人提供足够的障碍。

“当然，有些人会能够打破这些限制，强迫模型做它不该做的事情，”萨拉特表示。“在我看来，这种情况目前几乎无法避免你只能让它更难。我想说的是，提供这些服务的公司应更加努力地去避免这种情况。”

此外，也存在有人创建自己的色情生成模型而没有任何限制的可能性。然而，萨拉特指出，即使这是可能的，它仍需要[大量]技术知识和[大量]计算能力。

“并不是很多人能够自己创建AI来生成裸体，”萨拉特说。“所以，这与使用Photoshop类似，你需要具备一定的技能才能做到这一点。”

萨拉特将当前的AI发展状态与安全行业的演变作了比较。他观察到我们正在见证安全行业“在AI面前重新开始”。这一比较突显了将AI发展视为一个持续过程的重要性，识别和修复漏洞是技术成熟的关键。

在X平台上出现的泰勒斯威夫特的AI生成图像突显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量及安全措施之间保持平衡将至关重要。通过向米哈尔萨拉特等专家学习，并反思过去的挑战，我们可以以更明智和谨慎的方式应对这一复杂的现实。