2025-01
泰勒斯威夫特的深伪色情影片并不算新鲜事但这并不代表我们不应该感到担忧。
Emma McGowan 2024 年 1 月 30 日
在塔勒斯威夫特的 AI 生成色情图片于 X 网上走红后,我们不禁想:这对 AI 的未来意味著什么?
最近,一些 AI 生成的露骨图片在 X前身为 Twitter上迅速传播,揭示了 AI 能力的阴暗一面。这些图片据信是使用 Microsoft Designer 创建的,引起了广泛的关注,突显了 AI 生成假色情的挑战日益严峻。
随著这些图片在平台上快速传播,事件不仅引发了粉丝和隐私倡导者的愤怒,还提出了关于媒体创作中伦理使用 AI 的重要问题。
Avast 威胁情报总监 Michal Salt 在这一时刻带来了丰富的知识和专业意见。他专注于技术、安全和伦理的交汇点,为 AI 生成内容的影响提供了细致的视角。
在接下来的部分中,我们将探讨他的见解,包括图像操控的历史平行、AI 能力带来的伦理困境,以及在日益以 AI 为驱动的世界中数位信任和安全的更广泛影响。
假色情并不是新问题
Salt 将当前 AI 生成逼真图片的能力与过去 Photoshop 的使用进行了比较。正如 Photoshop 在多年前彻底改变了图像处理一样,如今的 AI 使得创建逼真图片变得更为容易。然而,操纵图片的概念并不新鲜;AI 只不过是这个持续故事中的最新工具。
“在某种程度上,这只是一种不同的照片编辑软件,”他解释道,强调操纵图片的概念已经关注了十多年。现在的关键区别在于 AI 技术带来的便利和可及性。这一转变引发了重要问题,关于社会如何适应和规范这些新工具,这些工具使得创建逼真图片比以往任何时候都容易。
AI 和露骨内容的伦理困境
最迫切的问题之一是使用 AI 生成露骨图片的伦理影响,尤其是针对特定个体而未经同意的情况。虽然生成普通的裸体图片可能不会引发太多伦理问题,但实际问题在于轻松地创建识别性人物的露骨图片。
“AI 生成的色情内容本身可能没有固有的错误或伦理问题,”Salt 说。“但对我来说,伦理问题在于你可以相对容易地生成一个带有已知或特定面孔的图片。”
这一能力不仅限于像塔勒斯威夫特这样的名人,还可能波及任何人,突显了对伦理指导方针和立法的需求:虽然所谓的“报复色情”或无同意分享裸体图片在美国48个州是非法的,但目前 AI 生成的假冒色情仅在10个州中被禁止。这一明显的差距强调了立法跟上技术的必要性。它还反映了法律的滞后。
AI 公司该如何阻止深伪色情的生成?
或许因为生成 AI 的接触仍是一种相对新颖的现象,对于在未经主体同意的情况下创建露骨内容的保护措施仍然相对缺乏。然而,Salt 却认为,对 AI 公司来说,实施这些措施并不会非常困难:类似于不允许生成特定人员的图片或使用客户提交的图像作为素材,将为绝大多数人提供足够的阻碍。
“当然,也有人能打破这些限制并迫使模型做出不应该做的事情,”Salt 说。“在我看来,目前几乎不可能避免这一点只能让它变得更难。我希望强调的是,提供这些服务的公司应该努力避免这种情况。”
此外,也有可能有人创建自己的无限制色情生成模型。Salt 指出,虽然这是可能的,但要做到这一点需要 非常 多的技术知识和 非常 多的计算能力。
“并不是很多人能够自己创建生成裸体的 AI,”Salt 说。“所以,这将更类似于使用 Photoshop,需要有一定的技能水平才能做到。”
飞鱼加速app官网版Salt 将当前 AI 发展的状态与安全行业的演变进行了比较。他指出,我们正在见证安全行业在 AI 上的“重头开始”。这一比较突显了将 AI 开发视为一个持续过程的重要性,在该过程中,识别和修复脆弱性是技术成熟的关键。
塔勒斯威夫特在 X 网上生成的图片强调了负责任使用 AI 的重要性。随著 AI 的不断进步,平衡技术能力与伦理考量及安全措施将至关重要。通过向像 Michal Salt 这样的专家学习,并反思过去的挑战,我们可以以更有见地和谨慎的态度来驾驭这一复杂的领域。