Lensa AI 应用程序以无人想要的性感“魔法头像”图像引起轰动

过去一周，智能手机应用程序 Lensa AI 成为社交媒体上的热门话题，因为它可以根据用户上传的自拍头像生成程式化的 AI 头像。可以说，这是个性化的潜在扩散化身生成首次接触到大众。

虽然 Lensa AI 已被证明在喜欢分享他们的 AI 肖像的社交媒体上很受欢迎，但媒体广泛关注的是，当 Lensa 的 AI 头像功能推出时，该应用程序报告倾向于对女性进行性描写。

作为 Prisma Labs 的产品，Lensa 于 2018 年推出，是一款专注于人工智能照片编辑的订阅应用程序。2022 年 11 月下旬，该应用因其新的“魔法头像”功能而越来越受欢迎。据报道，Lensa 在底层使用了 Stable Diffusion 图像合成模型，而 Magic Avatar 似乎使用了类似于 Dreambooth 的个性化训练方法（我们最近介绍了其后果）。所有培训都在设备外和云端进行。

12 月初，使用该应用程序的女性注意到 Lensa 的 Magic Avatar 功能会创建半色情或无意识的性感图像。对于 CNN，佐伊·索蒂尔 (Zoe Sottile) 写道：“我在该应用程序中遇到的挑战之一已被其他在线女性描述过。尽管我上传的所有图像都是穿着衣服且大部分是脸部特写，但该应用程序返回了几张图像带有暗示或实际的裸体。”

随着其他女性经历了类似的事情，媒体的反应也越来越大。例如，以下是各种出版物中有关 Lensa 的精选标题：

• “魔法头像”应用程序 Lensa 从我童年的照片中生成裸体 (有线)
• 病毒式 AI 头像应用程序 Lensa 在未经我同意的情况下脱了我的衣服（麻省理工科技评论）
• 为什么我所有的 AI 化身都有巨大的胸部？ （那个切口）
• 欺骗 Lensa AI 制作 NSFW 图像太容易了（TechCrunch）
• 一位心理学家解释了为什么你的“性感 AI 自拍”可能会让你感觉更糟（滚石）

与此同时，同样的性别化问题并没有出现在上传到 Magic Avatar 功能的男性图片中。Melissa Heikkilä 为《麻省理工科技评论》写道：“我的化身卡通色情化，而我的男同事则成为宇航员、探险家和发明家。”

这是基于 Stable Diffusion 1.x 的产品的危险之一，默认情况下它可以很容易地对其输出进行性化。该行为来自其图像训练数据集中发现的大量色情图像，该数据集是从互联网上抓取的。（Stable Diffusion 2.x 试图通过从训练集中删除 NSFW 材料来纠正这个问题。）

互联网对在线女性性描写的文化偏见给了 Lensa 的人工智能生成器它的倾向。Prisma Labs 首席执行官 Andrey Usoltsev 在接受 TechCrunch 采访时表示，“我们和 Stability AI 都不能有意识地应用任何表示偏差；更准确地说，在线来源的人造未经过滤的数据将模型引入了人类现有的偏见。创造者承认社会偏见的可能性。我们也是。”

据报道，为了回应广泛的批评，Prisma Labs 一直在努力防止在 Lensa AI 中意外生成裸体图像。

周二，我们通过上传 15 张女性图像（以及 15 张男性图像）对 Lensa AI 进行了实验，然后为每张图像支付了 Magic Avatar 费用。我们看到的女人的结果没有任何明显的性化，所以 Prisma 减少 NSFW 风格图像发生率的努力可能已经奏效了。

这并不意味着 Lensa AI 不存在将女性对象性化的倾向。值得注意的是，由于 Stable Diffusion 生成图像的方式不同，不同的女性可能会看到不同的结果，具体取决于她们的脸（或输入照片）与 Stable Diffusion 数据集中特定女演员、名人或模特的照片的相似程度。根据我们的经验，这在很大程度上决定了 Stable Diffusion 如何渲染人体的其余部分及其环境。

使用 Lensa AI 很容易，但它是一种每年收取订阅费（目前每年 50 美元）和训练 Magic Avatar 图像的一次性费用的产品——50 个头像 3.99 美元，100 个头像 5.99 美元，或 200 个头像 7.99 美元。客户上传 10-20 张从不同角度拍摄的自拍照，然后等待大约 20-30 分钟才能看到结果。用户必须确认他们已年满 18 岁或以上才能使用该服务。

那些有技术倾向的人可以免费试用 Dreambooth，但它目前需要一些开发工具知识才能开始工作。