在人们使用该工具创建备受瞩目的 deepfakes 后,Midjourney 将停止免费使用其 AI 图像生成器。首席执行官 David Holz 在 Discord 上表示,由于“异常需求和试用滥用”,公司将终止免费试用。Holz 说,新的保护措施还不足以防止试用期间的滥用。目前,您必须每月至少支付 10 美元才能使用该技术。
正如《华盛顿邮报》所解释的那样,最近几周,Midjourney 发现自己处于不必要关注的中心。用户依靠该公司的人工智能来制作唐纳德特朗普被捕和教皇弗朗西斯穿着时髦外套的深度伪造。虽然这些图片很快被确定为伪造的,但有人担心坏人可能会使用 Midjourney、OpenAI 的 DALL-E 和类似的生成器来传播错误信息。
Midjourney 承认在制定内容政策方面存在困难。2022 年,霍尔兹通过告诉 Discord 用户他的团队只想“尽量减少戏剧性”来为禁止中国领导人习近平的形象辩护,并且在中国拥有任何访问权限比允许讽刺内容更重要。在周三与用户的聊天中,Holz 表示他在设置内容政策时遇到了困难,因为 AI 可以实现更加逼真的图像。创始人补充说,Midjourney 希望改进 AI 审核以筛选滥用行为。
一些开发商采取了严格的规定来防止事故的发生。例如,OpenAI 禁止任何正在进行的政治事件、阴谋论和政客的图片。它还禁止仇恨、性和暴力。然而,其他人有相对宽松的指导方针。Stability AI 不允许 Stable Diffusion 用户复制样式或制作不适合工作的图片,但它通常不会规定人们可以制作什么。
误导性内容并不是 AI 图像制作的唯一问题。长期以来人们一直担心这些照片被盗,因为它们经常使用现有图像作为参考点。虽然一些公司在他们的产品中采用 AI 艺术,但也有很多公司担心他们会受到不必要的关注而犹豫不决。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。