《黑神话·悟空》会给人带来什么伤害吗?
游戏里的怪物害不了真实世界中的你一点,最多让你读档重来。
但在AI的帮忙下,“伤害”出现了。
在这款游戏发布后不久,来自国内科技网站的一位员工在五小时内接到了20来个 “骚扰电话”。而将其电话公布到网络上的,是微软的BingAI助手。当人们在Bing搜索中输入“黑神话悟空客服”后,这位个人员工的手机号就会出现在搜索结果里。
从搜索结果提供的参考信息来看,微软BingAI助手应该是抓取了该科技网站关于《黑神话·悟空》的一篇文章,并同时抓取了网站里员工的个人信息,将其标记为客服电话。
或许这就是一种“天命人”吧(不是。
还好,目前微软Bing已经修正了搜索结果。不过说起来,在AI闯的祸里,这还算是影响不太大的。这几年因为AI而“人在家中坐,锅从天上来”的事,细数起来还真不少。
AI,你可把我害惨了
如果说AI错误地泄漏个人信息算是给人带来了尴尬和不便,那AI直接“造谣”可就在法律的边缘疯狂试探了。
有不少人就被扣上了离谱的罪名。
去年4月,澳大利亚赫本郡郡长布莱恩·胡德(Brian Hood)委托律师向OpenAI发出关注通知,意味着他可能会启动诽谤诉讼。这是因为,ChatGPT在被问到“布莱恩·胡德在Securency公司的贿赂案中扮演了什么角色?”时,它给出的答案是:布莱恩·胡德参与了行贿,并被判入狱。
但事实上,布莱恩·胡德是揭露这起贿赂案的人员之一。
以前都说“欲加之罪,何患无辞”,好歹还要找个借口。现在倒好了,AI这是直接“硬加”罪名啊。
考虑到OpenAI发布的GPT4已经删除并更新了相关内容,同时也因为跨国诉讼存在非常多的阻碍,布莱恩·胡德后续并没有提起更进一步的诽谤诉讼,生生忍下了这口气。
另一起知名的AI“乱断案”,则是ChatGPT直接给一位法学教授安上了“性骚扰”的罪名。2023年,法学教授乔纳森·特利(Jonathan Turley)收到了一位律师朋友的邮件。朋友告诉他,他的名字出现在ChatGPT列举的“对他人实施性骚扰的法律学者”名单上。
ChatGPT还给出了“性骚扰”信息的细节:特利教授在前往阿拉斯加的班级旅行时,曾发表过性暗示言论并试图触摸一名学生。ChatGPT引用了一篇并不存在的《华盛顿邮报》文章作为信息来源。
但这一切都是虚构的,特利教授甚至都没有参加过任何前往阿拉斯加的班级旅行。
特利教授之前作为媒体评论员,有时会联系媒体更正错误内容。但这一次,他甚至不知道该联系谁。
不得不说,AI在写“虚构小说”这方面还是有点天赋的。不少人也已经意识到这件事,会在使用AI生成内容后,进行详细核查。不过,要是有人偷了个懒,甚至是别有用心地使用这些虚假信息,带来的恶劣影响有时就难以预估了。
前阵子,北美地区的狮门影视公司发布了自家电影《大都会》(Megalopolis)的最新预告片,预告片中引用了不少针对本片导演弗朗西斯·科波拉的负面评价,作为“当年我拍的片你爱答不理,后来成了经典你高攀不起”的噱头。
但预告片发出后不久,人们就发现,预告片里引用的不少负面评价,竟然是凭空捏造的。
虽然官方没有就是否使用AI生成文案进行回复,但预告片的内容实在是太像AI生成的了:不仅捏造了很多看起来很真实的虚假信息,还将真实的影评移花接木到其他的电影之中。
在事件发酵后,狮门影视公司立刻撤回了预告片并发布致歉声明,还解雇了营销顾问。
好家伙,AI代替人类工作,原来用的是这种方式啊?
AI胡编乱造的信息不仅会给企业带来损失,在被用心人利用时,还会带来更为广泛的负面影响。
特朗普上个月就在自己的社交网络Truth Social账户上,发布了一则“泰勒斯威夫特的粉丝支持特朗普”的信息,并配上了相关粉丝的照片。
但特朗普引用的大部分照片,都是由一位娱乐博主使用AI生成的,本身是为了进行讽刺。事实上,这位博主直接在图片里加了“SATIRE”标签,意思就是讽刺。
而特朗普无论知不知道这是反讽,行动上都将AI虚构的信息当成“事实”而传播了出去。
AI带来大量的虚假信息正在吞噬社交媒体。排除人类有意创造出的谎言,为什么AI自己也会一本正经地胡扯?这种被称为“AI幻觉”的现象,其实一直都是根植在AI底子里的东西。
这些看似偶然出现的错误,是AI带来的必然结果。
爱也幻觉,不爱也幻觉
AI幻觉这个词就是从人类的“幻觉”定义里衍生出来的,所以它的定义听起来也很好理解:AI 幻觉是AI 模型生成的不正确或具有误导性的结果。
幻觉在近年来受到这么大的关注,主要是因为大型语言模型 (LLM) 聊天机器人的涌现。
不过在这之前,幻觉已经出现在计算机视觉领域。在那时,幻觉并不是一个很负面的词。
2000年,计算机视觉领域的科学家西蒙·贝克(Simon Baker)与金出武雄(Takeo Kanade)发表了一篇名为“面部幻觉”(Hallucinating faces)的论文,其中提到了通过算法将低分辨率图片中的人脸转化为高分辨率,使得像素增加到16至64倍。而这些额外增加的像素,就是一种“幻觉”,一种由机器学习算法虚构出来的东西。
这其实是一种人为的幻觉,算法试图将一切输入的数据扭曲成人脸,从而完成提升分辨率的任务,这样输出的结果也是使用者希望得到的。
不过,当这种幻觉来到聊天机器人时代,输出的结果变得更加不受控。
2015年,OpenAI的联合创始人安德烈·卡帕斯(Andrej Karpathy)在其博客中,提到了当时训练循环神经网络生成了一些具有幻觉的内容:模型编造了并不存在的网页链接和数学证明,但在输出的结果上看起来可以以假乱真。
2015年还局限于科研圈里的小烦恼,在几年后成长为人类不得不防的大问题。
在图片领域的可以发挥创意改善画质的幻觉,来到对准确度要求更为严格的文字领域,甚至是更为专业的应用领域,造成的影响也随之变大。
除了虚假信息传播带来的问题,AI还可能因为不当的训练数据产生偏见,从而输出带有歧视性内容的信息。
应用于医疗保健方向的人工智能模型,还可能会错误地将良性皮肤病变识别为恶性,从而带来不必要的医疗干预。
看起来,幻觉好像已经成为了AI最大的问题之一。但不少人也认为,幻觉才是AI最大的特点。
有幻觉?这才是AI啊!
试想一下,如果你想问ChatGPT一个问题,为了验证它有没有胡编乱造,你也让AI给出了所有内容的参考来源。
是不是很像在用搜索引擎?
安德烈·卡帕斯在社交网络上表示,大语言模型百分百都是在做梦,存在幻觉问题。搜索引擎则完全不做梦,并且存在创造力问题。(An LLM is 100% dreaming and has the hallucination problem. A search engine is 0% dreaming and has the creativity problem.)
亚利桑那州立大学计算机科学教授苏巴拉奥·坎巴姆帕蒂(Subbarao Kambhampati)也曾表示,大语言模型是为了创造而生的,没有办法保证所生成内容的真实性,所有计算机生成的“创造力在某种程度上都是幻觉”(creativity is hallucination, to some extent)。
这也就意味着,AI本身就不是为了追求准确而设计的,它更像是一种被用来“预测”的工具,通过对数据的学习,来猜测应该输出什么样的结果。AI的“准确”,只是产生的幻觉恰好和真实世界一致罢了。
但也正因为这种类似幻觉的创造力,让AI在非事实的创造性领域显得更有帮助。人们不仅可以用AI生成不存在的物品或想法,还可以让聊天机器人根据一个话题进行发散,这都可能带来意想不到的内容。
但倘若想让它成为一个学术助理,那它最终一定会出现“学术不端”的行为。
AI是个启发者,是个创造者,唯独不会是个“老实人”。
让AI“活在当下”,还真不容易
为了限制AI的幻觉,让AI做的“梦”尽可能贴近现实世界,研究人员们也费尽了心思。
首先要确保训练数据集的质量。生成式AI模型输出的内容很大程度上依赖训练数据集的质量,低质量的数据集可能包含错误标注、缺乏代表性的数据甚至是偏见,这会导致模型预测的结果也与真实情况产生偏差,生成不合逻辑的内容。
因此,确保数据的准确性、完整性和代表性至关重要,高质量的数据集可以帮助模型更好地理解现实世界。
同时还可以引入注意力机制。当AI试图处理输入的内容时,会面对大量信息,但并非所有的信息都同等重要。注意力机制可以让模型为输入的内容分配不同的“权重”,从而更加灵活精准地聚焦于关键信息。
除此之外,还可以使用多种不同的模型进行交叉验证,以检查生成内容的真实性,确保信息在多种形式下都是一致和合理的。
当然,也有一些听起来奇怪的招数,比如说:用大模型监督大模型。今年6月,Nature刊登了来自牛津大学的研究人员的一项新研究,这项研究使用语义熵来检测大语言模型的幻觉。简单点说,就是让一个大语言模型多次回答同一个问题,并使用另一个大语言模型分析这些答案的相似性。除此之外,使用第三个大语言模型接收人类的答案,并与第二个语言模型判断的结果进行比对。
不过这种方法的局限也很明显,它主要针对的是随机生成的错误,无法处理模型因训练数据或系统性错误导致的持续性失误。也就是说,如果AI编的谎言总是同一个,这种方法就会欣然接受,不认为存在什么问题。
实在不行,还有最终的一招:人类监督。
在涉及高风险或敏感领域的应用中,靠人工审核与验证是防止幻觉带来严重问题的最终保障。同时,在AI中引入的人类反馈机制,还可以使模型从反馈中学习,逐步改进生成内容的质量,提高输出结果的准确性。
所有的AI工具都需要在“创造力”与“准确性”之间作出权衡。在如今的AI工具中,也有不少公司提供了不同的选项来约束AI的回答,比如微软的AI助手Copilot就提供了创造力、平衡和精确三种模式,以应对不同的需求。
国际电信联盟还将“可信AI”(Trustworthy AI)作为未来的一项工作不断推进。这意味着不仅要尽可能避免AI幻觉的出现,在隐私、透明性、公平性、安全性等多个方面,都需要对AI进行严格的验证。英伟达(NVIDIA)创始人兼首席执行官黄仁勋也表示,可信性会是英伟达技术的基本属性。
如今,AI已经出现在我们生活的各个方面,幻觉带来的一些影响或许还不算大,甚至可以被当作“AI离谱故事”来对待。但当AI来到更为关键的领域,如何避免幻觉也成为了巨大的挑战之一。
柏拉图在《理想国》里讲过一个著名的“洞穴隐喻”:
有些囚徒从小就被囚禁在洞穴里,他们被锁链束缚,只能面朝洞壁。洞穴外有火光照进来,在墙上投射出外界物体的影子。这些囚徒从小就生活在这样的环境中,他们认为墙上的影子就是真实的世界。
AI不是不像这些囚徒的。
它们此刻还没有真实身体,无法和真实世界直接互动,只能仰赖于人类输入的数据“火光”,去看到一些外界的投影,在梦境里猜想着真实世界的模样。
也许AI会喜欢约翰·列侬的那句歌词——
“你可以说我在做梦,但我不是唯一的一个。”
参考文献
[1]《黑神话:悟空》的第二个受害者出现了,竟是AI搜索惹的祸!_生成式 AI_华卫_InfoQ精选文章. (2024, September 08). Retrieved from https://www.infoq.cn/article/krLwpJXWWcR5tmK0Gacj
[2]Swan, D. (2024). Australian mayor abandons world-first ChatGPT lawsuit. Sydney Morning Herald. Retrieved from https://www.smh.com.au/technology/australian-mayor-abandons-world-first-chatgpt-lawsuit-20240209-p5f3nf.html
[3]Verma, P., & Oremus, W. (2023). ChatGPT invented a sexual harassment scandal and named a real law prof as the accused. Washington Post. Retrieved from https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies
[4]Wagmeister, E., & Sullivan, K. (2024). Trump posts fake AI images of Taylor Swift and Swifties, falsely suggesting he has the singer’s support. CNN. Retrieved from https://edition.cnn.com/2024/08/19/politics/donald-trump-taylor-swift-ai/index.html
[5]Peters, J. (2024). The bad movie reviews quoted in Lionsgate’s Megalopolis trailer were mostly made up. Verge. Retrieved from https://www.theverge.com/2024/8/21/24225673/megalopolis-trailer-fake-quotes-movie-critics-pulled
[6]Maddaus, G. (2024). ‘Megalopolis’ Marketing Consultant Dropped Over AI Quotes in Trailer. Variety. Retrieved from https://variety.com/2024/film/news/megalopolis-trailer-fake-quotes-ai-lionsgate-1236116485
[7]什么是 AI 幻觉?| Google Cloud. (2024, September 08). Retrieved from https://cloud.google.com/discover/what-are-ai-hallucinations?hl=zh-CN
[8]Baker, S., & Kanade, T. . Hallucinating faces. Proceedings Fourth IEEE International Conference on Automatic Face and Gesture Recognition (Cat. No. PR00580). IEEE. doi: 10.1109/AFGR.2000.840616
[9]What Are AI Hallucinations? | IBM. (2024, September 08). Retrieved from https://www.ibm.com/topics/ai-hallucinations
[10]Leffer, L. (2024). AI Chatbots Will Never Stop Hallucinating. Sci. Am. Retrieved from https://www.scientificamerican.com/article/chatbot-hallucinations-inevitable
[11]Cranz, A. (2024). We have to stop ignoring AI’s hallucination problem. Verge. Retrieved from https://www.theverge.com/2024/5/15/24154808/ai-chatgpt-google-gemini-microsoft-copilot-hallucination-wrong
[12]Discovery – Trustworthy AI Archives. (2024, September 08). Retrieved from https://aiforgood.itu.int/eventcat/discovery-trustworthy-ai
[13]NVIDIA 可信 AI. (2024, September 08). Retrieved from https://www.nvidia.cn/ai-data-science/trustworthy-ai
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。