被视为 AI 教父的 Geoffrey Hinton 上周离开了谷歌,因此他可以自由谈论 OpenAI 的 ChatGPT、谷歌的 Bard 等生成式 AI 产品的危险。这位多伦多大学教授创造了公司用来训练 ChatGPT 等 AI 产品的神经网络技术。现在,他不再像对 AI 的未来那样兴奋。
根据对 Hinton 的采访,他担心人工智能可能对社会造成的直接和更遥远的危险。
在欣顿从谷歌辞职后,《纽约时报》对他进行了采访,简要回顾了这位教授辉煌的职业生涯。
Hinton 于 1972 年毕业于爱丁堡大学,开始研究神经网络。80年代,他是卡内基梅隆大学的教授。但他用美国和五角大楼的人工智能研究资金换取了加拿大。Hinton 希望避免让 AI 技术涉及武器。
2012 年,欣顿和他的两个学生创建了一个神经网络,可以分析数千张照片并学习识别常见物体。Ilya Sutskever 和 Alex Krishevsky 就是这些学生,前者于 2018 年成为 OpenAI 的首席科学家。这就是创建 ChatGPT 的公司。
谷歌斥资 4400 万美元收购了 Hinton 和他的两个学生创办的公司。Hinton 在谷歌花了十多年时间完善 AI 产品。
![](https://www.eiefun.com/images/2023/5/2/6371/1.jpg)
ChatGPT 的突然到来以及微软在 Bing 中快速部署 ChatGPT 开启了与谷歌的新竞赛。这是 Hinton 不喜欢的竞争,但当他还是谷歌员工时,他选择不谈论不受监管的 AI 的危险。
Hinton 认为,科技巨头正在进行一场可能无法停止的新人工智能军备竞赛。他最担心的是,随着来自 AI 产品的生成照片、视频和文本充斥网络,普通人将“无法再知道什么是真实的”。
接下来,人工智能可能会在需要某种重复性任务的工作中取代人类。更进一步,Hinton 担心人工智能将被允许生成和运行自己的代码。这对人类来说可能是危险的。
“这种东西实际上可以变得比人类更聪明的想法——一些人相信了,”这位前谷歌员工说。“但大多数人认为这还很遥远。我认为这还很遥远。我认为它是 30 到 50 年甚至更长的时间。显然,我不再这么想了。”
Hinton 在 推特 上澄清说,他直到上周才离开谷歌去批评他工作的公司。他说,到目前为止,谷歌在人工智能问题上“表现得非常负责任”。
在今天的纽约时报上,凯德·梅茨暗示我离开谷歌是为了批评谷歌。实际上,我离开是为了谈论人工智能的危险,而不考虑这对谷歌有何影响。谷歌的行为非常负责任。
– Geoffrey Hinton (@geoffreyhinton) 2023 年 5 月 1 日
Hinton 告诉泰晤士报,他希望科技公司能够采取负责任的行动,防止人工智能变得不可控。但监管人工智能领域可能说起来容易做起来难,因为公司可能正在闭门造车地研究这项技术。
这位前谷歌员工在接受采访时说,他用“正常的借口”来安慰自己:如果我没有做,其他人就会做。当被问及罗伯特·奥本海默 (Robert Oppenheimer) 是如何从事如此危险的技术时,欣顿也曾引用过他的话:“当你看到技术上很不错的东西时,你就会继续去做。”
但他不再这么说了。此链接提供了时报的完整采访。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。