被视为 AI 教父的 Geoffrey Hinton 上周离开了谷歌,因此他可以自由谈论 OpenAI 的 ChatGPT、谷歌的 Bard 等生成式 AI 产品的危险。这位多伦多大学教授创造了公司用来训练 ChatGPT 等 AI 产品的神经网络技术。现在,他不再像对 AI 的未来那样兴奋。
根据对 Hinton 的采访,他担心人工智能可能对社会造成的直接和更遥远的危险。
在欣顿从谷歌辞职后,《纽约时报》对他进行了采访,简要回顾了这位教授辉煌的职业生涯。
Hinton 于 1972 年毕业于爱丁堡大学,开始研究神经网络。80年代,他是卡内基梅隆大学的教授。但他用美国和五角大楼的人工智能研究资金换取了加拿大。Hinton 希望避免让 AI 技术涉及武器。
2012 年,欣顿和他的两个学生创建了一个神经网络,可以分析数千张照片并学习识别常见物体。Ilya Sutskever 和 Alex Krishevsky 就是这些学生,前者于 2018 年成为 OpenAI 的首席科学家。这就是创建 ChatGPT 的公司。
谷歌斥资 4400 万美元收购了 Hinton 和他的两个学生创办的公司。Hinton 在谷歌花了十多年时间完善 AI 产品。

ChatGPT 的突然到来以及微软在 Bing 中快速部署 ChatGPT 开启了与谷歌的新竞赛。这是 Hinton 不喜欢的竞争,但当他还是谷歌员工时,他选择不谈论不受监管的 AI 的危险。
Hinton 认为,科技巨头正在进行一场可能无法停止的新人工智能军备竞赛。他最担心的是,随着来自 AI 产品的生成照片、视频和文本充斥网络,普通人将“无法再知道什么是真实的”。
接下来,人工智能可能会在需要某种重复性任务的工作中取代人类。更进一步,Hinton 担心人工智能将被允许生成和运行自己的代码。这对人类来说可能是危险的。
“这种东西实际上可以变得比人类更聪明的想法——一些人相信了,”这位前谷歌员工说。“但大多数人认为这还很遥远。我认为这还很遥远。我认为它是 30 到 50 年甚至更长的时间。显然,我不再这么想了。”
Hinton 在 推特 上澄清说,他直到上周才离开谷歌去批评他工作的公司。他说,到目前为止,谷歌在人工智能问题上“表现得非常负责任”。
在今天的纽约时报上,凯德·梅茨暗示我离开谷歌是为了批评谷歌。实际上,我离开是为了谈论人工智能的危险,而不考虑这对谷歌有何影响。谷歌的行为非常负责任。
– Geoffrey Hinton (@geoffreyhinton) 2023 年 5 月 1 日
Hinton 告诉泰晤士报,他希望科技公司能够采取负责任的行动,防止人工智能变得不可控。但监管人工智能领域可能说起来容易做起来难,因为公司可能正在闭门造车地研究这项技术。
这位前谷歌员工在接受采访时说,他用“正常的借口”来安慰自己:如果我没有做,其他人就会做。当被问及罗伯特·奥本海默 (Robert Oppenheimer) 是如何从事如此危险的技术时,欣顿也曾引用过他的话:“当你看到技术上很不错的东西时,你就会继续去做。”
但他不再这么说了。此链接提供了时报的完整采访。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场,如有侵权或其它,请联系 admin@eiefun.com,我们会第一时间配合删除。