在过去的十年里,欣顿在谷歌兼职工作,在公司的硅谷总部和多伦多之间。但他已经离开了这家互联网巨头,他告诉纽约时报,他将警告全世界人工智能的潜在威胁,他说人工智能的到来比他之前想象的要早。
“我认为那是 30 到 50 年甚至更长的时间,”欣顿在周一发表的一篇报道中告诉泰晤士报。“显然,我不再那样想了。”
据《泰晤士报》报道,因概念和工程突破而获得 2018 年图灵奖的 Hinton 表示,他现在对自己一生的工作感到有些遗憾。他列举了人工智能抢走工作的近期风险,以及在普通人看来是真实的假照片、视频和文本的泛滥。
Hinton 在给 CNBC 的一份声明中说,“我现在认为我们正在创造的数字智能与生物智能有很大不同。”
Hinton 引用了初创公司 OpenAI 的 GPT-4 的强大功能,这是最先进的大型语言模型或 LLM,自去年年底推出聊天机器人GPT 以来,该公司的技术已经风靡一时。他是这样描述现在发生的事情的:
Hinton 告诉 CNBC:“如果我有 1000 个数字代理,他们都是具有相同权重的精确克隆,每当一个代理学习如何做某事时,他们所有人都会立即知道,因为他们共享权重。” “生物制剂不能做到这一点。因此,相同数字代理的集合可以获得比任何单个生物代理都多得多的知识。这就是为什么 GPT-4 比任何人都知道得多。”
Hinton 甚至在离开谷歌之前就敲响了警钟。在 3 月份播出的哥伦比亚广播公司新闻采访中,欣顿被问及他如何看待“人工智能有可能消灭人类”。他回答说:“这并非不可想象。我要说的就这些。”
Google CEO Sundar Pichai也公开警告过 AI 的风险。他上个月告诉“60 分钟”,社会还没有为即将到来的事情做好准备。与此同时,谷歌也在展示自己的产品,比如自学机器人和它的 GPT 竞争对手 Bard。
但当被问及“变化的速度是否会超过我们的适应能力”时,皮查伊淡化了风险。“我不这么认为。我们是一种具有无限适应性的物种,”他说。
根据 CNBC 查看的一份内部文件,在过去的一年里,欣顿减少了在谷歌的时间。2022 年 3 月,他转为 20% 的全职工作。同年晚些时候,他被分配到 Brain Research 的一个新团队。他最近的职位是副总裁兼工程研究员,向 Google Brain 的 Jeff Dean 汇报工作。
在发给 CNBC 的电子邮件声明中,迪恩表示他感谢 Hinton “他在谷歌十年的贡献”。
“我会想念他的,祝他一切顺利!” 迪恩写道。“作为首批发布 AI 原则的公司之一,我们仍然致力于以负责任的方式对待 AI。我们不断学习以了解新出现的风险,同时也大胆创新。”
Hinton 的离职对 Google Brain 来说是一个引人注目的损失,谷歌大脑是该公司大部分 AI 工作背后的团队。据报道,几年前,谷歌 斥资 4400 万美元 收购了一家由 Hinton 和他的两名学生于 2012 年创办的公司。
他的研究小组在加速语音识别和对象分类的深度学习方面取得了重大突破。他们的技术将有助于形成使用 AI 的新方法,包括GPT 和 Bard。
Google召集了整个公司的团队,将 Bard 的技术和 LLM 整合到更多产品和服务中。上个月,该公司表示将把Brain 与 DeepMind合并,以“显着加快我们在 AI 方面的进步”。
据泰晤士报报道,欣顿说他辞去了在谷歌的工作,这样他就可以自由地谈论人工智能的风险。他告诉该报,“我用通常的借口安慰自己:如果我没有做,其他人就会做。”
Hinton周一在推特上写道:“我离开是为了谈论人工智能的危险,而不考虑这对谷歌的影响。谷歌的行为非常负责任。”