“人工智能教父”退出谷歌并警告世界即将发生的“人工智能驱动”危机 | 零对冲

这位“人工智能教父”辞去了在谷歌工作了十多年的职位。他加入了越来越多的批评者行列，他们警告人工智能系统对人类构成的生存风险。

周一，谷歌计算机科学家 Geoffrey Hinton 在推特上写道：

“今天在纽约时报，凯德·梅茨暗示_ 我离开谷歌 是为了批评谷歌。实际上， 我离开是为了谈论人工智能的危险，而不考虑这对谷歌的影响。谷歌的行为非常负责任。”_

在接受纽约时报采访时 ，欣顿表示，只有在离开谷歌后，他才能公开谈论人工智能的危险。

他仍然 认为这些系统在某些方面不如人脑_ ，但他认为它们在其他方面使人类智能黯然失色。“也许这些系统中发生的事情，”他说，“实际上比大脑中发生的事情要好得多。”_

他认为，随着 公司改进他们的人工智能系统，它们会变得越来越危险。“看看五年前的情况和现在的情况，”他谈到人工智能技术时说。“取差值，向前传播， 太可怕了。”

他说，直到去年，谷歌一直是该技术的“适当管家”，小心翼翼地不发布可能造成伤害的东西。但现在微软已经通过聊天机器人增强了其 Bing 搜索引擎——挑战谷歌的核心业务——谷歌正在竞相部署同类技术。 Hinton 博士说，科技巨头陷入了一场可能无法停止的竞争。-纽约时报

他最直接的担忧之一是互联网将充斥着虚假视频、照片和新闻，普通人将“无法再知道什么是真实的”。

Hinton 担心自动化会扰乱就业市场。聊天机器人，如 OpenAI 的 ChatGPT，已经可以取代个人助理、翻译和其他处理日常任务的人。

“它消除了苦差事，”他说，并补充说，“它可能消除的不仅仅是这些。”

高盛 (Goldman Sachs)最近的一份研究报告预测，人工智能可能导致 美国和欧洲的高薪、非卑微工人裁员约 3 亿人 。 正如高盛首席经济学家 Jan Hatzius 所说：

“使用美国和欧洲的职业任务数据， 我们发现大约三分之二的当前工作都暴露在某种程度的 AI 自动化中，而生成式 AI 最多可以替代当前工作的四分之一。推断我们的估计全球表明，生成式 AI 可以使相当于 3 亿个全职工作岗位实现自动化”，因为“多达三分之二的职业可以通过 AI 实现部分自动化”。

周一， IBM 首席执行官 Arvind Krishna 表示，人工智能可能会在未来五年内取代 30% 的后台工作。

回到 Hinton，他继续警告 AI 最终将超越人类智能：

“这种东西实际上可以变得比人更聪明的想法——有几个人相信了。

“但大多数人认为它还很遥远。我认为它还很遥远。我认为它是 30 到 50 年甚至更长的时间。显然，我不再这么认为了。 ”

他说他没有在 3 月份签署这封信，当时包括Elon Musk、Steve Wozniak和 AI 先驱 Yoshua Bengio在内的 1,000 多名技术领袖 呼吁在六个月内暂停开发比 GPT-4 更强大的新 AI 工具。那是因为他不想在为谷歌工作时公开批评大型科技公司。

2018 年，Hinton 和另外两位同事因其在神经网络方面的工作而获得图灵奖，即“诺贝尔计算奖”。谷歌于 2018 年以 4400 万美元的价格收购了他的公司，该公司开发了强大的技术，促成了聊天机器人的诞生。

在另一次采访中，欣顿告诉BBC 新闻，“我得出的结论是，我们正在开发的智能与我们拥有的智能非常不同。”

“最大的区别在于，对于数字系统，你有许多相同的权重集，相同的世界模型。

“所有这些副本都可以单独学习，但会立即分享他们的知识。所以就好像你有 10,000 个人，每当一个人学到了什么，每个人都会自动知道。这就是这些聊天机器人比任何人知道的更多的原因。”

他看到的最重大风险之一是威权领导人可以使用人工智能技术“操纵”群众。

Hinton 的担忧可能来得有点晚，因为该技术已经投入使用。过去，工程师和科学家在核能和生物化学方面也表达了类似的担忧。世界最终将不可避免地面临人工智能驱动的危机。