封面新闻记者 燕磊

(资料图)

近日，人工智能（AI）领域的开拓者杰弗里•辛顿（Geoffrey Hinton）辞去了在谷歌的工作，并公开谈论他对AI的担忧，以及他对AI发展方向的看法。

当地时间5月1日，辛顿在接受《纽约时报》采访时说：“很难看出人类如何能阻止坏人利用AI来做坏事。”辛顿担心这项技术的未来版本会对人类构成真正的威胁。

他在采访中说：“有些人相信这种东西真的可以变得比人类更聪明。”“但大多数人认为这是错误的。我以为是30到50年甚至更长的时间。但是，我不再那么想了。”

辛顿坦言，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。

辛顿称，人工智能不仅会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的。

5月2日，辛顿在CNN节目中表示，如果人工智能变得比人类聪明得多，就会对人类进行操控。人工智能知道怎么编程，就会想办法绕开人类对其设置的限制。

苹果公司联合创始人史蒂夫·沃兹尼亚克也在CNN节目上现身说法，表达他对人工智能散布虚假信息的关切。他说，“如果有人想骗你，利用人工智能技术，欺骗就会变得简单得多。”沃兹尼亚克认为，“或许需要某种类型的法规”对人工智能技术实施监管。

今年3月底，包括马斯克在内的许多科技产业人士联署了一封公开信，呼吁所有AI实验室立即暂停训练人工智能系统至少6个月。辛顿说，“我认为我们没办法阻止人工智能的发展，因此我没有签署这封信。”

辛顿承认，他也不知道未来该如何处理这一问题。

分析认为，辛顿离开谷歌标志着科技行业的一个重要时刻，他从“人工智能先驱”转变为“末日先知”，凸显了人们对人工智能风险的日益关注以及行业透明度和监管的必要性。

现年75岁的辛顿在神经网络领域长期从事开创性工作，为人工智能技术的发展奠定基础，因此在业内被称为“人工智能教父”。

辛顿终身从事学术研究，他对人工智能的信仰推动了他的职业生涯。辛顿曾是卡内基梅隆大学的计算机科学教授，但因为不愿接受五角大楼的资助而离开大学前往加拿大。美国大多数AI项目都由国防部资助，而辛顿强烈反对在战场上使用人工智能。

2012年，辛顿与他在多伦多的两名学生建立了一个神经网络公司，可以分析数千张照片并自学识别常见物体。谷歌后来斥资4400万美元收购了该公司，其中一名学生后来成为了OpenAI的首席科学家。

辛顿长期坚信，神经网络是机器理解和生成语言的一种强大方式，但它不如人类处理语言的方式。然而，随着去年谷歌和OpenAI使用大量数据构建系统，诞生了Bard和ChatGPT这样的AI聊天系统，辛顿的观点发生了变化。尽管他仍然认为这些系统在某些方面不如人脑，但它们在其他方面可以使人类智能黯然失色。

辛顿最为人所知的是AI深度学习的快速发展，它使用被称为神经网络的数学结构来从海量数据集中提取模式。和其他专家一样，他认为大型科技公司之间开发更强大人工智能的竞赛只会升级为全球竞赛。

辛顿在神经网络方面的开创性工作塑造了为当今许多产品提供动力的人工智能系统。由于对神经网路研究的贡献，辛顿获得了2018年的图灵奖。