NIKKEI——日本经济新闻中文版

接受采访的杰弗里·辛顿（Geoffrey Hinton，田中克佳摄）

      人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（Geoffrey Hinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。

      记者：您一度担任AI研发的重要职务却最终离开谷歌，原因是什么？

  
      辛顿：这是因为我希望离职后自由地传播自己相信的东西。我在2023年4月与作为上司的首席科学家杰夫·迪恩（Jeff Dean）交谈。我提出了AI有可能带来事关人类生存危机的看法。

      他有意挽留我说：“留在谷歌研究AI的安全对策怎么样？”。我非常尊敬他，但拒绝了提议。即使不会被明确限制，如果身为谷歌的一员，讲话时也不得不考虑到公司的利益。

      记者：您为什么认为AI有可能威胁人类？
   

      辛顿：这是因为如果给AI设定目标，作为解决对策，它可能会找出对人类不利的方法。比方说，假设向AI下达遏制气候变化的指令。AI会意识到为了达到目的而有必要将人类清除，我担心真的会付诸实施的风险。

      今后还可能会出现不同的AI相互竞争的局面。例如，如果AI之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对通过竞争变得更聪明的AI，我们人类将落在后面。

      很多人主张，要防止AI失控，只要关掉电源开关就可以。但超越人类智慧的AI可以用语言操纵我们。或许会试图说服我们不要关掉开关。

      记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）在2023年11月曾试图解雇该公司首席执行官(CEO) 山姆·奥特曼（Sam Altman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。

      辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。

      以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。