首页AI 新闻
专家警告:人工智能可能导致人类灭绝

专家警告:人工智能可能导致人类灭绝

好说新闻
好说新闻
2023-05-31 14:30

在Sam Altman伦敦演讲现场外的抗议者

专家(其中包括OpenAI和谷歌Deepmind的负责人)警告说,人工智能可能导致人类的灭绝。

数十名专家在人工智能安全中心的网页上发表的联合声明,声明中写到:“减少人工智能带来的灭绝风险应该是当前全球的紧急议题,与其他大规模的社会风险如大流行病和核战争一样严峻。”

负责开发 ChatGPT 的 OpenAI 首席执行官 Sam Altman、Google DeepMind 首席执行官 Demis Hassabis 以及 Anthropic 的 Dario Amodei 都支持该声明。

AI 安全中心网站列举了一些可能的灾难性情景:

  • 人工智能可能被用作武器 - 例如,药物发现工具可能被用于制造化学武器
  • 由 AI 生成的错误信息可能破坏社会稳定并“破坏集体决策”
  • 人工智能的力量可能越来越集中在越来越少的手中,使“政权通过普遍监视和压制性审查来实施狭隘价值观”
  • 虚弱现象,其中人类依赖 AI,类似于电影《Wall·E》中的情景 早先发出关于超智能 AI 风险警告的 Geoffrey Hinton 博士也支持 AI 安全中心的呼吁。

蒙特利尔大学计算机科学教授 Yoshua Bengio 也在这份联合声明上签了字。(Hinton 博士、Bengio 教授和纽约大学教授 Yann LeCun 常被称为“人工智能教父”,因为他们在该领域的开创性工作,他们共同赢得了 2018 年图灵奖,以表彰在计算机科学领域的杰出贡献。)

然而,同时在 Meta 工作的 LeCun 教授表示,这些末日预言被过度夸大,他在推特上说,“AI 研究人员对这些灾难性预言最常见的反应是捂脸”。

割裂的现实

但同时,AI领域的许多专家同样认为,对 AI 毁灭人类的恐惧是不现实的,而且让人忽略了像偏见之类的问题,这些问题在现有系统中已经是问题了。

普林斯顿大学计算机科学家 Arvind Narayanan 曾表示,科幻灾难场景是不现实的:“目前的 AI 远远没有足够的能力让这些风险成为现实。因此,这让人们对 AI 的短期危害分散了注意力。”

与毁灭人类这个长远问题相比,牛津大学 AI 伦理研究所高级研究员 Elizabeth Renieris ,她更担心与当前的风险更为接近的问题。

她说:“AI 的发展将放大自动化决策制定过程中的偏见、歧视、排斥或其他不公平现象,同时也变得难以理解和无法质疑。”这些现象将“导致虚假信息的数量和传播呈指数级增长,从而破裂现实,侵蚀公众信任,并加剧不平等现象,尤其是对那些处于数字鸿沟错误一方的人。”

Renieris 表示,许多 AI 工具实际上是在“迄今为止的整个人类经验”中“搭便车”。许多 AI 工具受到人类创作内容、文本、艺术和音乐的训练,然后进行模仿,它们的创作者“实际上已经将大量财富和权力从公共领域转移到了少数私人实体手中”。

但 AI 安全中心主任 Dan Hendrycks 说,未来风险和当前问题“不应被看作是对立的”,“解决现在的一些问题对于解决未来的许多风险是有益的。”

超级AI 的努力

自2023年3月以来,关于人工智能所带来的所谓“存在性”威胁的媒体报道一直层出不穷,当时包括特斯拉老板 埃隆·马斯克 在内的专家签署了一封公开信,呼吁停止开发下一代人工智能技术。

那封信问道:“我们是否应该发展出可能最终超过、比我们更聪明、让我们过时并取代我们的非人类思维?”

相反,新的宣传活动有一个非常简短的声明,旨在“展开讨论”。

声明将这一风险与核战争所带来的风险进行了比较。最近,OpenAI在一篇博客文章中提出,超级AI或许可以像核能一样受到监管:“我们可能最终需要类似于IAEA(国际原子能机构)的机构来应对超级智能努力。”

“坐和放松”

Sam Altman 和谷歌首席执行官 Sundar Pichai 最近就 AI 监管问题曾与英国首相 Rishi Sunak 讨论。

在谈到关于 AI 风险的最新警告时,Rishi Sunak 强调了经济和社会的好处。

他说:“你们已经看到,最近 AI 帮助瘫痪的人行走,发现了新的抗生素,但我们需要确保这是在安全可靠的方式下进行的。”他补充道:“这就是为什么上周我与主要 AI 公司的首席执行官们见面,讨论我们需要设置哪些保护措施,应该采取什么样的监管措施来保护我们的安全。”

“人们会担心报告中提到的 AI 带来的生存风险,如大流行病或核战争。”

“我希望他们放心,政府正在非常仔细地研究这个问题。”

Sunak 表示,他最近在七国集团(G7)工业化国家首脑峰会上与其他国家领导人讨论了这个问题,并且将很快会在美国再次提及。

G7 最近成立了一个关于 AI 的工作组。

全部讨论

no data来都来了,坐下聊聊