顶级人工智能CEO和专家提出人工智能的 "灭顶之灾

) 顶级人工智能(，包括OpenAI首席执行官Sam Altman在内的高管周二与专家和教授一起提出了 "人工智能带来的灭绝风险"，他们敦促政策制定者将其与大流行病和核战争带来的风险等同起来。

(link) "减轻人工智能带来的灭绝风险应该与大流行病和核战争等其他社会规模的风险一样，成为全球优先事项，"350多名签名者在一封由非营利的人工智能安全中心(CAIS)。

除了奥特曼，他们还包括人工智能公司DeepMind和Anthropic的首席执行官，以及来自微软 MSFT 和谷歌 GOOG。

他们中还有Geoffrey Hinton和Yoshua Bengio--三位所谓的 "人工智能教父 "中的两位，因其在深度学习方面的工作而获得2018年图灵奖--以及来自从哈佛到中国清华大学等机构的教授们。

CAIS的一份声明 (link)，特别指出Meta META，人工智能的第三位教父Yann LeCun工作的地方，没有签署这封信。

"CAIS主任Dan Hendrycks说："我们要求许多Meta公司的员工签名。美达公司没有立即回应评论请求。

这封信恰逢美国-欧盟贸易和技术委员会在瑞典举行会议，预计政治家们将谈论监管人工智能的问题 (link)。

埃隆-马斯克和一群人工智能专家和行业高管是4月份第一批 (link)，提出了对社会的潜在风险。

"我们已经向马斯克发出了邀请()，希望他能在本周签署，"Hendrycks说。

人工智能的最新发展创造了一些工具，支持者称这些工具可用于从医疗诊断到撰写法律摘要的各种应用，但这引发了人们的担忧， (link)，该技术可能导致侵犯隐私，为错误的信息运动提供动力，并导致 "智能机器 "为自己思考的问题。

这一警告是在非营利性的未来生命研究所(FLI)，发表了一封类似的公开信，由马斯克和另外数百人签署，要求紧急暂停先进的人工智能研究，并指出对人类的风险。

"我们的信使暂停成为主流，而这使灭绝成为主流，"FLI主席Max Tegmark说，他也在最近的信上签名。"现在，一场建设性的公开对话终于可以开始了。"

人工智能先驱辛顿早些时候告诉路透 (link)，人工智能可能对人类构成比气候变化 "更紧迫 "的威胁。

上周，OpenAI首席执行官Sam Altman提到欧盟人工智能--首次为人工智能建立法规的努力--是过度监管，并威胁要离开欧洲。在政治家们的批评 (link)，他在几天内扭转了 (link) 他的立场。

在他的ChatGPT聊天机器人风靡全球之后，奥特曼已经成为人工智能的代言人。欧盟委员会主席乌苏拉-冯德莱恩(Ursula von der Leyen)将于周四会见 (link) Altman，欧盟行业主管Thierry Breton将于下个月在旧金山会见他。