ABAB Pedia

Nate Soares

Nate Soares是人工智能安全研究者、机器智能研究所(MIRI)总裁,研究决策理论与AI对齐,并与Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美国AI研究者和作家,2000年创立后来更名为Machine Intelligence Research Institute(MIRI)的机构,被视为AI对齐领域的早期奠基者之一;他长期警告超级智能可能导致人类灭绝,主张在全球范围停止大型AI训练,其观点也受到不少研究者批评。点击查看完整词条合著If Anyone Builds It, Everyone Dies。

本页目录17 节
词条资料

早年:成长与阅读

Soares在接受Max Raskin采访时说,自己在佛蒙特州乡村长大;《Ender’s Game》及Vernor Vinge的小说是他早年接触的科幻作品。⁠[1]

教育:计算机科学与经济学

他在乔治·华盛顿大学获得计算机科学与经济学理学学士学位。⁠[2]

早期职业:软件与研究工作

进入MIRI研究

2013年12月,仍在Google工作的Soares首次参加MIRI研讨会;随后于2014年加入研究团队。他在2015年的自述中介绍了参与研究议程和论文写作的经历。⁠[4]

可纠正性研究

他与Benja Fallenstein、Eliezer Yudkowsky及Stuart Armstrong合著《Corrigibility》,研究AI系统如何接受人类纠正或关闭,而不主动阻止或促成关闭操作。论文获AAAI 2015的AI and Ethics研讨会接收。⁠[5]

接任执行主任

2015年6月,他接替Luke Muehlhauser担任MIRI执行主任。在接任前的介绍中,他把扩展研究团队列为优先事项之一。⁠[4]

理想化决策理论

他与Benja Fallenstein合著《Toward Idealized Decision Theory》,讨论传统决策理论处理策略选择与逻辑反事实时的不足,并提出进一步形式化的研究问题。⁠[6]

逻辑归纳

他参与合著《Logical Induction》。论文研究计算资源有限的推理者,如何在数学命题尚未得到证明或反证时赋予概率,并随着推理推进修正这些判断。⁠[7]

函数决策理论

他与Eliezer Yudkowsky提出函数决策理论,把决策视为数学函数的输出,并与因果决策理论及证据决策理论比较。这属于形式决策理论研究。⁠[8]

转任总裁

2023年10月10日,MIRI公布领导层调整:Malo Bourgon任首席执行官,Soares由执行主任转任总裁并继续担任董事。他负责战略和研究;机构同时提高公众沟通工作的优先级。⁠[9]

出版AI风险著作

2025年9月16日,他与Eliezer Yudkowsky合著的《If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All》出版。两位作者主张,超人类AI可能造成无法挽回的生存风险,因此应阻止相关开发;这一论点是作者立场。⁠[10]

书评争议

Adam Becker在The Atlantic书评中批评该书对超级智能的推断,认为末日叙事会分散对现实AI危害的关注。⁠[11]

风险认知调查

风险预测与个人选择

Nicholas Thompson在10月24日发布的采访介绍中说,Soares认为AI在2036年前使人类灭绝的可能性超过一半,并表示自己目前不为退休储蓄。这是Soares的主观风险判断及个人选择,不能视为已证实的未来事件。⁠[13]

机器意识讨论

11月1日,Soares回应穆斯塔法·苏莱曼穆斯塔法·苏莱曼穆斯塔法·苏莱曼(Mustafa Suleyman)是英国人工智能创业者、微软AI首席执行官,曾联合创办DeepMind及Inflection AI。点击查看完整词条关于AI意识的讨论,赞同人类尚未准备好面对有意识的机器,但对目前尚未造出这类机器的判断没有同样把握。⁠[14]

个人写作:Minding Our Way

他运营个人博客Minding Our Way,发表包括Replacing Guilt在内的系列文章,并说明个人博客不代表MIRI观点。⁠[15]

来源

  1. Interview with Nate Soares(在新窗口打开)
  2. Nate Soares: we are doomed (probably)(在新窗口打开)
  3. Nate Soares(在新窗口打开)
  4. Introductions(在新窗口打开)
  5. New paper: “Corrigibility”(在新窗口打开)
  6. Toward Idealized Decision Theory(在新窗口打开)
  7. Logical Induction(在新窗口打开)
  8. Functional Decision Theory: A New Theory of Instrumental Rationality(在新窗口打开)
  9. Announcing MIRI’s new CEO and leadership team(在新窗口打开)
  10. If Anyone Builds It, Everyone Dies(在新窗口打开)
  11. The Useful Idiots of AI Doomsaying(在新窗口打开)
  12. Views on AI Existential Risk Before and After a Public Event at Harvard University(在新窗口打开)
  13. Nicholas Thompson on X (October 24, 2026)(在新窗口打开)
  14. Nate Soares on X (November 1, 2026)(在新窗口打开)
  15. About Me(在新窗口打开)