Nate Soares
Nate Soares是人工智能安全研究者、机器智能研究所(MIRI)总裁,研究决策理论与AI对齐,并与Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美国AI研究者和作家,2000年创立后来更名为Machine Intelligence Research Institute(MIRI)的机构,被视为AI对齐领域的早期奠基者之一;他长期警告超级智能可能导致人类灭绝,主张在全球范围停止大型AI训练,其观点也受到不少研究者批评。点击查看完整词条合著If Anyone Builds It, Everyone Dies。
本页目录17 节
词条资料
早年:成长与阅读
Soares在接受Max Raskin采访时说,自己在佛蒙特州乡村长大;《Ender’s Game》及Vernor Vinge的小说是他早年接触的科幻作品。[1]
教育:计算机科学与经济学
他在乔治·华盛顿大学获得计算机科学与经济学理学学士学位。[2]
早期职业:软件与研究工作
加入MIRI前,他曾在GoogleGoogleGoogle是一家美国科技公司,由Larry Page与Sergey Brin创办,1998年注册成立,2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条及微软MicrosoftMicrosoft(微软)是由 Bill Gates 和 Paul Allen 于1975年创办、总部位于美国华盛顿州雷德蒙德的科技公司,业务涵盖 Windows、Microsoft 365、Azure、企业软件、人工智能、游戏和设备。点击查看完整词条担任软件工程师,在美国国家标准与技术研究院(NIST)担任研究助理,并为美国国防部从事合同工作。[3]
2013—2014年进入MIRI研究
2013年12月,仍在Google工作的Soares首次参加MIRI研讨会;随后于2014年加入研究团队。他在2015年的自述中介绍了参与研究议程和论文写作的经历。[4]
2014年可纠正性研究
他与Benja Fallenstein、Eliezer Yudkowsky及Stuart Armstrong合著《Corrigibility》,研究AI系统如何接受人类纠正或关闭,而不主动阻止或促成关闭操作。论文获AAAI 2015的AI and Ethics研讨会接收。[5]
2015年接任执行主任
2015年6月,他接替Luke Muehlhauser担任MIRI执行主任。在接任前的介绍中,他把扩展研究团队列为优先事项之一。[4]
2015年理想化决策理论
他与Benja Fallenstein合著《Toward Idealized Decision Theory》,讨论传统决策理论处理策略选择与逻辑反事实时的不足,并提出进一步形式化的研究问题。[6]
2016年逻辑归纳
他参与合著《Logical Induction》。论文研究计算资源有限的推理者,如何在数学命题尚未得到证明或反证时赋予概率,并随着推理推进修正这些判断。[7]
2017年函数决策理论
他与Eliezer Yudkowsky提出函数决策理论,把决策视为数学函数的输出,并与因果决策理论及证据决策理论比较。这属于形式决策理论研究。[8]
2023年转任总裁
2023年10月10日,MIRI公布领导层调整:Malo Bourgon任首席执行官,Soares由执行主任转任总裁并继续担任董事。他负责战略和研究;机构同时提高公众沟通工作的优先级。[9]
2025年9月出版AI风险著作
2025年9月16日,他与Eliezer Yudkowsky合著的《If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All》出版。两位作者主张,超人类AI可能造成无法挽回的生存风险,因此应阻止相关开发;这一论点是作者立场。[10]
2025年9月书评争议
Adam Becker在The Atlantic书评中批评该书对超级智能的推断,认为末日叙事会分散对现实AI危害的关注。[11]
2026年3月风险认知调查
他与Greg Kestin发表预印本,比较哈佛大学Harvard UniversityHarvard University(哈佛大学)是位于美国马萨诸塞州的私立研究型大学,1636年由马萨诸塞湾殖民地议会批准设立,1639年以早期捐助人 John Harvard 命名。学校以剑桥、波士顿 Allston 和 Longwood 为主要校区,设 Harvard College、本科以外的专业与研究生学院及 Radcliffe 高等研究院。学校由 Harvard Corporation 与 Board of Overseers 两个治理机构共同履职;截至2026年10月,校长为 Alan M. Garber。2025财年末捐赠基金规模为569亿美元。点击查看完整词条一场公开活动前后89名配对受访者的AI风险判断。论文报告活动后的风险感知上升;这反映自愿参加者的看法变化,不是对实际灭绝概率或总体公众意见的测量。[12]
2026年10月风险预测与个人选择
Nicholas Thompson在10月24日发布的采访介绍中说,Soares认为AI在2036年前使人类灭绝的可能性超过一半,并表示自己目前不为退休储蓄。这是Soares的主观风险判断及个人选择,不能视为已证实的未来事件。[13]
2026年11月机器意识讨论
11月1日,Soares回应穆斯塔法·苏莱曼穆斯塔法·苏莱曼穆斯塔法·苏莱曼(Mustafa Suleyman)是英国人工智能创业者、微软AI首席执行官,曾联合创办DeepMind及Inflection AI。点击查看完整词条关于AI意识的讨论,赞同人类尚未准备好面对有意识的机器,但对目前尚未造出这类机器的判断没有同样把握。[14]
个人写作:Minding Our Way
他运营个人博客Minding Our Way,发表包括Replacing Guilt在内的系列文章,并说明个人博客不代表MIRI观点。[15]
来源
- Interview with Nate Soares(在新窗口打开)
- Nate Soares: we are doomed (probably)(在新窗口打开)
- Nate Soares(在新窗口打开)
- Introductions(在新窗口打开)
- New paper: “Corrigibility”(在新窗口打开)
- Toward Idealized Decision Theory(在新窗口打开)
- Logical Induction(在新窗口打开)
- Functional Decision Theory: A New Theory of Instrumental Rationality(在新窗口打开)
- Announcing MIRI’s new CEO and leadership team(在新窗口打开)
- If Anyone Builds It, Everyone Dies(在新窗口打开)
- The Useful Idiots of AI Doomsaying(在新窗口打开)
- Views on AI Existential Risk Before and After a Public Event at Harvard University(在新窗口打开)
- Nicholas Thompson on X (October 24, 2026)(在新窗口打开)
- Nate Soares on X (November 1, 2026)(在新窗口打开)
- About Me(在新窗口打开)