Eliezer Yudkowsky

2000年，他创立Singularity Institute for Artificial Intelligence（SIAI），最初目标是建造人工超级智能，后来转而关注先进AI的风险。⁠[1]

他在芝加哥长大，八年级后离开学校，靠自学掌握计算机科学；2005年迁居旧金山湾区，致力于研究与人类价值一致的“friendly AI”（友好AI）。⁠[2]

2010年，他开始连载Harry Potter同人小说Harry Potter and the Methods of Rationality，希望借此介绍理性主义的核心概念；同年，他把DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究机构，2023年4月由2014年被 Google 收购的 DeepMind 与 Google Research 的 Brain 团队合并而成，由 Demis Hassabis 任首席执行官。它开发了 AlphaGo、AlphaFold 和 Gemini 系列模型，Hassabis 与 John Jumper 因 AlphaFold 的蛋白质结构预测工作获得2024年诺贝尔化学奖。点击查看完整词条的创始人介绍给投资人Peter ThielPeter ThielPeter Thiel 是美国企业家和投资人，PayPal 与 Palantir Technologies 的联合创始人，也是 Facebook 的首位外部投资者。他是风险投资机构 Founders Fund 的合伙人，创办了资助年轻人放弃大学去做新事物的 Thiel Fellowship，他公开质疑高等教育、2016年支持特朗普并资助针对 Gawker Media 的诉讼，这些做法引发争议。点击查看完整词条。⁠[2]

到2013年3月，Singularity Institute已更名为Machine Intelligence Research Institute（MIRI）；他是该机构2012年11月一次研究工作坊的四名参与者之一。⁠[3]

2022年6月5日，他在LessWrong发表长文AGI Ruin: A List of Lethalities，逐条列出他认为通用人工智能会导致人类灭亡的理由，并在开头写道：“I have several times failed to write up a well-organized list of reasons why AGI will kill you”（我曾几次没能写出一份条理清楚的清单，说明AGI为何会杀死你）。⁠[4]

2023年3月29日，他在TIMETIMETIME（《时代》）是美国新闻杂志与媒体品牌，1923年3月3日由 Henry Luce 与 Briton Hadden 创刊，总部位于纽约，以年度人物评选和 TIME100 榜单著称。2018年起由 Marc 与 Lynne Benioff 个人拥有；现任首席执行官为 Jessica Sibley，总编辑为 Sam Jacobs。点击查看完整词条发表评论文章The Open Letter on AI Doesn’t Go Far Enough。他是来自美国的决策理论学者，在MIRI领导研究，自2001年起从事通用人工智能对齐研究。⁠[5]

他在文中主张对新的大型AI训练实行“indefinite and worldwide”（无限期且全球性）的暂停，关闭所有大型GPU集群，并称建造超人智能AI最可能的结果是“literally everyone on Earth will die”（地球上真的所有人都会死）。⁠[6]

2023年3月30日，他做客Lex FridmanLex FridmanLex Fridman 是生于苏联、在美国长大的计算机科学家和播客主持人，任 MIT 研究科学家，研究人机交互与自动驾驶。他主持的 Lex Fridman Podcast 以数小时长篇对话著称，嘉宾包括多国领导人和科技企业领袖。点击查看完整词条 Podcast第368期，节目简介称他为研究超级智能AI的研究者、作家和哲学家；节目时间轴涉及GPT-4及其开源问题、AGI的定义与对齐、AGI可能如何杀死人类、超级智能、进化、意识、AGI时间表以及给年轻人的建议等话题。⁠[7]

2025年9月16日，Little, Brown and Company出版他与MIRI总裁Nate Soares合著的If Anyone Builds It, Everyone Dies（272页）。书中认为足够聪明的AI会形成与人类冲突的目标，并给出一种可能的灭绝情景。⁠[8]

前美国国防部联合人工智能中心主任John (Jack) N.T. Shanahan在推荐语中表示，他怀疑当前AI发展轨迹会导致人类灭绝，但认为书中的全球防护建议值得认真考虑。⁠[8]

2025年9月18日，该书英国版有声书由Penguin旗下Vintage发行；出版社介绍称两位作者呼吁立即停止人工超级智能的开发。⁠[9]

Clara Collier在Asterisk发表书评，认为该书比作者以往著作更易读但“significantly less coherent”（明显不够连贯），尤其未论证快速起飞（fast takeoff）这一前提；她提到，他回应称自己的论证并不依赖快速起飞。⁠[1]

截至2026年10月，MIRI官网称他是AI对齐领域的奠基研究者和MIRI联合创始人，曾为The Cambridge Handbook of Artificial Intelligence和Global Catastrophic Risks撰写章节，并入选TIME 2023年AI领域最具影响力100人。⁠[10]

X：公开账号：https://x.com/ESYudkowsky（在新窗口打开）⁠[7]

Machine Intelligence Research Institute：官网：https://intelligence.org/（在新窗口打开）⁠[10]