Eliezer Yudkowsky

2000年，他創立Singularity Institute for Artificial Intelligence（SIAI），最初目標是建造人工超級智能，後來轉而關注先進AI的風險。⁠[1]

他在芝加哥長大，八年級後離開學校，靠自學掌握計算機科學；2005年遷居舊金山灣區，致力於研究與人類價值一致的“friendly AI”（友好AI）。⁠[2]

2010年，他開始連載Harry Potter同人小說Harry Potter and the Methods of Rationality，希望藉此介紹理性主義的核心概念；同年，他把DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究機構，2023年4月由2014年被 Google 收購的 DeepMind 與 Google Research 的 Brain 團隊合併而成，由 Demis Hassabis 任首席執行官。它開發了 AlphaGo、AlphaFold 和 Gemini 系列模型，Hassabis 與 John Jumper 因 AlphaFold 的蛋白質結構預測工作獲得2024年諾貝爾化學獎。點擊查看完整詞條的創始人介紹給投資人Peter ThielPeter ThielPeter Thiel 是美國企業家和投資人，PayPal 與 Palantir Technologies 的聯合創始人，也是 Facebook 的首位外部投資者。他是風險投資機構 Founders Fund 的合夥人，創辦了資助年輕人放棄大學去做新事物的 Thiel Fellowship，他公開質疑高等教育、2016年支持特朗普並資助針對 Gawker Media 的訴訟，這些做法引發爭議。點擊查看完整詞條。⁠[2]

到2013年3月，Singularity Institute已更名為Machine Intelligence Research Institute（MIRI）；他是該機構2012年11月一次研究工作坊的四名參與者之一。⁠[3]

2022年6月5日，他在LessWrong發表長文AGI Ruin: A List of Lethalities，逐條列出他認為通用人工智能會導致人類滅亡的理由，並在開頭寫道：“I have several times failed to write up a well-organized list of reasons why AGI will kill you”（我曾幾次沒能寫出一份條理清楚的清單，說明AGI為何會殺死你）。⁠[4]

2023年3月29日，他在TIMETIMETIME（《時代》）是美國新聞雜誌與媒體品牌，1923年3月3日由 Henry Luce 與 Briton Hadden 創刊，總部位於紐約，以年度人物評選和 TIME100 榜單著稱。2018年起由 Marc 與 Lynne Benioff 個人擁有；現任首席執行官為 Jessica Sibley，總編輯為 Sam Jacobs。點擊查看完整詞條發表評論文章The Open Letter on AI Doesn’t Go Far Enough。他是來自美國的決策理論學者，在MIRI領導研究，自2001年起從事通用人工智能對齊研究。⁠[5]

他在文中主張對新的大型AI訓練實行“indefinite and worldwide”（無限期且全球性）的暫停，關閉所有大型GPU集群，並稱建造超人智能AI最可能的結果是“literally everyone on Earth will die”（地球上真的所有人都會死）。⁠[6]

2023年3月30日，他做客Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人，任 MIT 研究科學家，研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱，嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast第368期，節目簡介稱他為研究超級智能AI的研究者、作家和哲學家；節目時間軸涉及GPT-4及其開源問題、AGI的定義與對齊、AGI可能如何殺死人類、超級智能、進化、意識、AGI時間表以及給年輕人的建議等話題。⁠[7]

2025年9月16日，Little, Brown and Company出版他與MIRI總裁Nate Soares合著的If Anyone Builds It, Everyone Dies（272頁）。書中認為足夠聰明的AI會形成與人類衝突的目標，並給出一種可能的滅絕情景。⁠[8]

前美國國防部聯合人工智能中心主任John (Jack) N.T. Shanahan在推薦語中表示，他懷疑當前AI發展軌跡會導致人類滅絕，但認為書中的全球防護建議值得認真考慮。⁠[8]

2025年9月18日，該書英國版有聲書由Penguin旗下Vintage發行；出版社介紹稱兩位作者呼籲立即停止人工超級智能的開發。⁠[9]

Clara Collier在Asterisk發表書評，認為該書比作者以往著作更易讀但“significantly less coherent”（明顯不夠連貫），尤其未論證快速起飛（fast takeoff）這一前提；她提到，他回應稱自己的論證並不依賴快速起飛。⁠[1]

截至2026年10月，MIRI官網稱他是AI對齊領域的奠基研究者和MIRI聯合創始人，曾為The Cambridge Handbook of Artificial Intelligence和Global Catastrophic Risks撰寫章節，併入選TIME 2023年AI領域最具影響力100人。⁠[10]

X：公開賬號：https://x.com/ESYudkowsky（在新窗口打開）⁠[7]

Machine Intelligence Research Institute：官網：https://intelligence.org/（在新窗口打開）⁠[10]