ABAB Pedia

Nate Soares

Nate Soares是人工智能安全研究者、機器智能研究所(MIRI)總裁,研究決策理論與AI對齊,並與Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美國AI研究者和作家,2000年創立後來更名為Machine Intelligence Research Institute(MIRI)的機構,被視為AI對齊領域的早期奠基者之一;他長期警告超級智能可能導致人類滅絕,主張在全球範圍停止大型AI訓練,其觀點也受到不少研究者批評。點擊查看完整詞條合著If Anyone Builds It, Everyone Dies。

本頁目錄17 節
詞條資料

早年:成長與閱讀

Soares在接受Max Raskin採訪時說,自己在佛蒙特州鄉村長大;《Ender’s Game》及Vernor Vinge的小說是他早年接觸的科幻作品。⁠[1]

教育:計算機科學與經濟學

他在喬治·華盛頓大學獲得計算機科學與經濟學理學學士學位。⁠[2]

早期職業:軟件與研究工作

進入MIRI研究

2013年12月,仍在Google工作的Soares首次參加MIRI研討會;隨後於2014年加入研究團隊。他在2015年的自述中介紹了參與研究議程和論文寫作的經歷。⁠[4]

可糾正性研究

他與Benja Fallenstein、Eliezer Yudkowsky及Stuart Armstrong合著《Corrigibility》,研究AI系統如何接受人類糾正或關閉,而不主動阻止或促成關閉操作。論文獲AAAI 2015的AI and Ethics研討會接收。⁠[5]

接任執行主任

2015年6月,他接替Luke Muehlhauser擔任MIRI執行主任。在接任前的介紹中,他把擴展研究團隊列為優先事項之一。⁠[4]

理想化決策理論

他與Benja Fallenstein合著《Toward Idealized Decision Theory》,討論傳統決策理論處理策略選擇與邏輯反事實時的不足,並提出進一步形式化的研究問題。⁠[6]

邏輯歸納

他參與合著《Logical Induction》。論文研究計算資源有限的推理者,如何在數學命題尚未得到證明或反證時賦予概率,並隨著推理推進修正這些判斷。⁠[7]

函數決策理論

他與Eliezer Yudkowsky提出函數決策理論,把決策視為數學函數的輸出,並與因果決策理論及證據決策理論比較。這屬於形式決策理論研究。⁠[8]

轉任總裁

2023年10月10日,MIRI公佈領導層調整:Malo Bourgon任首席執行官,Soares由執行主任轉任總裁併繼續擔任董事。他負責戰略和研究;機構同時提高公眾溝通工作的優先級。⁠[9]

出版AI風險著作

2025年9月16日,他與Eliezer Yudkowsky合著的《If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All》出版。兩位作者主張,超人類AI可能造成無法挽回的生存風險,因此應阻止相關開發;這一論點是作者立場。⁠[10]

書評爭議

Adam Becker在The Atlantic書評中批評該書對超級智能的推斷,認為末日敘事會分散對現實AI危害的關注。⁠[11]

風險認知調查

風險預測與個人選擇

Nicholas Thompson在10月24日發佈的採訪介紹中說,Soares認為AI在2036年前使人類滅絕的可能性超過一半,並表示自己目前不為退休儲蓄。這是Soares的主觀風險判斷及個人選擇,不能視為已證實的未來事件。⁠[13]

機器意識討論

11月1日,Soares回應穆斯塔法·蘇萊曼穆斯塔法·蘇萊曼穆斯塔法·蘇萊曼(Mustafa Suleyman)是英國人工智能創業者、微軟AI首席執行官,曾聯合創辦DeepMind及Inflection AI。點擊查看完整詞條關於AI意識的討論,贊同人類尚未準備好面對有意識的機器,但對目前尚未造出這類機器的判斷沒有同樣把握。⁠[14]

個人寫作:Minding Our Way

他運營個人博客Minding Our Way,發表包括Replacing Guilt在內的系列文章,並說明個人博客不代表MIRI觀點。⁠[15]

來源

  1. Interview with Nate Soares(在新窗口打開)
  2. Nate Soares: we are doomed (probably)(在新窗口打開)
  3. Nate Soares(在新窗口打開)
  4. Introductions(在新窗口打開)
  5. New paper: “Corrigibility”(在新窗口打開)
  6. Toward Idealized Decision Theory(在新窗口打開)
  7. Logical Induction(在新窗口打開)
  8. Functional Decision Theory: A New Theory of Instrumental Rationality(在新窗口打開)
  9. Announcing MIRI’s new CEO and leadership team(在新窗口打開)
  10. If Anyone Builds It, Everyone Dies(在新窗口打開)
  11. The Useful Idiots of AI Doomsaying(在新窗口打開)
  12. Views on AI Existential Risk Before and After a Public Event at Harvard University(在新窗口打開)
  13. Nicholas Thompson on X (October 24, 2026)(在新窗口打開)
  14. Nate Soares on X (November 1, 2026)(在新窗口打開)
  15. About Me(在新窗口打開)