Nate Soares
Nate Soares是人工智能安全研究者、機器智能研究所(MIRI)總裁,研究決策理論與AI對齊,並與Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美國AI研究者和作家,2000年創立後來更名為Machine Intelligence Research Institute(MIRI)的機構,被視為AI對齊領域的早期奠基者之一;他長期警告超級智能可能導致人類滅絕,主張在全球範圍停止大型AI訓練,其觀點也受到不少研究者批評。點擊查看完整詞條合著If Anyone Builds It, Everyone Dies。
本頁目錄17 節
詞條資料
早年:成長與閱讀
Soares在接受Max Raskin採訪時說,自己在佛蒙特州鄉村長大;《Ender’s Game》及Vernor Vinge的小說是他早年接觸的科幻作品。[1]
教育:計算機科學與經濟學
他在喬治·華盛頓大學獲得計算機科學與經濟學理學學士學位。[2]
早期職業:軟件與研究工作
加入MIRI前,他曾在GoogleGoogleGoogle是一家美國科技公司,由Larry Page與Sergey Brin創辦,1998年註冊成立,2015年成為Alphabet旗下企業。其業務涵蓋互聯網搜索、廣告、軟件平臺、雲計算及人工智能。點擊查看完整詞條及微軟MicrosoftMicrosoft(微軟)是由 Bill Gates 和 Paul Allen 於1975年創辦、總部位於美國華盛頓州雷德蒙德的科技公司,業務涵蓋 Windows、Microsoft 365、Azure、企業軟件、人工智能、遊戲和設備。點擊查看完整詞條擔任軟件工程師,在美國國家標準與技術研究院(NIST)擔任研究助理,併為美國國防部從事合同工作。[3]
2013—2014年進入MIRI研究
2013年12月,仍在Google工作的Soares首次參加MIRI研討會;隨後於2014年加入研究團隊。他在2015年的自述中介紹了參與研究議程和論文寫作的經歷。[4]
2014年可糾正性研究
他與Benja Fallenstein、Eliezer Yudkowsky及Stuart Armstrong合著《Corrigibility》,研究AI系統如何接受人類糾正或關閉,而不主動阻止或促成關閉操作。論文獲AAAI 2015的AI and Ethics研討會接收。[5]
2015年接任執行主任
2015年6月,他接替Luke Muehlhauser擔任MIRI執行主任。在接任前的介紹中,他把擴展研究團隊列為優先事項之一。[4]
2015年理想化決策理論
他與Benja Fallenstein合著《Toward Idealized Decision Theory》,討論傳統決策理論處理策略選擇與邏輯反事實時的不足,並提出進一步形式化的研究問題。[6]
2016年邏輯歸納
他參與合著《Logical Induction》。論文研究計算資源有限的推理者,如何在數學命題尚未得到證明或反證時賦予概率,並隨著推理推進修正這些判斷。[7]
2017年函數決策理論
他與Eliezer Yudkowsky提出函數決策理論,把決策視為數學函數的輸出,並與因果決策理論及證據決策理論比較。這屬於形式決策理論研究。[8]
2023年轉任總裁
2023年10月10日,MIRI公佈領導層調整:Malo Bourgon任首席執行官,Soares由執行主任轉任總裁併繼續擔任董事。他負責戰略和研究;機構同時提高公眾溝通工作的優先級。[9]
2025年9月出版AI風險著作
2025年9月16日,他與Eliezer Yudkowsky合著的《If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All》出版。兩位作者主張,超人類AI可能造成無法挽回的生存風險,因此應阻止相關開發;這一論點是作者立場。[10]
2025年9月書評爭議
Adam Becker在The Atlantic書評中批評該書對超級智能的推斷,認為末日敘事會分散對現實AI危害的關注。[11]
2026年3月風險認知調查
他與Greg Kestin發表預印本,比較哈佛大學Harvard UniversityHarvard University(哈佛大學)是位於美國馬薩諸塞州的私立研究型大學,1636年由馬薩諸塞灣殖民地議會批准設立,1639年以早期捐助人 John Harvard 命名。學校以劍橋、波士頓 Allston 和 Longwood 為主要校區,設 Harvard College、本科以外的專業與研究生學院及 Radcliffe 高等研究院。學校由 Harvard Corporation 與 Board of Overseers 兩個治理機構共同履職;截至2026年10月,校長為 Alan M. Garber。2025財年末捐贈基金規模為569億美元。點擊查看完整詞條一場公開活動前後89名配對受訪者的AI風險判斷。論文報告活動後的風險感知上升;這反映自願參加者的看法變化,不是對實際滅絕概率或總體公眾意見的測量。[12]
2026年10月風險預測與個人選擇
Nicholas Thompson在10月24日發佈的採訪介紹中說,Soares認為AI在2036年前使人類滅絕的可能性超過一半,並表示自己目前不為退休儲蓄。這是Soares的主觀風險判斷及個人選擇,不能視為已證實的未來事件。[13]
2026年11月機器意識討論
11月1日,Soares回應穆斯塔法·蘇萊曼穆斯塔法·蘇萊曼穆斯塔法·蘇萊曼(Mustafa Suleyman)是英國人工智能創業者、微軟AI首席執行官,曾聯合創辦DeepMind及Inflection AI。點擊查看完整詞條關於AI意識的討論,贊同人類尚未準備好面對有意識的機器,但對目前尚未造出這類機器的判斷沒有同樣把握。[14]
個人寫作:Minding Our Way
他運營個人博客Minding Our Way,發表包括Replacing Guilt在內的系列文章,並說明個人博客不代表MIRI觀點。[15]
來源
- Interview with Nate Soares(在新窗口打開)
- Nate Soares: we are doomed (probably)(在新窗口打開)
- Nate Soares(在新窗口打開)
- Introductions(在新窗口打開)
- New paper: “Corrigibility”(在新窗口打開)
- Toward Idealized Decision Theory(在新窗口打開)
- Logical Induction(在新窗口打開)
- Functional Decision Theory: A New Theory of Instrumental Rationality(在新窗口打開)
- Announcing MIRI’s new CEO and leadership team(在新窗口打開)
- If Anyone Builds It, Everyone Dies(在新窗口打開)
- The Useful Idiots of AI Doomsaying(在新窗口打開)
- Views on AI Existential Risk Before and After a Public Event at Harvard University(在新窗口打開)
- Nicholas Thompson on X (October 24, 2026)(在新窗口打開)
- Nate Soares on X (November 1, 2026)(在新窗口打開)
- About Me(在新窗口打開)