機器智能研究所
機器智能研究所(MIRI)是研究人工智能長期風險的機構,前身為2000年成立的人工智能奇點研究所。其工作從探討如何加速超越人類水平的人工智能,轉向研究這些系統能否遵循人類意圖,後來又轉向公眾溝通及治理。2023年,Malo Bourgon 接任首席執行官,Nate SoaresNate SoaresNate Soares是人工智能安全研究者、機器智能研究所(MIRI)總裁,研究決策理論與AI對齊,並與Eliezer Yudkowsky合著If Anyone Builds It, Everyone Dies。點擊查看完整詞條 出任總裁。
本頁目錄6 節
詞條資料
2000年至2012年創辦與目標轉變
Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美國AI研究者和作家,2000年創立後來更名為Machine Intelligence Research Institute(MIRI)的機構,被視為AI對齊領域的早期奠基者之一;他長期警告超級智能可能導致人類滅絕,主張在全球範圍停止大型AI訓練,其觀點也受到不少研究者批評。點擊查看完整詞條 與 Brian、Sabine Atkins 於2000年創辦人工智能奇點研究所。創辦人起先希望加快出現超過人類水平的智能,並認為能力提升也可能帶來相應的道德改善。機構後來質疑這一假設,把重點放在如何令高級系統的行為符合人類目標。2006年至2012年間,機構參與創辦和組織每年舉行的 Singularity Summit。[1][2]
2013年至2020年更名、數學研究與工作坊
2023年至2024年領導層、風險溝通與治理
2026年10月總裁接受播客訪問
總裁 Soares 於10月21日發佈的《The Most Interesting Thing in AI》接受《大西洋月刊大西洋月刊《大西洋月刊》是1857年在美國波士頓創刊的雜誌,後來在華盛頓設立總部。它從發表文學、思想和反奴隸制論述的月刊,發展為兼營紙刊、網站、音頻和現場活動的媒體。首任編輯是詹姆斯·拉塞爾·洛厄爾。點擊查看完整詞條》首席執行官 Nicholas Thompson尼古拉斯·湯普森尼古拉斯·湯普森是美國記者、作家和長跑者,曾任《連線》總編輯,自2021年起擔任《大西洋月刊》首席執行官。他共同創辦數字敘事出版物The Atavist,也撰寫過冷戰史與父子長跑回憶錄,並主持科技訪談。點擊查看完整詞條 訪問,討論他對未來十年風險的判斷,以及這些判斷如何影響自己的長期規劃。[6]
關聯機構、網站與公開賬號
官方網站為 https://intelligence.org/(在新窗口打開) 。[1]
GitHub 賬號為 https://github.com/machine-intelligence(在新窗口打開) 。[7]
YouTubeYouTubeYouTube是Google旗下的視頻分享與創作者平臺,2005年由Steve Chen、Chad Hurley和Jawed Karim創辦,2006年被Google收購。平臺圍繞視頻上傳、觀看與創作者收益,發展出Shorts、YouTube Music、Premium、YouTube TV及兒童產品,總部位於美國加利福尼亞州San Bruno。點擊查看完整詞條 頻道為 https://www.youtube.com/@MIRIBerkeley(在新窗口打開) 。[8]
機器智能研究所 在 FacebookFacebookFacebook(臉書)是 Meta 旗下的社交網絡平臺,2004年從哈佛校園上線,逐步發展出動態消息、照片與視頻分享、群組及 Marketplace 等功能。平臺保留 Facebook 名稱,母公司在2021年採用 Meta 品牌;兩者的用戶與財務數據應按各自口徑理解。點擊查看完整詞條 的官方賬號為 https://www.facebook.com/MachineIntelligenceResearchInstitute(在新窗口打開) 。[9]
機器智能研究所 在 X 的官方賬號為 https://x.com/MIRIBerkeley(在新窗口打開) 。[9]
來源9 個來源
- About the Machine Intelligence Research Institute(在新窗口打開)intelligence.org↑
- MIRI 2024 Mission and Strategy Update(在新窗口打開)intelligence.org↑
- We are now the “Machine Intelligence Research Institute” (MIRI)(在新窗口打開)intelligence.org↑
- Announcing MIRI’s new CEO and leadership team(在新窗口打開)intelligence.org↑
- MIRI Communications Team 2024 Recap(在新窗口打開)intelligence.org↑
- How to Prevent an AI Apocalypse - Nate Soares with Nicholas Thompson(在新窗口打開)podcasts.apple.com↑
- MIRI · GitHub(在新窗口打開)github.com↑
- Machine Intelligence Research Institute(在新窗口打開)youtube.com↑
- The Machine Intelligence Research Institute (MIRI)(在新窗口打開)intelligence.org↑