ABAB Pedia

機器智能研究所

機器智能研究所(MIRI)是研究人工智能長期風險的機構,前身為2000年成立的人工智能奇點研究所。其工作從探討如何加速超越人類水平的人工智能,轉向研究這些系統能否遵循人類意圖,後來又轉向公眾溝通及治理。2023年,Malo Bourgon 接任首席執行官,Nate SoaresNate SoaresNate Soares是人工智能安全研究者、機器智能研究所(MIRI)總裁,研究決策理論與AI對齊,並與Eliezer Yudkowsky合著If Anyone Builds It, Everyone Dies。點擊查看完整詞條 出任總裁。

本頁目錄6 節
詞條資料

創辦與目標轉變

Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美國AI研究者和作家,2000年創立後來更名為Machine Intelligence Research Institute(MIRI)的機構,被視為AI對齊領域的早期奠基者之一;他長期警告超級智能可能導致人類滅絕,主張在全球範圍停止大型AI訓練,其觀點也受到不少研究者批評。點擊查看完整詞條 與 Brian、Sabine Atkins 於2000年創辦人工智能奇點研究所。創辦人起先希望加快出現超過人類水平的智能,並認為能力提升也可能帶來相應的道德改善。機構後來質疑這一假設,把重點放在如何令高級系統的行為符合人類目標。2006年至2012年間,機構參與創辦和組織每年舉行的 Singularity Summit。⁠[1][2]

更名、數學研究與工作坊

2013年1月30日,機構公佈現名,藉此避免與其他使用“Singularity”名稱的組織混淆。接下來的研究著重於對齊問題的數學基礎,舉辦跨領域工作坊,並透過 MIRIx 支持外部團體自行舉辦討論。2017年,團隊嘗試增加工程研究;到2020年,管理層公開表示當時的路線進展不足。⁠[3][1]

領導層、風險溝通與治理

2023年10月,原首席運營官 Malo Bourgon 接掌首席執行官職務。原執行主任 Nate Soares 轉任總裁併留任董事,主要負責方向與策略。2024年1月,Bourgon 公佈新策略,主張政府幹預前沿人工智能訓練,並向公眾與政策制定者介紹機構的憂慮。這裡的風險預測及政策目標屬於 MIRI 的立場。⁠[4][2][5]

總裁接受播客訪問

關聯機構、網站與公開賬號

機器智能研究所 在 X 的官方賬號為 https://x.com/MIRIBerkeley(在新窗口打開) 。⁠[9]

來源9 個來源

  1. About the Machine Intelligence Research Institute(在新窗口打開)intelligence.org↑
  2. MIRI 2024 Mission and Strategy Update(在新窗口打開)intelligence.org↑
  3. We are now the “Machine Intelligence Research Institute” (MIRI)(在新窗口打開)intelligence.org↑
  4. Announcing MIRI’s new CEO and leadership team(在新窗口打開)intelligence.org↑
  5. MIRI Communications Team 2024 Recap(在新窗口打開)intelligence.org↑
  6. How to Prevent an AI Apocalypse - Nate Soares with Nicholas Thompson(在新窗口打開)podcasts.apple.com↑
  7. MIRI · GitHub(在新窗口打開)github.com↑
  8. Machine Intelligence Research Institute(在新窗口打開)youtube.com↑
  9. The Machine Intelligence Research Institute (MIRI)(在新窗口打開)intelligence.org↑