ABAB Pedia

机器智能研究所

机器智能研究所(MIRI)是研究人工智能长期风险的机构,前身为2000年成立的人工智能奇点研究所。其工作从探讨如何加速超越人类水平的人工智能,转向研究这些系统能否遵循人类意图,后来又转向公众沟通及治理。2023年,Malo Bourgon 接任首席执行官,Nate SoaresNate SoaresNate Soares是人工智能安全研究者、机器智能研究所(MIRI)总裁,研究决策理论与AI对齐,并与Eliezer Yudkowsky合著If Anyone Builds It, Everyone Dies。点击查看完整词条 出任总裁。

本页目录6 节
词条资料

创办与目标转变

Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美国AI研究者和作家,2000年创立后来更名为Machine Intelligence Research Institute(MIRI)的机构,被视为AI对齐领域的早期奠基者之一;他长期警告超级智能可能导致人类灭绝,主张在全球范围停止大型AI训练,其观点也受到不少研究者批评。点击查看完整词条 与 Brian、Sabine Atkins 于2000年创办人工智能奇点研究所。创办人起先希望加快出现超过人类水平的智能,并认为能力提升也可能带来相应的道德改善。机构后来质疑这一假设,把重点放在如何令高级系统的行为符合人类目标。2006年至2012年间,机构参与创办和组织每年举行的 Singularity Summit。⁠[1][2]

更名、数学研究与工作坊

2013年1月30日,机构公布现名,借此避免与其他使用“Singularity”名称的组织混淆。接下来的研究着重于对齐问题的数学基础,举办跨领域工作坊,并透过 MIRIx 支持外部团体自行举办讨论。2017年,团队尝试增加工程研究;到2020年,管理层公开表示当时的路线进展不足。⁠[3][1]

领导层、风险沟通与治理

2023年10月,原首席运营官 Malo Bourgon 接掌首席执行官职务。原执行主任 Nate Soares 转任总裁并留任董事,主要负责方向与策略。2024年1月,Bourgon 公布新策略,主张政府干预前沿人工智能训练,并向公众与政策制定者介绍机构的忧虑。这里的风险预测及政策目标属于 MIRI 的立场。⁠[4][2][5]

总裁接受播客访问

关联机构、网站与公开账号

机器智能研究所 在 X 的官方账号为 https://x.com/MIRIBerkeley(在新窗口打开) 。⁠[9]

来源9 个来源

  1. About the Machine Intelligence Research Institute(在新窗口打开)intelligence.org↑
  2. MIRI 2024 Mission and Strategy Update(在新窗口打开)intelligence.org↑
  3. We are now the “Machine Intelligence Research Institute” (MIRI)(在新窗口打开)intelligence.org↑
  4. Announcing MIRI’s new CEO and leadership team(在新窗口打开)intelligence.org↑
  5. MIRI Communications Team 2024 Recap(在新窗口打开)intelligence.org↑
  6. How to Prevent an AI Apocalypse - Nate Soares with Nicholas Thompson(在新窗口打开)podcasts.apple.com↑
  7. MIRI · GitHub(在新窗口打开)github.com↑
  8. Machine Intelligence Research Institute(在新窗口打开)youtube.com↑
  9. The Machine Intelligence Research Institute (MIRI)(在新窗口打开)intelligence.org↑