机器智能研究所
机器智能研究所(MIRI)是研究人工智能长期风险的机构,前身为2000年成立的人工智能奇点研究所。其工作从探讨如何加速超越人类水平的人工智能,转向研究这些系统能否遵循人类意图,后来又转向公众沟通及治理。2023年,Malo Bourgon 接任首席执行官,Nate SoaresNate SoaresNate Soares是人工智能安全研究者、机器智能研究所(MIRI)总裁,研究决策理论与AI对齐,并与Eliezer Yudkowsky合著If Anyone Builds It, Everyone Dies。点击查看完整词条 出任总裁。
本页目录6 节
词条资料
2000年至2012年创办与目标转变
Eliezer YudkowskyEliezer YudkowskyEliezer Yudkowsky是美国AI研究者和作家,2000年创立后来更名为Machine Intelligence Research Institute(MIRI)的机构,被视为AI对齐领域的早期奠基者之一;他长期警告超级智能可能导致人类灭绝,主张在全球范围停止大型AI训练,其观点也受到不少研究者批评。点击查看完整词条 与 Brian、Sabine Atkins 于2000年创办人工智能奇点研究所。创办人起先希望加快出现超过人类水平的智能,并认为能力提升也可能带来相应的道德改善。机构后来质疑这一假设,把重点放在如何令高级系统的行为符合人类目标。2006年至2012年间,机构参与创办和组织每年举行的 Singularity Summit。[1][2]
2013年至2020年更名、数学研究与工作坊
2023年至2024年领导层、风险沟通与治理
2026年10月总裁接受播客访问
总裁 Soares 于10月21日发布的《The Most Interesting Thing in AI》接受《大西洋月刊大西洋月刊《大西洋月刊》是1857年在美国波士顿创刊的杂志,后来在华盛顿设立总部。它从发表文学、思想和反奴隶制论述的月刊,发展为兼营纸刊、网站、音频和现场活动的媒体。首任编辑是詹姆斯·拉塞尔·洛厄尔。点击查看完整词条》首席执行官 Nicholas Thompson尼古拉斯·汤普森尼古拉斯·汤普森是美国记者、作家和长跑者,曾任《连线》总编辑,自2021年起担任《大西洋月刊》首席执行官。他共同创办数字叙事出版物The Atavist,也撰写过冷战史与父子长跑回忆录,并主持科技访谈。点击查看完整词条 访问,讨论他对未来十年风险的判断,以及这些判断如何影响自己的长期规划。[6]
关联机构、网站与公开账号
官方网站为 https://intelligence.org/(在新窗口打开) 。[1]
GitHub 账号为 https://github.com/machine-intelligence(在新窗口打开) 。[7]
YouTubeYouTubeYouTube是Google旗下的视频分享与创作者平台,2005年由Steve Chen、Chad Hurley和Jawed Karim创办,2006年被Google收购。平台围绕视频上传、观看与创作者收益,发展出Shorts、YouTube Music、Premium、YouTube TV及儿童产品,总部位于美国加利福尼亚州San Bruno。点击查看完整词条 频道为 https://www.youtube.com/@MIRIBerkeley(在新窗口打开) 。[8]
机器智能研究所 在 FacebookFacebookFacebook(脸书)是 Meta 旗下的社交网络平台,2004年从哈佛校园上线,逐步发展出动态消息、照片与视频分享、群组及 Marketplace 等功能。平台保留 Facebook 名称,母公司在2021年采用 Meta 品牌;两者的用户与财务数据应按各自口径理解。点击查看完整词条 的官方账号为 https://www.facebook.com/MachineIntelligenceResearchInstitute(在新窗口打开) 。[9]
机器智能研究所 在 X 的官方账号为 https://x.com/MIRIBerkeley(在新窗口打开) 。[9]
来源9 个来源
- About the Machine Intelligence Research Institute(在新窗口打开)intelligence.org↑
- MIRI 2024 Mission and Strategy Update(在新窗口打开)intelligence.org↑
- We are now the “Machine Intelligence Research Institute” (MIRI)(在新窗口打开)intelligence.org↑
- Announcing MIRI’s new CEO and leadership team(在新窗口打开)intelligence.org↑
- MIRI Communications Team 2024 Recap(在新窗口打开)intelligence.org↑
- How to Prevent an AI Apocalypse - Nate Soares with Nicholas Thompson(在新窗口打开)podcasts.apple.com↑
- MIRI · GitHub(在新窗口打开)github.com↑
- Machine Intelligence Research Institute(在新窗口打开)youtube.com↑
- The Machine Intelligence Research Institute (MIRI)(在新窗口打开)intelligence.org↑