ABAB Pedia

Dario Amodei

Dario Amodei 是人工智能研究人员、Anthropic 联合创始人兼首席执行官。他接受过物理学和生物物理学训练,曾在百度、Google Brain 与 OpenAIOpenAIOpenAI是2015年创立的人工智能研究与产品机构,开发GPT系列模型、ChatGPT、Codex及开发者API,并开展图像、语音、视频与智能代理研究。2025年重组后,非营利的OpenAI Foundation继续控制营利主体OpenAI Group PBC。其发展涉及大规模融资与算力合作,也伴随治理、版权、隐私及人工智能安全争议。点击查看完整词条 从事研究,并在 OpenAI 负责包括 GPT-2、GPT-3 在内的研究工作。其职业活动涵盖大模型开发、人工智能安全、可解释性与公共政策。

本页目录11
词条资料

早期教育与生物物理研究

Amodei 本科就读于斯坦福大学,后在普林斯顿大学开展物理学与生物物理学博士研究,并于2007年获选赫兹基金会学者。他研究神经回路的集体行为,结合统计力学模型与神经活动记录方法。[1][2]

博士毕业后,他在斯坦福大学医学院从事博士后研究。2012年,赫兹基金会将博士论文奖授予他等三人,表彰其关于神经回路电生理测量与集体行为的工作。[2][3]

2014—2015年:语音识别与规模化训练

据他在 Lex Fridman 访谈中的回忆,2014年底,他进入百度的人工智能研究团队,与 Andrew Ng 等人从事语音识别。在这一阶段,他开始观察模型规模、数据量和训练投入增加与性能改善之间的联系。[4]

2015年12月公开的 Deep Speech 2 论文将他列为作者之一。研究以端到端神经网络处理英语和普通话语音识别,并讨论如何利用高性能计算提高训练效率及支持低延迟部署。[5]

2016—2020年:Google Brain、OpenAI与安全研究

在加入 OpenAI 之前,Amodei 曾任 Google Brain 高级研究科学家。在 OpenAI,他担任研究副总裁,参与确定研究方向,并领导 GPT-2、GPT-3 等大语言模型的研发。[2][6]

2016年,他与 Chris Olah、Jacob Steinhardt、Paul Christiano、John SchulmanJohn SchulmanJohn Schulman 是人工智能研究者,Thinking Machines Lab 共同创始人兼首席科学家、OpenAI 共同创始人。他的研究涉及深度强化学习和 AI 对齐,是 TRPO、GAE、PPO 等算法论文的主要作者之一,曾领导参与 ChatGPT 开发的强化学习团队,并在 Anthropic 从事对齐研究。点击查看完整词条、Dan Mané 共同发表《Concrete Problems in AI Safety》。论文围绕错误目标、监督成本与学习过程中的不良行为,提出副作用、奖励投机、可扩展监督、安全探索和分布变化等研究问题。[7]

2020年12月,OpenAI 宣布他将在任职近五年后离开,并与少数同事开展新的研究项目。公告肯定了他与 Ilya Sutskever 共同领导研究方向的工作。[6]

共同创立Anthropic

2021年,Amodei 与 Daniela Amodei 等人共同创立 Anthropic。他担任首席执行官,Daniela 担任总裁;两人为兄妹。公司最初将研究重点放在大型人工智能系统的可靠性、可解释性、可控性及人类反馈上。[8][9]

同年5月,公司宣布完成1.24亿美元A轮融资,用于研究与原型开发。此后,Amodei 持续负责公司的研究方向及战略愿景。[8][9]

Claude对外推出

2023年3月14日,Anthropic 扩大 Claude 的对外提供范围。该助手通过聊天界面和开发者 API 服务,支持总结、问答、写作、搜索及编程等任务,首发包括 Claude 与 Claude Instant 两个版本。[10]

关于人工智能收益的论述

2024年10月,Amodei 发表《Machines of Loving Grace》,讨论强大人工智能可能为健康、神经科学、经济发展、治理以及工作意义带来的变化。他将这些内容明确置于假设和预测之下,并承认实验、数据、现实世界运行速度等因素会限制进展。[11]

文章强调,重视风险与期待技术带来积极结果并不矛盾;能否实现这些收益,需要研究、制度与社会行动共同配合。[11]

技术风险与治理主张

2026年1月,他发表《The Adolescence of Technology》,将讨论转向强大人工智能带来的风险与社会应对。他主张承认预测的不确定性,避免将技术风险宗教化,并让监管措施尽可能明确、审慎且有针对性。[12]

军方使用边界争议

2月26日,Amodei 就 Anthropic 与美国战争部的合同磋商发表声明。他支持人工智能用于国防,但坚持排除大规模国内监控和缺乏适当保障的完全自主武器用途,并拒绝为接受“任何合法用途”的要求取消这些限制。[13]

8月,旧金山联邦法院裁定政府针对公司的相关措施违法;另一案件仍在审理。9月3日,战争部官员仍公开表示其供应链风险认定继续有效。[14][15]

放缓前沿进展的倡议与诉讼

9月12日,他发表《We Must Pace the Frontier》,提出嵌入式第三方评估、行业协调与国际协调三层方案,主张让安全研究和评估跟上模型能力进步。Anthropic 同时承诺先行给予第三方评估者持续深入的访问权限。[16][17]

文章也承认同行协调涉及反垄断问题,提出由政府为特定安全讨论提供狭窄豁免。9月18日,四名付费用户起诉 Anthropic、OpenAI、SpaceXAI 和 Google,指称围绕放缓开发形成的协调损害竞争和订阅价值。这是原告在诉状中的主张,不能据此认定相关公司已违法。[16][18]

公开资料与账号

个人网站:https://darioamodei.com/(在新窗口打开);X:https://x.com/DarioAmodei(在新窗口打开)。其个人网站汇集公开文章、研究链接与访谈,Anthropic 官方领导页面提供现任职务介绍。[2][17][9]

来源

  1. Dario Amodei, PhD — 2007 Hertz Fellow(在新窗口打开)
  2. Dario Amodei — Biography and writings(在新窗口打开)
  3. Hertz Foundation Announces Winners of the 2012 Thesis Prize(在新窗口打开)
  4. Lex Fridman Podcast #452 — Transcript(在新窗口打开)
  5. Deep Speech 2: End-to-End Speech Recognition in English and Mandarin(在新窗口打开)
  6. Organizational update(在新窗口打开)
  7. Concrete Problems in AI Safety(在新窗口打开)
  8. Anthropic raises $124 million to build more reliable, general AI systems(在新窗口打开)
  9. Leadership at Anthropic(在新窗口打开)
  10. Introducing Claude(在新窗口打开)
  11. Machines of Loving Grace(在新窗口打开)
  12. The Adolescence of Technology(在新窗口打开)
  13. Statement from Dario Amodei on our discussions with the Department of War(在新窗口打开)
  14. Judge says Pentagon measures against Anthropic were illegal and baseless(在新窗口打开)
  15. Pentagon confirms Anthropic remains a supply chain risk despite court ruling(在新窗口打开)
  16. We Must Pace the Frontier(在新窗口打开)
  17. Dario Amodei (@DarioAmodei)(在新窗口打开)
  18. Buist et al. v. Anthropic PBC et al. — Class Action Complaint(在新窗口打开)