ABAB Pedia

Anca Dragan

Anca Dragan是生于罗马尼亚的计算机科学家,UC BerkeleyUniversity of California, BerkeleyUniversity of California, Berkeley(加州大学伯克利分校,UC Berkeley)是University of California系统的成员校,其前身University of California于1868年由两校合并创立,1873年迁至加利福尼亚州伯克利。点击查看完整词条副教授,研究人机交互与AI对齐;她自2024年起领导Google DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究机构,2023年4月由2014年被 Google 收购的 DeepMind 与 Google Research 的 Brain 团队合并而成,由 Demis Hassabis 任首席执行官。它开发了 AlphaGo、AlphaFold 和 Gemini 系列模型,Hassabis 与 John Jumper 因 AlphaFold 的蛋白质结构预测工作获得2024年诺贝尔化学奖。点击查看完整词条的AI安全与对齐工作。

本页目录15 节
词条资料

从Jacobs University Bremen到Carnegie Mellon

她2009—2015年在Carnegie Mellon University攻读机器人学博士,导师为Siddhartha Srinivasa。⁠[2]

任教UC Berkeley并创建InterACT Lab

2015年起,她任UC Berkeley电气工程与计算机科学系助理教授,2021年升任副教授;2017年起兼任Waymo顾问。⁠[2]

她在Berkeley主持研究人机交互算法的InterACT Lab,并参与创立Berkeley AI Research(BAIR)实验室。⁠[3]

研究自动驾驶车辆主动试探人类驾驶风格

2016年10月,她与Dorsa Sadigh、S. Shankar Sastry和Sanjit A. Seshia在IROS 2016上发表论文,提出让自动驾驶车辆通过轻微刹车或靠近等动作试探人类驾驶者的反应,以推断其驾驶风格的规划算法。⁠[4]

入选MIT Technology Review“35 Innovators Under 35”

2017年8月,30岁的她以UC Berkeley助理教授身份入选MIT Technology Review“35 Innovators Under 35”的Visionaries类别;评语称她致力于把复杂或模糊的人类行为提炼为机器人能理解的简单数学模型。⁠[5]

谈“freezing robot problem”

2017年10月,她在谈到自动驾驶车辆如何应对行人和其他车辆时,把车辆因任何动作都可能导致碰撞而不敢行动的情况称为“freezing robot problem”(机器人冻结问题),并研究如何解读和预测人类行为。⁠[6]

获Sloan Fellowship等荣誉

2018年,她获Sloan Fellowship,入选IJCAI Early Career Spotlight,并在CoRL 2017和IROS 2018作主题演讲;此前她于2017年获Okawa Foundation Award。⁠[7]

同年3月,她与Minae Kwon、Sandy H. Huang在HRI 2018发表“Expressing Robot Incapability”,研究让机器人在抓取等任务失败时用动作表达其意图和失败原因。⁠[8]

获PECASE

2019年7月,她作为UC Berkeley九名获奖者之一获得美国总统青年科学家和工程师奖(PECASE),由美国国家科学基金会提名,当时她是助理教授、InterACT Lab负责人。⁠[9]

做客 Lex Fridman Podcast

2020年3月19日,她作为第81期嘉宾做客Lex FridmanLex FridmanLex Fridman 是生于苏联、在美国长大的计算机科学家和播客主持人,任 MIT 研究科学家,研究人机交互与自动驾驶。他主持的 Lex Fridman Podcast 以数小时长篇对话著称,嘉宾包括多国领导人和科技企业领袖。点击查看完整词条 Podcast,节目以人机交互与奖励工程为题,大纲包括人机交互的难点、驾驶中的人类因素、半自动驾驶、如何设定合适的奖励以及机器人三定律等话题。⁠[10]

以博弈论解释机器人与人类的互动

2020年4月,她在Marketplace节目中解释,机器人借鉴经济学中以激励或效用建模人类行为的方法,并用博弈论处理人与机器人相互影响的过程,她称之为“kind of a negotiation”(某种谈判)。⁠[11]

获IEEE RAS早期学术生涯奖

2021年,她获IEEE机器人与自动化学会(RAS)Early Academic Career Award in Robotics and Automation;此前她于2020年获McEntyre教学优秀奖。⁠[1]

领导Google DeepMind的AI Safety and Alignment组织

2024年2月,Google DeepMind成立AI Safety and Alignment组织,负责Gemini模型的安全保障并研究AGI安全,由她领导。⁠[12]

她表示,团队旨在让模型更好地理解人类偏好与价值并抵御对抗性攻击;对于兼顾Berkeley实验室,她称两边研究相互补充。⁠[12]

参与发布Google DeepMind的AGI安全路线

2025年4月2日,她与Rohin Shah、Four Flynn和Shane LeggShane LeggShane Legg是新西兰出身的人工智能研究者,2010年与Demis Hassabis共同创立DeepMind,现任Google DeepMind首席AGI科学家,长期研究机器智能理论与通用人工智能的安全问题。点击查看完整词条署名发布博文,介绍Google DeepMind的论文《An Approach to Technical AGI Safety & Security》,该论文把风险分为滥用、未对齐、事故和结构性风险四类,并重点讨论滥用和未对齐。⁠[13]

截至2026年10月:在Google DeepMind负责Gemini安全

截至2026年10月,她正从UC Berkeley休假,在Google DeepMind领导负责Gemini模型安全的多个团队。⁠[3]

关联机构、网站与公开账号

来源

  1. Anca Dragan(在新窗口打开)
  2. Anca Dragan(在新窗口打开)
  3. Anca Dragan(在新窗口打开)
  4. Autonomous Cars Could Determine Your Driving Style by Gently Probing You - IEEE Spectrum(在新窗口打开)
  5. Anca Dragan | MIT Technology Review(在新窗口打开)
  6. To Survive the Streets, Self-Driving Cars Must Learn to Think Like Humans | WIRED(在新窗口打开)
  7. Congratulations to Anca Dragan on Her Achievements this Year – Center for Human-Compatible Artificial Intelligence(在新窗口打开)
  8. Helping Robots Express Themselves When They Fail - IEEE Spectrum(在新窗口打开)
  9. Nine young professors receive Presidential Early Career Awards - Berkeley News(在新窗口打开)
  10. #81 - Anca Dragan: Human-Robot Interaction and Reward Engineering | Lex Fridman Podcast(在新窗口打开)
  11. Amid COVID-19, robots use game theory to help humans - Marketplace(在新窗口打开)
  12. Google DeepMind forms a new org focused on AI safety | TechCrunch(在新窗口打开)
  13. Taking a responsible path to AGI — Google DeepMind(在新窗口打开)