ABAB Pedia

Anca Dragan

Anca Dragan是生於羅馬尼亞的計算機科學家,UC BerkeleyUniversity of California, BerkeleyUniversity of California, Berkeley(加州大學伯克利分校,UC Berkeley)是University of California系統的成員校,其前身University of California於1868年由兩校合併創立,1873年遷至加利福尼亞州伯克利。點擊查看完整詞條副教授,研究人機交互與AI對齊;她自2024年起領導Google DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究機構,2023年4月由2014年被 Google 收購的 DeepMind 與 Google Research 的 Brain 團隊合併而成,由 Demis Hassabis 任首席執行官。它開發了 AlphaGo、AlphaFold 和 Gemini 系列模型,Hassabis 與 John Jumper 因 AlphaFold 的蛋白質結構預測工作獲得2024年諾貝爾化學獎。點擊查看完整詞條的AI安全與對齊工作。

本頁目錄15 節
詞條資料

從Jacobs University Bremen到Carnegie Mellon

她2009—2015年在Carnegie Mellon University攻讀機器人學博士,導師為Siddhartha Srinivasa。⁠[2]

任教UC Berkeley並創建InterACT Lab

2015年起,她任UC Berkeley電氣工程與計算機科學系助理教授,2021年升任副教授;2017年起兼任Waymo顧問。⁠[2]

她在Berkeley主持研究人機交互算法的InterACT Lab,並參與創立Berkeley AI Research(BAIR)實驗室。⁠[3]

研究自動駕駛車輛主動試探人類駕駛風格

2016年10月,她與Dorsa Sadigh、S. Shankar Sastry和Sanjit A. Seshia在IROS 2016上發表論文,提出讓自動駕駛車輛通過輕微剎車或靠近等動作試探人類駕駛者的反應,以推斷其駕駛風格的規劃算法。⁠[4]

入選MIT Technology Review“35 Innovators Under 35”

2017年8月,30歲的她以UC Berkeley助理教授身份入選MIT Technology Review“35 Innovators Under 35”的Visionaries類別;評語稱她致力於把複雜或模糊的人類行為提煉為機器人能理解的簡單數學模型。⁠[5]

談“freezing robot problem”

2017年10月,她在談到自動駕駛車輛如何應對行人和其他車輛時,把車輛因任何動作都可能導致碰撞而不敢行動的情況稱為“freezing robot problem”(機器人凍結問題),並研究如何解讀和預測人類行為。⁠[6]

獲Sloan Fellowship等榮譽

2018年,她獲Sloan Fellowship,入選IJCAI Early Career Spotlight,並在CoRL 2017和IROS 2018作主題演講;此前她於2017年獲Okawa Foundation Award。⁠[7]

同年3月,她與Minae Kwon、Sandy H. Huang在HRI 2018發表“Expressing Robot Incapability”,研究讓機器人在抓取等任務失敗時用動作表達其意圖和失敗原因。⁠[8]

獲PECASE

2019年7月,她作為UC Berkeley九名獲獎者之一獲得美國總統青年科學家和工程師獎(PECASE),由美國國家科學基金會提名,當時她是助理教授、InterACT Lab負責人。⁠[9]

做客 Lex Fridman Podcast

2020年3月19日,她作為第81期嘉賓做客Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人,任 MIT 研究科學家,研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱,嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast,節目以人機交互與獎勵工程為題,大綱包括人機交互的難點、駕駛中的人類因素、半自動駕駛、如何設定合適的獎勵以及機器人三定律等話題。⁠[10]

以博弈論解釋機器人與人類的互動

2020年4月,她在Marketplace節目中解釋,機器人借鑑經濟學中以激勵或效用建模人類行為的方法,並用博弈論處理人與機器人相互影響的過程,她稱之為“kind of a negotiation”(某種談判)。⁠[11]

獲IEEE RAS早期學術生涯獎

2021年,她獲IEEE機器人與自動化學會(RAS)Early Academic Career Award in Robotics and Automation;此前她於2020年獲McEntyre教學優秀獎。⁠[1]

領導Google DeepMind的AI Safety and Alignment組織

2024年2月,Google DeepMind成立AI Safety and Alignment組織,負責Gemini模型的安全保障並研究AGI安全,由她領導。⁠[12]

她表示,團隊旨在讓模型更好地理解人類偏好與價值並抵禦對抗性攻擊;對於兼顧Berkeley實驗室,她稱兩邊研究相互補充。⁠[12]

參與發佈Google DeepMind的AGI安全路線

2025年4月2日,她與Rohin Shah、Four Flynn和Shane LeggShane LeggShane Legg是新西蘭出身的人工智能研究者,2010年與Demis Hassabis共同創立DeepMind,現任Google DeepMind首席AGI科學家,長期研究機器智能理論與通用人工智能的安全問題。點擊查看完整詞條署名發佈博文,介紹Google DeepMind的論文《An Approach to Technical AGI Safety & Security》,該論文把風險分為濫用、未對齊、事故和結構性風險四類,並重點討論濫用和未對齊。⁠[13]

截至2026年10月:在Google DeepMind負責Gemini安全

截至2026年10月,她正從UC Berkeley休假,在Google DeepMind領導負責Gemini模型安全的多個團隊。⁠[3]

關聯機構、網站與公開賬號

來源

  1. Anca Dragan(在新窗口打開)
  2. Anca Dragan(在新窗口打開)
  3. Anca Dragan(在新窗口打開)
  4. Autonomous Cars Could Determine Your Driving Style by Gently Probing You - IEEE Spectrum(在新窗口打開)
  5. Anca Dragan | MIT Technology Review(在新窗口打開)
  6. To Survive the Streets, Self-Driving Cars Must Learn to Think Like Humans | WIRED(在新窗口打開)
  7. Congratulations to Anca Dragan on Her Achievements this Year – Center for Human-Compatible Artificial Intelligence(在新窗口打開)
  8. Helping Robots Express Themselves When They Fail - IEEE Spectrum(在新窗口打開)
  9. Nine young professors receive Presidential Early Career Awards - Berkeley News(在新窗口打開)
  10. #81 - Anca Dragan: Human-Robot Interaction and Reward Engineering | Lex Fridman Podcast(在新窗口打開)
  11. Amid COVID-19, robots use game theory to help humans - Marketplace(在新窗口打開)
  12. Google DeepMind forms a new org focused on AI safety | TechCrunch(在新窗口打開)
  13. Taking a responsible path to AGI — Google DeepMind(在新窗口打開)