ABAB Pedia

Eric Ho

Eric Ho 是 GoodfireGoodfireGoodfire 是2024年成立、总部位于旧金山的人工智能可解释性研究公司,以公益公司形式运营。公司由 Eric Ho、Tom McGrath 和 Daniel Balsam 共同创办,研究神经网络内部机制,并开发 Ember、Silico 等模型解释、调试和监测工具。点击查看完整词条 联合创始人兼 CEO。

本页目录10 节
词条资料

耶鲁大学

他回忆,在耶鲁读大四时,与 Andrew Myers 创办 RippleMatch,改善求职匹配。⁠[2]

获列次年榜单

RippleMatch

5月,公司以联合创始人兼总裁身份介绍 Ho,并宣布其将与 Kate Beckman 分享 Z 世代求职研究。⁠[3]

转向AI安全

他宣布退出日常管理,转任董事及顾问,称对 AI 灾难风险的担忧促使其转向安全工作。⁠[2]

12月14日,他撰文称风投资金可扩展安全研究,收入应符合安全使命。Marius Hobbhahn 评论称盈利压力可能冲淡安全目标;Ho 认同商业模式、文化和投资者的重要性。⁠[4]

Goodfire

据其回顾,项目始于2024年6月。⁠[5]

A轮

B轮

公司获 B Capital 领投1.5亿美元,估值12.5亿美元。投资方确认 Ho 任 CEO,曾任 RippleMatch CTO。⁠[8]

对齐观点

Ho 主张以可解释性理解和调控模型学习,检验其内部机制。他也承认可解释性不能独自解决对齐,研究成功没有保证。⁠[9]

关联机构、网站与公开账号

来源

  1. Yale trailblazers make the Forbes ‘30 Under 30’ list(在新窗口打开)
  2. Eric Ho’s Post(在新窗口打开)
  3. RippleMatch at NACE22: See You This June in Portland(在新窗口打开)
  4. Some for-profit AI alignment org ideas(在新窗口打开)
  5. Announcing Goodfire’s $150M Series B at a $1.25B valuation! B Capital led, with participation from Juniper Ventures, DFJ Growth, Salesforce Ventures, Menlo Ventures, Lightspeed, South Park Commons…(在新窗口打开)
  6. Eric Ho’s Post(在新窗口打开)
  7. Announcing Our Investment in Goodfire(在新窗口打开)
  8. Goodfire Raises $150M Series B to Advance the Frontier of AI Interpretability(在新窗口打开)
  9. We can and must solve alignment(在新窗口打开)