ABAB Pedia

Eric Ho

Eric Ho 是 GoodfireGoodfireGoodfire 是2024年成立、總部位於舊金山的人工智能可解釋性研究公司,以公益公司形式運營。公司由 Eric Ho、Tom McGrath 和 Daniel Balsam 共同創辦,研究神經網絡內部機制,並開發 Ember、Silico 等模型解釋、調試和監測工具。點擊查看完整詞條 聯合創始人兼 CEO。

本頁目錄10 節
詞條資料

耶魯大學

他回憶,在耶魯讀大四時,與 Andrew Myers 創辦 RippleMatch,改善求職匹配。⁠[2]

獲列次年榜單

RippleMatch

5月,公司以聯合創始人兼總裁身份介紹 Ho,並宣佈其將與 Kate Beckman 分享 Z 世代求職研究。⁠[3]

轉向AI安全

他宣佈退出日常管理,轉任董事及顧問,稱對 AI 災難風險的擔憂促使其轉向安全工作。⁠[2]

12月14日,他撰文稱風投資金可擴展安全研究,收入應符合安全使命。Marius Hobbhahn 評論稱盈利壓力可能沖淡安全目標;Ho 認同商業模式、文化和投資者的重要性。⁠[4]

Goodfire

據其回顧,項目始於2024年6月。⁠[5]

A輪

B輪

公司獲 B Capital 領投1.5億美元,估值12.5億美元。投資方確認 Ho 任 CEO,曾任 RippleMatch CTO。⁠[8]

對齊觀點

Ho 主張以可解釋性理解和調控模型學習,檢驗其內部機制。他也承認可解釋性不能獨自解決對齊,研究成功沒有保證。⁠[9]

關聯機構、網站與公開賬號

來源

  1. Yale trailblazers make the Forbes ‘30 Under 30’ list(在新窗口打開)
  2. Eric Ho’s Post(在新窗口打開)
  3. RippleMatch at NACE22: See You This June in Portland(在新窗口打開)
  4. Some for-profit AI alignment org ideas(在新窗口打開)
  5. Announcing Goodfire’s $150M Series B at a $1.25B valuation! B Capital led, with participation from Juniper Ventures, DFJ Growth, Salesforce Ventures, Menlo Ventures, Lightspeed, South Park Commons…(在新窗口打開)
  6. Eric Ho’s Post(在新窗口打開)
  7. Announcing Our Investment in Goodfire(在新窗口打開)
  8. Goodfire Raises $150M Series B to Advance the Frontier of AI Interpretability(在新窗口打開)
  9. We can and must solve alignment(在新窗口打開)