ABAB Pedia

David Rémy Bellamy

David Rémy Bellamy 是機器學習研究人員和工程師,研究經歷涵蓋因果推斷、醫療數據建模與大語言模型強化學習基礎設施。他獲得哈佛大學流行病學博士學位,曾任 Lila Sciences 創始研究團隊成員,後加入 Institute of Foundation Models,參與模型訓練基礎設施與開源軟件開發。

本頁目錄10 節
詞條資料

2011—2018年:生物化學與研究訓練

2011年至2016年,Bellamy 在渥太華大學學習生物化學並取得榮譽理學學士學位。其早期研究跨越化學、表觀遺傳學、質譜與病毒學,曾在渥太華和波士頓的研究機構工作。⁠[1]

2016年,他進入哈佛大學生物醫學博士項目,後於2018年離開該項目。簡歷明確將這段經歷標為未完成,不能與其後來取得的流行病學博士學位混同。⁠[1]

2018—2023年:哈佛大學與因果推斷

2018年,他轉向哈佛大學公共衛生領域的博士訓練,研究醫療數據的機器學習與因果推斷。2022年取得生物統計學碩士學位,2023年取得流行病學博士學位。⁠[1][2]

博士階段,他與 Andrew Beam、Miguel Hernán 等研究人員合作,並加入 CAUSALab。他也參與深度學習、流行病學和統計相關課程的教學與學生輔導,曾為 Artera.ai 的因果機器學習項目提供諮詢。⁠[1][2]

近端因果推斷研究

2022年,Bellamy 與 Benjamin Kompa、Tom Kolokotrones、James Robins 和 Andrew Beam 共同發表近端因果推斷論文,收錄於 NeurIPS 主會。研究提出利用深度神經網絡估計橋接函數,在具備滿足結構條件的代理變量時處理未觀測混雜,並給出一致性保證。⁠[3]

加入Lila Sciences

2023年5月,他加入後來名為 Lila Sciences 的公司,擔任創始 AI 研究人員。其本人履歷將自己記為首位僱員,工作方向是將人工智能用於實驗科學;早期簡歷仍使用 Flagship Labs 97 的名稱。⁠[2][1]

2023—2025年:Labrador與醫療數據建模

Bellamy 與 Bhawesh Kumar、Cindy Wang、Andrew Beam 合作研究 Labrador,將 Transformer 預訓練用於電子健康記錄中的實驗室檢驗數據。論文比較了 Labrador、BERT 與 XGBoost,發現預訓練任務表現良好並不意味著下游預測持續優於樹模型。⁠[4][5]

論文建議後續研究聯合建模多種健康記錄數據,並在評估中保留樹模型基線。其正式版本收入2025年出版的第四屆 Machine Learning for Health Symposium 論文集;Bellamy 的個人履歷記錄該研究獲得2024年會議最佳論文獎。⁠[4][2]

獨立強化學習研究

2025年5月,Bellamy 離開 Lila Sciences,轉向獨立強化學習研究。同年12月,他公開比較監督微調與 GRPO 在 GSM8k 數學任務上的訓練過程。⁠[2]

他發佈的 grpo-gsm8k 倉庫使用 PyTorch 與 vLLM 分離訓練和推理,並提供監督微調、REINFORCE 與 GRPO 的比較流程。項目也使用額外評測檢查能力退化,便於復現不同後訓練方法的效果。⁠[6]

IFM訓練基礎設施與K2 Horizon

2026年3月,Bellamy 加入 Institute of Foundation Models,負責智能體強化學習訓練基礎設施。工作涉及運行沙箱、推理請求路由、推理引擎、訓練器和獎勵計算等環節,並向 vLLM、SGLang、SMG 與 Harbor 等開源項目貢獻代碼。⁠[2][7]

他公開介紹的工程工作包括訓練與推理間權重傳輸、分離式推理可靠性,以及保持推理輸出 token 標識在訓練鏈路中一致,降低分詞差異帶來的錯誤。⁠[7]

9月3日,IFM 發佈 K2 Horizon 系列模型。Bellamy 在本人賬號表示參與了團隊工作,並強調當年轉向智能體模型訓練所需的數據和強化學習基礎設施投入。機構公告說明該系列同時開放權重、代碼、訓練數據與方法。⁠[8][9]

人工智能能力與風險觀點

9月13日,Bellamy 在 X 討論人工智能與實驗科學的關係。他認為,數字任務上的進展不能直接消除實驗室工作中的物理、組織和驗證約束,並質疑將模型能力提升直接推演為失控災難的論證。回覆者則提出,對既有機構和人員的影響也可能形成風險。這些內容屬於公開討論中的觀點,而非已經取得共識的科學結論。⁠[10]

公開資料與賬號

來源

  1. David Rémy Bellamy — Curriculum Vitae(在新窗口打開)
  2. David Rémy Bellamy — Personal website(在新窗口打開)
  3. Deep Learning Methods for Proximal Inference via Maximum Moment Restriction(在新窗口打開)
  4. Labrador: Exploring the limits of masked language modeling for laboratory data(在新窗口打開)
  5. Labrador: Exploring the Limits of Masked Language Modeling for Laboratory Data(在新窗口打開)
  6. Post-Training Math Language Models(在新窗口打開)
  7. DavidBellamy — Profile and selected contributions(在新窗口打開)
  8. David Bellamy:K2 Horizon团队工作(在新窗口打開)
  9. Institute of Foundation Models Launches Fully Open-Source Fleet of AI Models(在新窗口打開)
  10. David Bellamy:AI与实验室约束讨论(在新窗口打開)