ABAB Pedia

Nathan Lambert

Nathan Lambert是機器學習研究者,專注於大語言模型後訓練與人類反饋強化學習(RLHF),曾在Hugging Face和Ai2參與Zephyr、OLMo和Tülu等開放模型工作,撰寫Interconnects通訊和RLHF教材,並於2026年聯合創立非營利機構Trillium Labs。

本頁目錄22 節
詞條資料

在Cornell University就讀

進入UC Berkeley攻讀博士

在Facebook AI與DeepMind實習

做客TalkRL播客

2021年3月,他以UC Berkeley博士候選人身份做客TalkRL播客,討論基於模型的強化學習、軌跡模型和四旋翼控制等話題;節目列出的參考文獻包括他與Roberto Calandra、Sergey Levine、Kristofer Pister等人合著的“Low Level Control of a Quadrotor with Deep Model-Based Reinforcement Learning”。⁠[3]

完成博士論文

2022年,他完成博士論文“Synergy of Prediction and Control in Model-based Reinforcement Learning”(技術報告UCB/EECS-2022-65),導師為Kristofer Pister;論文研究學得的動力學模型如何與決策相互作用。⁠[4]

加入Hugging Face

2022年5月,他加入Hugging Face;他回憶是Douwe Kiela招募他參與打造“open-source DeepMind”(開源版DeepMind)。⁠[2]

發表RLHF圖解博文

2022年12月9日,他與Louis Castricato、Leandro von Werra和Alex Havrilla在Hugging Face博客發表“Illustrating Reinforcement Learning from Human Feedback (RLHF)”,並於12月13日圍繞該文舉辦講座。⁠[5]

列名Zephyr論文作者

2023年10月發佈的Zephyr論文“Zephyr: Direct Distillation of LM Alignment”將他列為第三作者。⁠[6]

加入Ai2

他回憶加入Ai2時團隊正在訓練Tülu 2 70B,Chris Manning後來稱讚他“saving DPO”(拯救了DPO)。⁠[2]

參與OLMo併發布RewardBench

2024年2月,Dirk Groeneveld等人發佈開放語言模型論文“OLMo: Accelerating the Science of Language Models”,他是作者之一。⁠[7]

同年3月,他作為第一作者與Valentina Pyatkin、Tom Zick等人發佈獎勵模型評測基準“RewardBench”。⁠[8]

參與項目獲ACL與GeekWire獎項

2024年,他參與的OLMo獲ACL最佳主題論文獎和GeekWire年度創新獎,Dolma獲ACL最佳資源論文獎。⁠[1]

主導發佈Tülu 3

2024年11月21日,Ai2發佈Tülu 3指令跟隨模型系列,同時公開數據、數據配比、訓練方案、代碼、基礎設施和評測框架,並引入基於可驗證獎勵的強化學習。⁠[9]

次日發佈的技術報告“Tulu 3: Pushing Frontiers in Open Language Model Post-Training”以他為第一作者。⁠[10]

首次做客Lex Fridman Podcast

發起ATOM Project

2025年8月4日,他發起“American Truly Open Models”(ATOM)項目,倡導在美國建設真正開放的模型;聯署自2025年8月徵集至2026年9月,共有395名研究者、開發者和業界人士簽名。⁠[12]

再次做客Lex Fridman Podcast

發佈ATOM報告

2026年4月,他與Florian Brand發佈“The ATOM Report: Measuring the Open Language Model Ecosystem”,統計約1500個主流開放模型,認為中國模型在2025年夏季超過美國同類模型並持續拉開差距。⁠[14]

發表中國AI實驗室走訪遊記

走訪中國多數領先AI實驗室後,他於2026年5月7日發表遊記“Notes from inside China's AI labs”,認為中國實驗室在組織與文化上非常適合快速追趕前沿。⁠[15]

《Reinforcement Learning from Human Feedback》由Manning出版

出版社作者簡介稱,他通過Ai2和Hugging Face發佈了Zephyr-Beta、Tulu 2、OLMo、TRL和Open Instruct等模型、數據集和訓練代碼。⁠[17]

聯合創立Trillium Labs

2026年10月1日,他與Tom Zick宣佈創立非營利機構Trillium Labs,旨在維護前沿AI的開放科學,首先從後訓練入手,公開完整的訓練方案、數據、代碼、評測和中間檢查點;機構起步資金來自Halcyon Futures和Schmidt Sciences。⁠[18]

截至2026年10月:任Trillium Labs執行董事並經營Interconnects

截至2026年10月,他的個人網站稱他為Trillium Labs聯合創始人兼執行董事;他曾與Thomas Krendl Gilbert合辦的Retort AI播客已停辦。⁠[20][21]

關聯機構、網站與公開賬號

Allen Institute for AI:官網:https://allenai.org/(在新窗口打開)⁠[9]

來源

  1. Nathan Lambert(在新窗口打開)
  2. My path into AI - by Nathan Lambert - Interconnects AI(在新窗口打開)
  3. TalkRL: The Reinforcement Learning Podcast | Nathan Lambert(在新窗口打開)
  4. Synergy of Prediction and Control in Model-based Reinforcement Learning | EECS at UC Berkeley(在新窗口打開)
  5. Illustrating Reinforcement Learning from Human Feedback (RLHF)(在新窗口打開)
  6. [2310.16944] Zephyr: Direct Distillation of LM Alignment(在新窗口打開)
  7. [2402.00838] OLMo: Accelerating the Science of Language Models(在新窗口打開)
  8. [2403.13787] RewardBench: Evaluating Reward Models for Language Modeling(在新窗口打開)
  9. Tülu 3 opens language model post-training up to more tasks and more people | Ai2(在新窗口打開)
  10. [2411.15124] Tulu 3: Pushing Frontiers in Open Language Model Post-Training(在新窗口打開)
  11. #459 – DeepSeek, China, OpenAI, NVIDIA, xAI, TSMC, Stargate, and AI Megaclusters | Lex Fridman Podcast(在新窗口打開)
  12. The ATOM Project - American Truly Open Models(在新窗口打開)
  13. #490 – State of AI in 2026: LLMs, Coding, Scaling Laws, China, Agents, GPUs, AGI | Lex Fridman Podcast(在新窗口打開)
  14. [2604.07190] The ATOM Report: Measuring the Open Language Model Ecosystem(在新窗口打開)
  15. Notes from inside China's AI labs - by Nathan Lambert(在新窗口打開)
  16. Reinforcement Learning from Human Feedback(在新窗口打開)
  17. about the author · Reinforcement Learning from Human Feedback(在新窗口打開)
  18. Introducing Trillium Labs - Trillium Labs(在新窗口打開)
  19. Trillium Labs opens nonprofit for open frontier AI research | ETIH EdTech News(在新窗口打開)
  20. Nathan Lambert(在新窗口打開)
  21. Retort AI | Nathan Lambert | Substack(在新窗口打開)
  22. About - Interconnects AI(在新窗口打開)