ABAB Pedia

Nathan Lambert

Nathan Lambert是机器学习研究者,专注于大语言模型后训练与人类反馈强化学习(RLHF),曾在Hugging Face和Ai2参与Zephyr、OLMo和Tülu等开放模型工作,撰写Interconnects通讯和RLHF教材,并于2026年联合创立非营利机构Trillium Labs。

本页目录22 节
词条资料

在Cornell University就读

进入UC Berkeley攻读博士

在Facebook AI与DeepMind实习

做客TalkRL播客

2021年3月,他以UC Berkeley博士候选人身份做客TalkRL播客,讨论基于模型的强化学习、轨迹模型和四旋翼控制等话题;节目列出的参考文献包括他与Roberto Calandra、Sergey Levine、Kristofer Pister等人合著的“Low Level Control of a Quadrotor with Deep Model-Based Reinforcement Learning”。⁠[3]

完成博士论文

2022年,他完成博士论文“Synergy of Prediction and Control in Model-based Reinforcement Learning”(技术报告UCB/EECS-2022-65),导师为Kristofer Pister;论文研究学得的动力学模型如何与决策相互作用。⁠[4]

加入Hugging Face

2022年5月,他加入Hugging Face;他回忆是Douwe Kiela招募他参与打造“open-source DeepMind”(开源版DeepMind)。⁠[2]

发表RLHF图解博文

2022年12月9日,他与Louis Castricato、Leandro von Werra和Alex Havrilla在Hugging Face博客发表“Illustrating Reinforcement Learning from Human Feedback (RLHF)”,并于12月13日围绕该文举办讲座。⁠[5]

列名Zephyr论文作者

2023年10月发布的Zephyr论文“Zephyr: Direct Distillation of LM Alignment”将他列为第三作者。⁠[6]

加入Ai2

他回忆加入Ai2时团队正在训练Tülu 2 70B,Chris Manning后来称赞他“saving DPO”(拯救了DPO)。⁠[2]

参与OLMo并发布RewardBench

2024年2月,Dirk Groeneveld等人发布开放语言模型论文“OLMo: Accelerating the Science of Language Models”,他是作者之一。⁠[7]

同年3月,他作为第一作者与Valentina Pyatkin、Tom Zick等人发布奖励模型评测基准“RewardBench”。⁠[8]

参与项目获ACL与GeekWire奖项

2024年,他参与的OLMo获ACL最佳主题论文奖和GeekWire年度创新奖,Dolma获ACL最佳资源论文奖。⁠[1]

主导发布Tülu 3

2024年11月21日,Ai2发布Tülu 3指令跟随模型系列,同时公开数据、数据配比、训练方案、代码、基础设施和评测框架,并引入基于可验证奖励的强化学习。⁠[9]

次日发布的技术报告“Tulu 3: Pushing Frontiers in Open Language Model Post-Training”以他为第一作者。⁠[10]

首次做客Lex Fridman Podcast

发起ATOM Project

2025年8月4日,他发起“American Truly Open Models”(ATOM)项目,倡导在美国建设真正开放的模型;联署自2025年8月征集至2026年9月,共有395名研究者、开发者和业界人士签名。⁠[12]

再次做客Lex Fridman Podcast

发布ATOM报告

2026年4月,他与Florian Brand发布“The ATOM Report: Measuring the Open Language Model Ecosystem”,统计约1500个主流开放模型,认为中国模型在2025年夏季超过美国同类模型并持续拉开差距。⁠[14]

发表中国AI实验室走访游记

走访中国多数领先AI实验室后,他于2026年5月7日发表游记“Notes from inside China's AI labs”,认为中国实验室在组织与文化上非常适合快速追赶前沿。⁠[15]

《Reinforcement Learning from Human Feedback》由Manning出版

出版社作者简介称,他通过Ai2和Hugging Face发布了Zephyr-Beta、Tulu 2、OLMo、TRL和Open Instruct等模型、数据集和训练代码。⁠[17]

联合创立Trillium Labs

2026年10月1日,他与Tom Zick宣布创立非营利机构Trillium Labs,旨在维护前沿AI的开放科学,首先从后训练入手,公开完整的训练方案、数据、代码、评测和中间检查点;机构起步资金来自Halcyon Futures和Schmidt Sciences。⁠[18]

截至2026年10月:任Trillium Labs执行董事并经营Interconnects

截至2026年10月,他的个人网站称他为Trillium Labs联合创始人兼执行董事;他曾与Thomas Krendl Gilbert合办的Retort AI播客已停办。⁠[20][21]

关联机构、网站与公开账号

Allen Institute for AI:官网:https://allenai.org/(在新窗口打开)⁠[9]

来源

  1. Nathan Lambert(在新窗口打开)
  2. My path into AI - by Nathan Lambert - Interconnects AI(在新窗口打开)
  3. TalkRL: The Reinforcement Learning Podcast | Nathan Lambert(在新窗口打开)
  4. Synergy of Prediction and Control in Model-based Reinforcement Learning | EECS at UC Berkeley(在新窗口打开)
  5. Illustrating Reinforcement Learning from Human Feedback (RLHF)(在新窗口打开)
  6. [2310.16944] Zephyr: Direct Distillation of LM Alignment(在新窗口打开)
  7. [2402.00838] OLMo: Accelerating the Science of Language Models(在新窗口打开)
  8. [2403.13787] RewardBench: Evaluating Reward Models for Language Modeling(在新窗口打开)
  9. Tülu 3 opens language model post-training up to more tasks and more people | Ai2(在新窗口打开)
  10. [2411.15124] Tulu 3: Pushing Frontiers in Open Language Model Post-Training(在新窗口打开)
  11. #459 – DeepSeek, China, OpenAI, NVIDIA, xAI, TSMC, Stargate, and AI Megaclusters | Lex Fridman Podcast(在新窗口打开)
  12. The ATOM Project - American Truly Open Models(在新窗口打开)
  13. #490 – State of AI in 2026: LLMs, Coding, Scaling Laws, China, Agents, GPUs, AGI | Lex Fridman Podcast(在新窗口打开)
  14. [2604.07190] The ATOM Report: Measuring the Open Language Model Ecosystem(在新窗口打开)
  15. Notes from inside China's AI labs - by Nathan Lambert(在新窗口打开)
  16. Reinforcement Learning from Human Feedback(在新窗口打开)
  17. about the author · Reinforcement Learning from Human Feedback(在新窗口打开)
  18. Introducing Trillium Labs - Trillium Labs(在新窗口打开)
  19. Trillium Labs opens nonprofit for open frontier AI research | ETIH EdTech News(在新窗口打开)
  20. Nathan Lambert(在新窗口打开)
  21. Retort AI | Nathan Lambert | Substack(在新窗口打开)
  22. About - Interconnects AI(在新窗口打开)