Nathan Lambert
Nathan Lambert是機器學習研究者,專注於大語言模型後訓練與人類反饋強化學習(RLHF),曾在Hugging Face和Ai2參與Zephyr、OLMo和Tülu等開放模型工作,撰寫Interconnects通訊和RLHF教材,並於2026年聯合創立非營利機構Trillium Labs。
本頁目錄22 節
詞條資料
2013—2017年在Cornell University就讀
2013年至2017年,他在Cornell UniversityCornell UniversityCornell University 是位於美國紐約州伊薩卡(Ithaca)的私立研究型大學,常春藤盟校成員,也是紐約州的聯邦贈地大學,在常春藤盟校中獨一無二。學校由 Ezra Cornell 與 Andrew Dickson White 於1865年創辦,1868年開學。除伊薩卡主校區外,學校在紐約市設有 Weill Cornell Medicine 和 Cornell Tech,並在卡塔爾設有醫學院分校。2024年秋季在校學生26,793人。現任校長為 Michael I. Kotlikoff。點擊查看完整詞條攻讀電氣與計算機工程學士學位。[1]
2017年進入UC Berkeley攻讀博士
2017年秋,他進入UC BerkeleyUniversity of California, BerkeleyUniversity of California, Berkeley(加州大學伯克利分校,UC Berkeley)是University of California系統的成員校,其前身University of California於1868年由兩校合併創立,1873年遷至加利福尼亞州伯克利。點擊查看完整詞條讀博;他回憶最初加入Sergey LevineSergey LevineSergey Levine是計算機科學家,UC Berkeley電氣工程與計算機科學系副教授,研究深度強化學習與機器人學習,參與提出Soft Actor-Critic和保守Q學習等算法,2024年聯合創立機器人基礎模型公司Physical Intelligence。點擊查看完整詞條和Pieter Abbeel課題組的請求被婉拒,後經導師Kristofer Pister介紹與Roberto Calandra合作。[2]
2019—2021年在Facebook AI與DeepMind實習
2019年至2020年,他在FacebookFacebookFacebook(臉書)是 Meta 旗下的社交網絡平臺,2004年從哈佛校園上線,逐步發展出動態消息、照片與視頻分享、群組及 Marketplace 等功能。平臺保留 Facebook 名稱,母公司在2021年採用 Meta 品牌;兩者的用戶與財務數據應按各自口徑理解。點擊查看完整詞條 AI實習;2021年遠程在DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究機構,2023年4月由2014年被 Google 收購的 DeepMind 與 Google Research 的 Brain 團隊合併而成,由 Demis Hassabis 任首席執行官。它開發了 AlphaGo、AlphaFold 和 Gemini 系列模型,Hassabis 與 John Jumper 因 AlphaFold 的蛋白質結構預測工作獲得2024年諾貝爾化學獎。點擊查看完整詞條實習。[1]
2021年3月做客TalkRL播客
2021年3月,他以UC Berkeley博士候選人身份做客TalkRL播客,討論基於模型的強化學習、軌跡模型和四旋翼控制等話題;節目列出的參考文獻包括他與Roberto Calandra、Sergey Levine、Kristofer Pister等人合著的“Low Level Control of a Quadrotor with Deep Model-Based Reinforcement Learning”。[3]
2022年完成博士論文
2022年,他完成博士論文“Synergy of Prediction and Control in Model-based Reinforcement Learning”(技術報告UCB/EECS-2022-65),導師為Kristofer Pister;論文研究學得的動力學模型如何與決策相互作用。[4]
2022年5月加入Hugging Face
2022年5月,他加入Hugging Face;他回憶是Douwe Kiela招募他參與打造“open-source DeepMind”(開源版DeepMind)。[2]
2022年12月發表RLHF圖解博文
2022年12月9日,他與Louis Castricato、Leandro von Werra和Alex Havrilla在Hugging Face博客發表“Illustrating Reinforcement Learning from Human Feedback (RLHF)”,並於12月13日圍繞該文舉辦講座。[5]
2023年10月列名Zephyr論文作者
2023年10月發佈的Zephyr論文“Zephyr: Direct Distillation of LM Alignment”將他列為第三作者。[6]
2023年加入Ai2
他回憶加入Ai2時團隊正在訓練Tülu 2 70B,Chris Manning後來稱讚他“saving DPO”(拯救了DPO)。[2]
2024年2—3月參與OLMo併發布RewardBench
2024年2月,Dirk Groeneveld等人發佈開放語言模型論文“OLMo: Accelerating the Science of Language Models”,他是作者之一。[7]
同年3月,他作為第一作者與Valentina Pyatkin、Tom Zick等人發佈獎勵模型評測基準“RewardBench”。[8]
2024年參與項目獲ACL與GeekWire獎項
2024年,他參與的OLMo獲ACL最佳主題論文獎和GeekWire年度創新獎,Dolma獲ACL最佳資源論文獎。[1]
2024年11月主導發佈Tülu 3
2024年11月21日,Ai2發佈Tülu 3指令跟隨模型系列,同時公開數據、數據配比、訓練方案、代碼、基礎設施和評測框架,並引入基於可驗證獎勵的強化學習。[9]
次日發佈的技術報告“Tulu 3: Pushing Frontiers in Open Language Model Post-Training”以他為第一作者。[10]
2025年2月2日首次做客Lex Fridman Podcast
他與SemiAnalysisSemiAnalysisSemiAnalysis 是 Dylan Patel 於2020年創辦的半導體及人工智能研究機構,提供行業報道、機構數據模型、諮詢與硬件測試。研究範圍從芯片製造、存儲和數據中心延伸到模型推理成本及人工智能應用的經濟性。點擊查看完整詞條創始人Dylan PatelDylan PatelDylan Patel 是 SemiAnalysis 創始人兼首席執行官,研究半導體供應鏈、數據中心與人工智能經濟性。他於2020年開始經營該研究業務,將個人行業寫作擴展為數據模型、諮詢和技術測試,並參與人工智能推理成本及軟硬件協同設計的公開討論。點擊查看完整詞條共同做客第459期Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人,任 MIT 研究科學家,研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱,嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast,節目頁稱他為Ai2研究科學家和AI博客Interconnects作者;節目討論DeepSeek-R1與V3、訓練成本、GPU出口管制、TSMCTSMCTSMC(臺積電)是總部位於臺灣新竹的半導體制造企業,開創了專業晶圓代工模式,為全球數百家客戶製造芯片。點擊查看完整詞條與臺灣、AI超大算力集群和開源等話題。[11]
2025年8月發起ATOM Project
2025年8月4日,他發起“American Truly Open Models”(ATOM)項目,倡導在美國建設真正開放的模型;聯署自2025年8月徵集至2026年9月,共有395名研究者、開發者和業界人士簽名。[12]
2026年1月31日再次做客Lex Fridman Podcast
他與Sebastian RaschkaSebastian RaschkaSebastian Raschka是機器學習與大語言模型研究工程師和技術作家,曾任University of Wisconsin-Madison統計學助理教授和Lightning AI研究工程師,著有《Python Machine Learning》《Build a Large Language Model (From Scratch)》等書。點擊查看完整詞條共同做客第490期節目,節目頁稱他為Ai2後訓練負責人;話題包括中美AI競爭、開源與閉源模型和後訓練等。[13]
2026年4月發佈ATOM報告
2026年4月,他與Florian Brand發佈“The ATOM Report: Measuring the Open Language Model Ecosystem”,統計約1500個主流開放模型,認為中國模型在2025年夏季超過美國同類模型並持續拉開差距。[14]
2026年5月7日發表中國AI實驗室走訪遊記
走訪中國多數領先AI實驗室後,他於2026年5月7日發表遊記“Notes from inside China's AI labs”,認為中國實驗室在組織與文化上非常適合快速追趕前沿。[15]
2026年7月《Reinforcement Learning from Human Feedback》由Manning出版
他撰寫的RLHF與大模型後訓練教材於2026年7月由Manning出版紙質版、ePub和liveBook版本,8月推出配套課程並開始在AmazonAmazonAmazon(亞馬遜)是 Jeff Bezos 於1994年創辦的美國上市科技與零售公司,主要公司辦公地位於西雅圖。業務涵蓋電子商務、物流履約、數字廣告、會員與影音服務、消費電子,以及 Amazon Web Services 雲計算。點擊查看完整詞條銷售,10月首次重印。[16]
出版社作者簡介稱,他通過Ai2和Hugging Face發佈了Zephyr-Beta、Tulu 2、OLMo、TRL和Open Instruct等模型、數據集和訓練代碼。[17]
2026年10月1日聯合創立Trillium Labs
2026年10月1日,他與Tom Zick宣佈創立非營利機構Trillium Labs,旨在維護前沿AI的開放科學,首先從後訓練入手,公開完整的訓練方案、數據、代碼、評測和中間檢查點;機構起步資金來自Halcyon Futures和Schmidt Sciences。[18]
Trillium Labs的辦公地點位於San Francisco灣區和Massachusetts州Cambridge,顧問包括Thomas WolfThomas WolfThomas Wolf是Hugging Face聯合創始人兼首席科學官,參與推動Transformers等開源工具、BigScience開放科研合作及機器人項目。他早年從事物理研究和專利法律工作,隨後轉向機器學習,其公開工作著重降低人工智能模型、數據和開發工具的使用門檻。點擊查看完整詞條、Hanna Hajishirzi、Graham Neubig和Bryan Catanzaro。[19]
截至2026年10月:任Trillium Labs執行董事並經營Interconnects
他創辦並運營的Interconnects通訊每週更新一至三次,內容包括評論、模型評測、研究者訪談和開放模型生態綜述,自ChatGPTChatGPTChatGPT是OpenAI於2022年11月30日推出的生成式人工智能助手,通過網頁和應用提供對話、寫作、編程、搜索、文件分析及圖像和語音交互等服務。產品從免費研究預覽發展為面向個人、企業和教育機構的多種方案,並逐步增加深度研究、學習模式和跨應用任務執行能力。其應用也引發有關事實準確性、個人隱私、版權、教育及青少年安全的持續討論。點擊查看完整詞條發佈後已累計發文300餘篇。[22]
關聯機構、網站與公開賬號
個人網站:公開鏈接:https://www.natolambert.com/(在新窗口打開)[11]
YouTubeYouTubeYouTube是Google旗下的視頻分享與創作者平臺,2005年由Steve Chen、Chad Hurley和Jawed Karim創辦,2006年被Google收購。平臺圍繞視頻上傳、觀看與創作者收益,發展出Shorts、YouTube Music、Premium、YouTube TV及兒童產品,總部位於美國加利福尼亞州San Bruno。點擊查看完整詞條:公開頻道:https://www.youtube.com/@natolambert(在新窗口打開)[11]
LinkedInLinkedInLinkedIn 是面向職場人士的社交網絡平臺,2002年由 Reid Hoffman 等人創立、2003年上線,2011年在紐約證券交易所上市,2016年被 Microsoft 以約262億美元收購後成為其全資子公司,收入來自會員訂閱、廣告和招聘解決方案。點擊查看完整詞條:公開資料:https://www.linkedin.com/in/natolambert/(在新窗口打開)[20]
Trillium Labs:官網:https://trilliumlabs.org/(在新窗口打開)[20]
Allen Institute for AI:官網:https://allenai.org/(在新窗口打開)[9]
Hugging Face:官網:https://huggingface.co/(在新窗口打開)[5]
來源
- Nathan Lambert(在新窗口打開)
- My path into AI - by Nathan Lambert - Interconnects AI(在新窗口打開)
- TalkRL: The Reinforcement Learning Podcast | Nathan Lambert(在新窗口打開)
- Synergy of Prediction and Control in Model-based Reinforcement Learning | EECS at UC Berkeley(在新窗口打開)
- Illustrating Reinforcement Learning from Human Feedback (RLHF)(在新窗口打開)
- [2310.16944] Zephyr: Direct Distillation of LM Alignment(在新窗口打開)
- [2402.00838] OLMo: Accelerating the Science of Language Models(在新窗口打開)
- [2403.13787] RewardBench: Evaluating Reward Models for Language Modeling(在新窗口打開)
- Tülu 3 opens language model post-training up to more tasks and more people | Ai2(在新窗口打開)
- [2411.15124] Tulu 3: Pushing Frontiers in Open Language Model Post-Training(在新窗口打開)
- #459 – DeepSeek, China, OpenAI, NVIDIA, xAI, TSMC, Stargate, and AI Megaclusters | Lex Fridman Podcast(在新窗口打開)
- The ATOM Project - American Truly Open Models(在新窗口打開)
- #490 – State of AI in 2026: LLMs, Coding, Scaling Laws, China, Agents, GPUs, AGI | Lex Fridman Podcast(在新窗口打開)
- [2604.07190] The ATOM Report: Measuring the Open Language Model Ecosystem(在新窗口打開)
- Notes from inside China's AI labs - by Nathan Lambert(在新窗口打開)
- Reinforcement Learning from Human Feedback(在新窗口打開)
- about the author · Reinforcement Learning from Human Feedback(在新窗口打開)
- Introducing Trillium Labs - Trillium Labs(在新窗口打開)
- Trillium Labs opens nonprofit for open frontier AI research | ETIH EdTech News(在新窗口打開)
- Nathan Lambert(在新窗口打開)
- Retort AI | Nathan Lambert | Substack(在新窗口打開)
- About - Interconnects AI(在新窗口打開)