ABAB Pedia

Tom Brown

Tom Brown 是 AnthropicAnthropicAnthropic是一家于2021年成立的人工智能研究与产品公司,开发Claude模型、助手及Claude Code等工具,并以公益公司形式运营。Dario Amodei与Daniela Amodei为共同创办人,其研究涉及模型安全、可解释性和可控性。点击查看完整词条 联合创始人及首席算力官,曾负责 OpenAIOpenAIOpenAI是2015年创立的人工智能研究与产品机构,开发GPT系列模型、ChatGPT、Codex及开发者API,并开展图像、语音、视频与智能代理研究。2025年重组后,非营利的OpenAI Foundation继续控制营利主体OpenAI Group PBC。其发展涉及大规模融资与算力合作,也伴随治理、版权、隐私及人工智能安全争议。点击查看完整词条 的 GPT-3 研究工程,参与人类反馈强化学习和大语言模型研究。

本页目录24 节
词条资料

麻省理工学院学习经历

Tom Brown 在麻省理工学院学习计算机科学,并关注其在脑与认知科学中的应用,取得工程硕士学位。⁠[1]

校方将他列为2010届校友。⁠[2]

从初创公司工程工作起步

2009年夏天,仍在 MIT 就读的 Brown 成为 LinkedLanguage 首名员工;返校后又进入移动广告公司 MoPub。⁠[3]

2011年2月至11月,他在 MoPub 任创始工程师。⁠[4]

SolidStage 与 Grouper 创业

他随后与 Michael Waxman 共同经营 Grouper,将线上匹配转为三名朋友与另一组三名朋友线下见面的社交活动。⁠[6]

转向人工智能研究

2015年,Brown 决定从互联网创业转向 AI,加入 South Park Commons。根据其本人回忆,社区中的机器学习讨论和同伴支持帮助他克服重新起步的顾虑;约六个月的集中学习后,他进入 OpenAI。⁠[7]

他曾承接 Twitch 的短期合同工作,为后续自学筹措生活费用。⁠[3]

首次加入 OpenAI

2016年5月,Brown 加入 OpenAI,任职至2017年5月。⁠[4]

人类偏好与强化学习

Brown 与 Paul Christiano、Jan Leike、Dario AmodeiDario AmodeiDario Amodei 是人工智能研究人员、Anthropic 联合创始人兼首席执行官。他接受过物理学和生物物理学训练,曾在百度、Google Brain 与 OpenAI 从事研究,并在 OpenAI 负责包括 GPT-2、GPT-3 在内的研究工作。其职业活动涵盖大模型开发、人工智能安全、可解释性与公共政策。点击查看完整词条 等共同发表《Deep reinforcement learning from human preferences》。研究先让人比较短片段,再学习奖励函数并训练智能体,在游戏及模拟运动任务中减少直接人工反馈需求;论文也讨论奖励被钻空子和训练反馈不匹配的局限。⁠[8]

Google Brain 与对抗样本

此后,Brown 在 Google Brain 研究对抗机器学习。⁠[3]

他署名第一作者的《Adversarial Patch》展示了可打印、放入现实场景的对抗图案:即使改变位置、角度和尺度,图案仍可诱导图像分类器作出攻击者指定的错误判断。这项工作揭示了视觉系统面对物理世界干扰时的脆弱性。⁠[9]

重返 OpenAI

2018年12月,Brown 重返 OpenAI,担任 GPT-3 研究工程负责人,任职至2020年12月。⁠[4]

以人类偏好微调 GPT-2

Brown 参与利用人类偏好微调 GPT-2 的研究。团队把人工比较得到的奖励用于文本风格和摘要任务,也发现标注方式会改变模型行为:偏好复制原文的标注可能训练出善于摘抄的系统,而非理想的摘要器。研究强调反馈质量和持续检查的重要性。⁠[10]

语言模型规模规律

Brown 是《Scaling Laws for Neural Language Models》的共同作者。研究在实验范围内描述模型参数、数据量和计算量与预测损失之间的幂律关系,为分配训练资源提供经验依据;这些关系依赖其他资源未成为瓶颈等条件。⁠[11]

GPT-3 与少样本学习

Brown 在《Language Models are Few-Shot Learners》中列名第一,并与多位作者标注同等贡献。论文研究1750亿参数的 GPT-3,通过提示中的任务说明和示例完成多种任务,无须为每个任务更新模型权重。它同时记录重复、不连贯、事实错误、偏见及推理成本等限制。⁠[12]

共同创办 Anthropic

2021年1月,Brown 共同创办 Anthropic。⁠[4]

公司5月宣布完成1.24亿美元融资,将可靠、可解释、可控制的通用 AI 系统作为研究方向。⁠[13]

Brown 后来担任首席算力官,领导获取、扩展和有效使用算力的组织,支持前沿模型开发、部署、实验及安全研究。⁠[1]

有用且无害的助手研究

Brown 参与的研究把人类反馈强化学习用于提高助手的有用性和无害性,结合偏好模型、红队测试与反复训练。工作显示行为对齐和部分能力提升可以同时出现,但有用性与拒绝有害请求之间仍需权衡。⁠[14]

Constitutional AI

Brown 是《Constitutional AI: Harmlessness from AI Feedback》的共同作者。该方法让模型依据一组原则批评和修订回答,再利用 AI 产生的偏好反馈训练模型,以减少对逐项人工无害性标注的依赖;原则的选择仍由人参与。⁠[15]

AWS 与 Trainium 合作

随着 Anthropic 的算力需求扩大,公司把 AWS 作为主要云服务和训练伙伴,双方合作优化 Trainium 芯片及软件,包括底层内核和 Neuron 编译工具。这成为 Brown 所负责算力体系的一部分。⁠[16]

算力供给与多种硬件路线

在 Y Combinator 访谈中,Brown 认为不同工作负载和供给条件适合不同芯片;同时使用 GPU、TPU、Trainium 能扩大可用算力,也增加工程复杂度。他还把电力视为扩张约束,支持核能与可再生能源。⁠[3]

SpaceX 算力协议

AMD 合作与未来部署计划

歌词版权诉讼中的内部记录

音乐出版商7月22日对 Anthropic 提交的修订起诉书称,Brown 曾于2023年2月5日要求尚未公开的 Claude 输出 Bob Dylan 歌词,并以此支持关于侵权及内部知情的主张。文件列被告为 Anthropic,这些内容属于原告指控。⁠[19]

Anthropic 主张模型训练属于合理使用。⁠[20]

据9月16日的案件报道,早期歌词案仍处于双方提出简易判决动议的阶段。⁠[21]

参加 G20 创新部长级会议

9月2日,白宫公布 G20 创新部长级会议成果,列明 Brown 与美国商务部长 Howard Lutnick 参加炉边谈话。该会议围绕 AI、创新和跨国技术合作展开。⁠[22]

OpenAI 书籍训练数据争议

在针对 OpenAI 的版权诉讼中,作者原告9月17日提交的事实陈述引用内部记录,称 Brown 曾支持扩大 LibGen 非虚构书籍数据、将其用于训练,并参与讨论该数据来源的可疑性。这是原告对其在 OpenAI 任职期间行为的陈述,尚非法院认定。⁠[23]

OpenAI 在同案答辩中主张,预训练是转换性使用,目的在于学习语言统计规律,并未对相关书籍市场造成可认定的损害。⁠[24]

作者协会9月21日表示,书面辩论仍将继续,预计2027年初举行听证。⁠[25]

信任、安全与创新观点

关联机构、网站与公开账号

麻省理工学院:官网:https://www.mit.edu/(在新窗口打开)。⁠[27]

Brown 的公开个人账号包括 X:https://x.com/NotTomBrown(在新窗口打开)。⁠[32]

来源

  1. Leadership at Anthropic(在新窗口打开)
  2. Tom Brown ’10 — MIT News / Forbes press clip(在新窗口打开)
  3. Anthropic Co-Founder: Building Claude Code, Lessons From GPT-3 & LLM System Design(在新窗口打开)
  4. Tom Brown — LinkedIn(在新窗口打开)
  5. SolidStage(在新窗口打开)
  6. Grouper(在新窗口打开)
  7. How I made the switch to AI research(在新窗口打开)
  8. Deep reinforcement learning from human preferences(在新窗口打开)
  9. Adversarial Patch(在新窗口打开)
  10. Fine-tuning GPT-2 from human preferences(在新窗口打开)
  11. Scaling Laws for Neural Language Models(在新窗口打开)
  12. Language Models are Few-Shot Learners(在新窗口打开)
  13. Anthropic raises $124 million to build more reliable, general AI systems(在新窗口打开)
  14. Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback(在新窗口打开)
  15. Constitutional AI: Harmlessness from AI Feedback(在新窗口打开)
  16. Anthropic and AWS deepen their work together(在新窗口打开)
  17. Higher usage limits for Claude and a compute deal with SpaceX(在新窗口打开)
  18. AMD and Anthropic Announce Strategic Partnership to Deploy up to 2 Gigawatts of AMD Instinct MI450 Series GPUs(在新窗口打开)
  19. Concord Music Group, Inc. et al. v. Anthropic PBC — Second Amended Complaint(在新窗口打开)
  20. Music publishers file amended lyrics lawsuit against Anthropic(在新窗口打开)
  21. Anthropic bought songbooks, scanned them, and destroyed them, music publishers allege. Now they want to know which songs were in them.(在新窗口打开)
  22. G20 Innovation Ministerial Concludes with Consensus Statement(在新窗口打开)
  23. Class Plaintiffs’ Corrected Rule 56.1 Statement of Undisputed Material Facts(在新窗口打开)
  24. OpenAI’s Memorandum of Points and Authorities in Support of Motion for Summary Judgment(在新窗口打开)
  25. OpenAI Top Executives Knew Mass Book Piracy Was Illegal, New Filings Show(在新窗口打开)
  26. Tom Brown on trust, safety and innovation(在新窗口打开)
  27. 麻省理工学院官方网站(在新窗口打开)
  28. Y Combinator(在新窗口打开)
  29. South Park Commons(在新窗口打开)
  30. OpenAI(在新窗口打开)
  31. Google Research(在新窗口打开)
  32. Tom Brown (@NotTomBrown)(在新窗口打开)