Andrej Karpathy

Karpathy 生于斯洛伐克，15岁时随家人移居加拿大多伦多。他在一篇博士经验总结中写道，自己从小就知道想读博士，原因之一是喜欢上学和学习，另一个原因是想成为游戏《半条命》里拥有麻省理工学院理论物理博士学位的主角 Gordon Freeman。⁠[1][2][3][3]

Karpathy 早年热衷魔方，练到约17秒复原，并因苦于缺乏学习资源而在 YouTubeYouTubeYouTube是Google旗下的视频分享与创作者平台，2005年由Steve Chen、Chad Hurley和Jawed Karim创办，2006年被Google收购。平台围绕视频上传、观看与创作者收益，发展出Shorts、YouTube Music、Premium、YouTube TV及儿童产品，总部位于美国加利福尼亚州San Bruno。点击查看完整词条 上制作讲解速拧方法的视频，这些视频后来颇受欢迎。⁠[4]

2005年至2009年，Karpathy 在多伦多大学攻读学士学位，主修计算机科学和物理双专业、辅修数学，并在旁听 Geoffrey Hinton 的课程和读书会时第一次接触深度学习。他回忆，本科时原本想做量子计算，但上量子力学课时发现自己并不享受，转而越来越被人工智能吸引；在图书馆里意识到自己无法读完所有书，于是想到可以造出能学会一切的东西。⁠[4][1][1][1]

2009年至2011年，Karpathy 在英属哥伦比亚大学读硕士，与 Michiel van de Panne 研究物理模拟角色的运动控制器学习，即在物理仿真中用机器学习实现敏捷的机器人运动；相关论文《Locomotion Skills for Simulated Quadrupeds》发表于 SIGGRAPH 2011。⁠[4][4]

2011年起，Karpathy 在斯坦福视觉实验室攻读博士，导师是李飞飞Fei-Fei LiFei-Fei Li（李飞飞）是美国计算机科学家、斯坦福大学计算机科学教授及以人为本人工智能研究院创始联合院长，空间智能公司 World Labs 联合创始人兼首席执行官。她主导创建 ImageNet，曾任 Google 副总裁与 Google Cloud 首席科学家，以及 Twitter 独立董事。2026年起，她担任斯坦福校长人工智能高级顾问及 HAI 顾问委员会联合主席。点击查看完整词条（Fei-Fei Li），第一年轮转期间还与 Daphne Koller、吴恩达（Andrew Ng）、Sebastian Thrun 和 Vladlen Koltun 合作。他的研究集中在卷积神经网络、循环神经网络及其在计算机视觉、自然语言处理及两者交叉领域的应用。读博期间，他2011年在初创期的 Google Brain 实习研究基于视频的大规模无监督学习，2013年在 GoogleGoogleGoogle是一家美国科技公司，由Larry Page与Sergey Brin创办，1998年注册成立，2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条 Research 研究 YouTube 视频的大规模监督学习，2015年在 DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究机构，2023年4月由2014年被 Google 收购的 DeepMind 与 Google Research 的 Brain 团队合并而成，由 Demis Hassabis 任首席执行官。它开发了 AlphaGo、AlphaFold 和 Gemini 系列模型，Hassabis 与 John Jumper 因 AlphaFold 的蛋白质结构预测工作获得2024年诺贝尔化学奖。点击查看完整词条 的深度强化学习团队与 Koray Kavukcuoglu 和 Vlad Mnih 共事。⁠[4][4][4][4]

他的博士论文《Connecting Images and Natural Language》于2016年完成，研究让神经网络识别图像中的多个具体物体、用自然语言加以描述，也能反过来根据“白色网球鞋”这类自然语言描述在图像中找到对应物体。⁠[4][5][5]

读博期间，Karpathy 从零用 JavaScript 写成深度学习库 ConvNetJS，可直接在浏览器里训练卷积神经网络，并于2014年4月就此接受 Data Science Weekly 访谈。2014年9月，他亲自与一个早期卷积网络比赛，把图像分到 ImageNet 的1000个类别中，为此制作了专门工具、学了大量狗的品种知识，因此被戏称为 ImageNet 的“参照人类”。⁠[4][6][4][6]

2015年，Karpathy 设计并主讲斯坦福第一门深度学习课程 CS231n“用于视觉识别的卷积神经网络”。这门课成为斯坦福规模最大的课程之一，选课人数从2015年的150人增至2016年的330人和2017年的750人，他2016年的授课视频和课程笔记均公开。⁠[4][4][4]

2015年5月21日，Karpathy 发表博文《The Unreasonable Effectiveness of Recurrent Neural Networks》，训练字符级循环神经网络语言模型生成诗歌、LaTeX 数学公式和代码，并配套开源了用 LSTM 等结构写成的 Torch 字符级语言模型 char-rnn。⁠[6][4]

2015年12月，OpenAI 在蒙特利尔举行的神经信息处理系统大会（NIPS）上宣布成立，Karpathy 是创始成员之一，2015年至2017年在 OpenAI 担任研究科学家；当时他还是斯坦福博士生，履历中已有在 Google 和 DeepMind 的实习经历。⁠[7][4][7]

2016年9月7日，Karpathy 在博士生涯结束后发表《A Survival Guide to a PhD》，总结读博经验。⁠[3][3]

2017年6月20日，Tesla 宣布聘请 Karpathy 出任人工智能与 Autopilot 视觉总监，直接向 Elon MuskElon MuskElon Musk 是企业家，创办 SpaceX 并长期担任 Tesla 首席执行官，亦参与 PayPal、OpenAI、Neuralink、The Boring Company 与 xAI 的创建。他于2022年收购 Twitter，业务横跨航天、电动车、能源、人工智能及社交平台。点击查看完整词条 汇报，并与负责 Autopilot 软硬件的 Jim Keller 密切合作。他在 Tesla 领导 Autopilot 的计算机视觉团队，团队负责全部内部数据标注、神经网络训练以及在 Tesla 自研推理芯片上的部署；他还曾短暂领导人形机器人 Optimus 项目。⁠[5][4][4]

2017年11月，Karpathy 发表文章《Software 2.0》，这是他最受欢迎的文章之一。⁠[4]

2020年，《麻省理工科技评论》将 Karpathy 列入“35岁以下创新者”，认为他拓展了卷积神经网络技术，使系统不只能识别图像中的单个物体，还能理解多个物体互动的整个场景；Tesla 不像多数车企那样用昂贵的激光测距仪扫描环境、构建虚拟地图，而是用普通摄像头，系统需要近50个神经网络持续处理来自逾百万辆车的数据。⁠[2][2][2][2]

2021年5月，Tesla 宣布 Model 3 和 Model Y 改用名为“Tesla Vision”的纯摄像头系统、不再配备雷达，部分安全功能暂时受限。消费者权益组织 Consumer Reports 随即撤销4月27日以后生产的这两款车的“Top Pick”推荐，美国公路安全保险协会（IIHS）也撤销了其“Top Safety Pick+”评级。Consumer Reports 倡导副总裁 David Friedman 表示，去掉雷达意味着安全功能可能在需要时失效；批评者还指出 Tesla 没有激光雷达，Autopilot 曾难以识别静止物体和横穿的拖车。⁠[8][8][8][8][8][8][8][8][8]

2021年6月，Karpathy 在计算机视觉与模式识别会议（CVPR 2021）自动驾驶研讨会的主题演讲中为纯视觉方案辩护：他认为基于视觉的方案更易“规模化”，能在未经详细测绘的各种环境中工作；雷达垂直分辨率不佳，会因井盖或立交桥阴影产生误报，而用庞大、干净、多样的数据集训练神经网络后，摄像头在深度和速度等指标上可以优于雷达。⁠[9][9][9][9]

2022年7月13日，休假四个月的 Karpathy 宣布离开 Tesla。他在推文中写道，五年来帮助 Tesla 实现目标是莫大的荣幸，离开是艰难的决定，其间 Autopilot 从车道保持发展到城市街道驾驶；他说暂无具体计划，想重拾在人工智能技术、开源和教育方面的长期兴趣。同一时期，Tesla 向加州监管部门申报，裁撤 Autopilot 团队中229名数据标注员工并关闭其圣马特奥办公室。⁠[10][10][10][10]

2023年，Karpathy 重返 OpenAI，组建了一支从事中期训练（midtraining）和合成数据生成的新团队；同年他在微软MicrosoftMicrosoft（微软）是由 Bill Gates 和 Paul Allen 于1975年创办、总部位于美国华盛顿州雷德蒙德的科技公司，业务涵盖 Windows、Microsoft 365、Azure、企业软件、人工智能、游戏和设备。点击查看完整词条 Build 大会上作“State of GPT”演讲。2024年2月，他再次离开 OpenAI，称要做个人项目。⁠[4][4][11]

2024年7月16日，Karpathy 宣布创办 Eureka Labs，称之为“AI 原生的新型学校”：教师仍负责设计课程材料，由经过优化的 AI 助教辅助、扩展教学，师生与 AI 可在同一平台上完成整套课程。首个产品是本科水平的课程 LLM101n，引导学生训练自己的人工智能，课程材料在线提供，并计划开设线上与线下学习小组。⁠[12][12][12][12]

Karpathy 说，他对教育的兴趣贯穿了从 YouTube 魔方教程到斯坦福 CS231n、再到“Zero to Hero”系列的经历，此前把人工智能与教育结合的工作都只是“正职”之外的副业，这次要全职投入。⁠[11][11]

2024年8月20日，匹兹堡大学英语副教授、英语写作项目主任 Annette Vee 撰文质疑以 Eureka Labs 为代表的 AI 教学设想。她指出，从1920年代的“自动教师”到大规模开放在线课程，个性化学习技术屡屡因学生缺乏兴趣而失败；学生需要与真人建立联系、受到激励，而 AI 教学平台还存在数据隐私与安全风险，若由同一机器人教授数百万学生，也可能导致思想多样性丧失。⁠[13][13][13][13][13][13][13]

Karpathy 在 Eureka Labs 的设想中并不主张由机器人取代教师，而是由教师设计课程、AI 助教在其指导下辅助学生，他的目标是让任何人都能学会任何东西。⁠[12][12]

2025年2月2日，Karpathy 在 X 上发帖，描述一种他称为“vibe coding”的新编程方式：完全顺着感觉走，忘掉代码的存在，靠告诉人工智能自己想要什么来写代码、做网页和应用。这一说法迅速流行，Merriam-Webster 词典收录该词并注明一般认为由 Karpathy 首创，也指出这种做法往往伴随程序缺陷，在专业环境中的可维护性受到质疑。⁠[14][14][14][14]

2025年10月，Karpathy 接受 Dwarkesh PatelDwarkesh PatelDwarkesh Patel 是播客主持人和作者，主持长篇访谈节目 Dwarkesh Podcast，关注人工智能、科技、历史和经济等领域。他于2020年在大学期间开始制作播客，2024年入选 TIME100 AI，并与 Gavin Leech 合作整理出版《The Scaling Era: An Oral History of AI, 2019–2025》。点击查看完整词条 约两个半小时的播客访谈时说，通用人工智能至少还要十年，业界有夸大其词之嫌；他直言当前的人工智能智能体“还不行”，智力不足、多模态能力不够、不能操作电脑、也没有持续学习能力，“这是垃圾（slop）”，如果做不好，软件中可能堆积大量垃圾，安全漏洞也会增加。他说自己的时间预期比旧金山的人工智能派对或 TwitterTwitterTwitter 是曾运营同名实时短消息与社交平台的美国公司。服务起源于2006年，Twitter, Inc. 于2007年注册，2013年上市，2022年被 Elon Musk 收购并私有化。2023年公司披露已并入 X Corp.，同年7月平台启用 X 品牌。点击查看完整词条 上的看法悲观5到10倍，但“十年其实是非常乐观的时间表”。⁠[15][16][15][16][16][15][16]

访谈引发科技界强烈反应，有人在 X 上称如果这次访谈都不能戳破人工智能泡沫，就没有什么能戳破了。Elon Musk 在 X 上邀请 Karpathy 与 Grok 5 进行编程比赛，Karpathy 回应说更愿意与 Grok 5 合作而不是与之竞争。⁠[16][15][15]

2025年11月6日，Collins 词典宣布由 Karpathy 首创的“vibe coding”当选2025年度词汇，并指出科技界对这种做法究竟是革命性的还是鲁莽的仍有争论。⁠[17][17][17][17]

2026年2月12日，Karpathy 在博客发布 microgpt，用200行不依赖任何外部库的纯 Python 代码实现 GPT 的训练与推理。⁠[6]

2026年5月19日，Karpathy 宣布加入 Anthropic，在 Nick Joseph 领导的预训练团队工作，并将组建一支用 Claude 加速预训练研究的团队。他表示，未来几年大语言模型前沿的发展将尤为关键，很高兴回到研发一线，同时仍热爱教育，打算日后继续这方面的工作。⁠[18][18][18][18]

Karpathy 在 YouTube 上制作人工智能教学视频，分技术与大众两条线：技术线是“Neural Networks: Zero to Hero”系列，从反向传播和自动微分引擎 micrograd 讲起，逐步用代码从零构建字符级语言模型 makemore、WaveNet 式网络、GPT 和 GPT 分词器；大众线包括讲解大语言模型原理的“Deep Dive into LLMs like ChatGPTChatGPTChatGPT是OpenAI于2022年11月30日推出的生成式人工智能助手，通过网页和应用提供对话、写作、编程、搜索、文件分析及图像和语音交互等服务。产品从免费研究预览发展为面向个人、企业和教育机构的多种方案，并逐步增加深度研究、学习模式和跨应用任务执行能力。其应用也引发有关事实准确性、个人隐私、版权、教育及青少年安全的持续讨论。点击查看完整词条”和介绍个人用法的“How I use LLMs”。他认为语言模型是学习深度学习的绝佳入口，因为所学内容大多可迁移到计算机视觉等其他领域。⁠[4][4][19][19][19][19]

Karpathy 维护过多个开源项目：微型自动微分引擎 micrograd，帮助研究者筛选和推荐 arXiv 论文的 arxiv-sanity 及其重写版 arxiv-sanity-lite，早期图像描述项目 neuraltalk2（后与 Justin JohnsonJustin JohnsonJustin Johnson 是美国计算机视觉与人工智能研究者，空间智能公司 World Labs 联合创始人，密歇根大学计算机科学与工程系兼职教授。他在斯坦福大学 Fei-Fei Li 实验室获得博士学位，曾任密歇根大学助理教授与 Meta FAIR 研究科学家。点击查看完整词条 扩展为密集描述），以及注重隐私的本地生产力追踪工具 ulogme 等。他先后在 GitHub、Medium 和 Bear 上写过三个博客，热门文章包括《A Recipe for Training Neural Networks》（2019年）、《Biohacking Lite》（2020年）和用纯 Python 从零演示比特币比特币比特币（Bitcoin，常用符号 BTC）是一套开放的点对点电子现金协议、网络及其原生数字资产。完整节点按共识规则独立验证交易和区块；交易以 UTXO 记录，区块通过工作量证明组织为公开账本。比特币不由单一机构发行或管理，但使用、托管和交易仍涉及密钥、隐私、市场与法律风险。点击查看完整词条交易的《A from-scratch tour of Bitcoin in Python》（2021年）。⁠[4][4][4][4][4][4][4]

Karpathy 在个人网站上按“推荐程度乘以冷门程度”列出读过的科幻小说，自称喜欢硬科幻，看重新奇的技术构想、世界观构建和未来预测，不喜欢冗长的景物与外貌描写，也无法接受长着人脸、用声音说话的类人外星人；他认为人工智能是大多数科幻世界里最大的缺失。他把姜峯楠（Ted Chiang）的短篇集列为“必读”，对刘慈欣《三体》三部曲的评价则是有几颗绝妙的新奇想法，但人物缺乏灵魂、叙事有逻辑矛盾，结局令人失望。⁠[20][20][20][20][20][20]

个人网站：https://karpathy.ai/（在新窗口打开）⁠[4]

X：公开账号：https://x.com/karpathy（在新窗口打开）⁠[4][21]

YouTube：公开频道：https://www.youtube.com/@AndrejKarpathy（在新窗口打开）⁠[4]

GitHub：公开账号：https://github.com/karpathy（在新窗口打开）⁠[4]

Eureka Labs：官网：https://eurekalabs.ai/（在新窗口打开）。⁠[12]