Jeremy Howard
Jeremy Howard是数据科学家和创业者,与Rachel Thomas共同创办致力于普及深度学习的fast.ai,提出语言模型迁移学习方法ULMFiT,并创办AI研发实验室Answer.AI。
本页目录26 节
词条资料
1999年前从事管理咨询
1999年与Rob Mueller创办FastMail
1999年,他与中学好友Rob Mueller在墨尔本创办电子邮件服务FastMail.FM。[2]
Rob Mueller回忆,Howard因出差时可用的邮件服务有限而制作了最初的原型,并用个人积蓄资助早期开发;最初两人是仅有的开发者,同时负责客服和系统管理,FastMail定位为付费的高端邮件服务。[3]
2008年3月Optimal Decisions Group被ChoicePoint收购
澳大利亚公司Optimal Decisions Group为保险业开发分析软件,利用预测建模、多年期模拟和优化为车险和家财险定价。2008年3月31日,ChoicePoint宣布收购该公司,条款未披露。[4]
他是该公司的创始CEO。[5]
2010年5月FastMail出售给Opera
2010年5月,挪威浏览器公司Opera宣布收购FastMail.FM,交易条款未披露;部分员工将迁往挪威。[2]
2011—2013年投资Kaggle并出任总裁
他在墨尔本一次统计学聚会上结识Anthony GoldbloomAnthony GoldbloomAnthony Goldbloom 是澳大利亚出生的创业者,数据科学竞赛平台 Kaggle 的联合创始人兼前首席执行官。Kaggle 于2017年被 Google 收购后,他继续在 Google 内领导 Kaggle 至2022年;现任销售情报公司 Sumble 联合创始人兼首席执行官,并为 AIX Ventures 投资合伙人。点击查看完整词条,成为数据科学竞赛平台KaggleKaggleKaggle 是面向数据科学家和机器学习从业者的在线社区与竞赛平台,用户可在平台上参加机器学习竞赛、查找和发布数据集、编写并分享分析代码。它于2010年由 Anthony Goldbloom 与 Ben Hamner 创办,2017年被 Google 收购,现为 Google 旗下业务。点击查看完整词条的首位天使投资人;他也曾在Kaggle竞赛中排名第一,后任Kaggle总裁兼首席数据科学家。[6]
2011年11月,Kaggle完成1100万美元A轮融资,投资方包括Index Ventures、Khosla VenturesKhosla VenturesKhosla Ventures(KV)是 Sun Microsystems 创始首席执行官 Vinod Khosla 于2004年创办的美国风险投资公司,总部位于加州 Menlo Park。它早期重仓清洁技术,2019年成为 OpenAI 的首家风险投资方,投资组合还包括 DoorDash、Block(原 Square)、Impossible Foods 与 Rocket Lab 等公司。点击查看完整词条和SV AngelSV AngelSV Angel 是天使投资人 Ron Conway 于2009年与前 Google 高管 David Lee 共同创办的旧金山风险投资机构,通常在种子轮中小额跟投,投资过 Airbnb、Pinterest 和 Dropbox 等公司;2018年宣布不再向外部投资者募集新基金,2022年起又设立成长基金。点击查看完整词条,PayPalPayPalPayPal Holdings, Inc.(纳斯达克代码 PYPL)是美国数字支付公司,经营 PayPal、Venmo、Braintree、Xoom 等支付品牌,为全球消费者和商户提供线上与线下支付、转账及消费信贷服务。点击查看完整词条联合创始人Max Levchin出任董事长;公司已将业务迁至旧金山。[7]
2014年8月领导新公司Enlitic
2014年8月,他是新公司Enlitic的联合创始人兼CEO;该公司用大量匿名医学影像训练计算机识别脑瘤等病变,并为医生标出可疑之处。[8]
2014年12月TEDxBrussels演讲
2014年12月,他在TEDxBrussels发表演讲The wonderful and terrifying implications of computers that can learn,介绍深度学习的进展;截至本条目撰写时,该演讲在TED网站的播放次数约278万次。[9]
2016年10月7日与Rachel Thomas创办fast.ai
2016年10月7日,他与数学博士Rachel Thomas宣布成立研究实验室fast.ai,目标是让各领域专家自己使用深度学习;首门课程通过University of San Francisco的Data Institute开设。[10]
2018年1月发表ULMFiT论文
2018年1月18日,他与Sebastian Ruder在arXiv发表论文,提出可用于各类自然语言处理任务的迁移学习方法ULMFiT(Universal Language Model Fine-tuning);论文称该方法在六项文本分类任务上超过此前最佳水平,多数数据集上的错误率降低18%至24%。[11]
该论文入选2018年7月15日至20日在墨尔本举行的第56届计算语言学协会年会(ACL 2018)。[12]
2018年5月fast.ai团队在DAWNBench夺冠
在Stanford研究者组织的DAWNBench竞赛中,CIFAR-10图像识别项目训练最快、最便宜的前三名均由fast.ai相关研究者取得;他表示学生们的胜利源于创造性思考,并采用了Leslie Smith提出的super convergence技术。[13]
2018年8月18分钟训练ImageNet模型
2018年8月,fast.ai团队用16个Amazon Web Services实例在18分钟内完成ImageNet训练,计算成本约40美元;他称结果比GoogleGoogleGoogle是一家美国科技公司,由Larry Page与Sergey Brin创办,1998年注册成立,2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条的方案快约40%,同时承认硬件不同、比较并不简单。[14]
2018年11月USF成立WAMRI
2018年11月,USF Data Institute成立由Wicklow Capital捐款资助的Wicklow AI and Medical Research Initiative(WAMRI),研究AI在肿瘤、心脏和神经领域的实际应用。[15]
他曾任University of San Francisco杰出研究科学家,并是WAMRI的创始主席。[5]
2019年8月27日做客Lex Fridman Podcast
他以fast.ai创始人的身份做客Lex FridmanLex FridmanLex Fridman 是生于苏联、在美国长大的计算机科学家和播客主持人,任 MIT 研究科学家,研究人机交互与自动驾驶。他主持的 Lex Fridman Podcast 以数小时长篇对话著称,嘉宾包括多国领导人和科技企业领袖。点击查看完整词条 Podcast第35期,节目以fast.ai的深度学习课程与研究为题。[16]
2020年2月发表fastai论文
2020年2月,他与Sylvain Gugger在期刊Information第11卷第2期发表论文Fastai: A Layered API for Deep Learning。[17]
论文介绍的fastai第2版既为实践者提供现成组件,也为研究者提供可组合的底层模块;作者当时预计约在2020年7月正式发布。[18]
2020年4月发起#Masks4All
2020年新冠疫情期间,他在USF深度学习课上讨论口罩研究后发起#Masks4All运动,为The Washington Post华盛顿邮报《华盛顿邮报》(The Washington Post)是1877年在华盛顿创刊的美国日报,曾因Pentagon Papers案和Watergate调查闻名;该报1933年起由Meyer–Graham家族经营八十年,2013年起归Jeff Bezos个人所有。点击查看完整词条撰写评论并上CNNCNNCNN(Cable News Network,美国有线电视新闻网)是总部位于亚特兰大的新闻机构,1980年6月1日由 Ted Turner 创办,是全球首个24小时全天候电视新闻频道;它先后归属 Turner Broadcasting System、Time Warner、AT&T 与 Warner Bros. Discovery,2026年10月起随 Warner Bros. Discovery 归入 Skydance Corporation,也是白宫电视采访池的五家轮值电视网之一。点击查看完整词条节目,倡导公众佩戴口罩。[19]
2020年7月出版Deep Learning for Coders with fastai and PyTorch
2020年7月,他与Sylvain Gugger合著的Deep Learning for Coders with fastai and PyTorch由O’Reilly出版,全书621页,面向熟悉Python但数学背景有限的程序员。[20]
2021年1月口罩证据综述发表于PNAS
2021年1月,他作为第一作者在Proceedings of the National Academy of Sciences第118卷第4期发表口罩证据综述;文章认为戴口罩可降低每次接触的传播风险,并建议政府鼓励公众普遍佩戴。[21]
2022年3月受聘昆士兰大学荣誉教授
2022年3月,昆士兰大学电气工程与计算机科学学院聘他为荣誉教授,并从当年4月起由他在该校讲授fast.ai为期七周的Practical Deep Learning for Coders课程;当时他还担任platform.ai首席科学家。[22]
2023年12月12日创办Answer.AI
2023年12月12日,他宣布成立AI研发实验室Answer.AI并任创始CEO,Lean Startup提出者Eric Ries任创始董事,Decibel VC投资1000万美元;他表示其使命与fast.ai相同,团队为全远程。[23]
2024年Answer.AI的开源项目与政策文章
2024年3月6日,Answer.AI发布首个项目:结合FSDP与QLoRA的开源系统,可在两块24GB消费级游戏显卡上训练700亿参数语言模型,合作者包括Tim Dettmers及Hugging Face的Titus von Koeller等人。[24]
同年他撰文认为加州SB 1047法案限制开源AI会降低安全性(4月29日),并发布网页框架FastHTML(8月3日)和让网站向大语言模型提供信息的/llms.txt提案(9月3日)。[25]
2024年11月7日fast.ai并入Answer.AI
2024年11月7日,他宣布fast.ai加入Answer.AI,并推出基于自研平台solveit的课程How To Solve It With Code,提倡人与AI小步协作的Dialog Engineering;他后来补记,首期课程在发布24小时内报满,新一期于2025年11月3日开课。[26]
2025年PyTorch Conference主题演讲嘉宾
他名列Linux Foundation主办的PyTorch Conference 2025主题演讲嘉宾。[27]
2026年6月4日在AI Engineer Melbourne发表主题演讲
他在墨尔本Federation Square举行的AI Engineer Melbourne大会上发表主题演讲。[28]
截至2026年10月:研究与学术职务
他是昆士兰大学荣誉教授、Stanford UniversityStanford UniversityStanford University是美国加利福尼亚州的研究型大学,由Leland与Jane Stanford于1885年创立,1891年开学。点击查看完整词条的Digital Fellow,并开发了fastai软件库;fast.ai称Enlitic曾两度入选MIT Technology Review全球50家最聪明公司,Optimal Decisions Group后归LexisNexis所有。[1]
关联机构、网站与公开账号
fast.ai:官网:https://www.fast.ai/(在新窗口打开)[10]
Answer.AI:官网:https://www.answer.ai/(在新窗口打开)[23]
FastMail:官网:https://www.fastmail.com/(在新窗口打开)[3]
Kaggle:官网:https://www.kaggle.com/(在新窗口打开)[1]
来源
- About – fast.ai(在新窗口打开)
- Opera buys Aussie e-mail service FastMail.FM(在新窗口打开)
- FastMail sale to Opera: the story from one of the owners(在新窗口打开)
- ChoicePoint Acquires Optimal Decisions Group(在新窗口打开)
- Jeremy Howard - Stanford Digital Economy Lab(在新窗口打开)
- Kaggle president on how they did it, and tips on how to tell your start-up’s story to raise millions from investors(在新窗口打开)
- Aussie data mining firm snaps PayPal co-founder as chairman after $11m funding round(在新窗口打开)
- A Startup Hopes to Teach Computers to Spot Tumors in Medical Scans(在新窗口打开)
- The wonderful and terrifying implications of computers that can learn(在新窗口打开)
- Launching fast.ai(在新窗口打开)
- Universal Language Model Fine-tuning for Text Classification(在新窗口打开)
- ACL 2018: Universal Language Model Fine-tuning for Text Classification(在新窗口打开)
- An AI speed test shows clever coders can still beat tech giants like Google and Intel(在新窗口打开)
- A small team of student AI coders beats Google’s machine-learning code(在新窗口打开)
- University of San Francisco unveils AI initiative(在新窗口打开)
- Jeremy Howard: fast.ai Deep Learning Courses and Research | Lex Fridman Podcast(在新窗口打开)
- Fastai: A Layered API for Deep Learning(在新窗口打开)
- fastai A Layered API for Deep Learning(在新窗口打开)
- USF Data Scientist Launches #Masks4All(在新窗口打开)
- Deep Learning for Coders with fastai and PyTorch(在新窗口打开)
- An evidence review of face masks against COVID-19(在新窗口打开)
- Renowned AI expert joins UQ to help develop local talent(在新窗口打开)
- A new old kind of R&D lab – Answer.AI(在新窗口打开)
- You can now train a 70b language model at home – Answer.AI(在新窗口打开)
- Answer.AI - Practical AI R&D(在新窗口打开)
- A New Chapter for fast.ai: How To Solve It With Code – fast.ai(在新窗口打开)
- Keynote Speakers(在新窗口打开)
- Jeremy Howard(在新窗口打开)