Jeremy Howard
Jeremy Howard是數據科學家和創業者,與Rachel Thomas共同創辦致力於普及深度學習的fast.ai,提出語言模型遷移學習方法ULMFiT,並創辦AI研發實驗室Answer.AI。
本頁目錄26 節
詞條資料
1999年前從事管理諮詢
1999年與Rob Mueller創辦FastMail
1999年,他與中學好友Rob Mueller在墨爾本創辦電子郵件服務FastMail.FM。[2]
Rob Mueller回憶,Howard因出差時可用的郵件服務有限而製作了最初的原型,並用個人積蓄資助早期開發;最初兩人是僅有的開發者,同時負責客服和系統管理,FastMail定位為付費的高端郵件服務。[3]
2008年3月Optimal Decisions Group被ChoicePoint收購
澳大利亞公司Optimal Decisions Group為保險業開發分析軟件,利用預測建模、多年期模擬和優化為車險和家財險定價。2008年3月31日,ChoicePoint宣佈收購該公司,條款未披露。[4]
他是該公司的創始CEO。[5]
2010年5月FastMail出售給Opera
2010年5月,挪威瀏覽器公司Opera宣佈收購FastMail.FM,交易條款未披露;部分員工將遷往挪威。[2]
2011—2013年投資Kaggle並出任總裁
他在墨爾本一次統計學聚會上結識Anthony GoldbloomAnthony GoldbloomAnthony Goldbloom 是澳大利亞出生的創業者,數據科學競賽平臺 Kaggle 的聯合創始人兼前首席執行官。Kaggle 於2017年被 Google 收購後,他繼續在 Google 內領導 Kaggle 至2022年;現任銷售情報公司 Sumble 聯合創始人兼首席執行官,併為 AIX Ventures 投資合夥人。點擊查看完整詞條,成為數據科學競賽平臺KaggleKaggleKaggle 是面向數據科學家和機器學習從業者的在線社區與競賽平臺,用戶可在平臺上參加機器學習競賽、查找和發佈數據集、編寫並分享分析代碼。它於2010年由 Anthony Goldbloom 與 Ben Hamner 創辦,2017年被 Google 收購,現為 Google 旗下業務。點擊查看完整詞條的首位天使投資人;他也曾在Kaggle競賽中排名第一,後任Kaggle總裁兼首席數據科學家。[6]
2011年11月,Kaggle完成1100萬美元A輪融資,投資方包括Index Ventures、Khosla VenturesKhosla VenturesKhosla Ventures(KV)是 Sun Microsystems 創始首席執行官 Vinod Khosla 於2004年創辦的美國風險投資公司,總部位於加州 Menlo Park。它早期重倉清潔技術,2019年成為 OpenAI 的首家風險投資方,投資組合還包括 DoorDash、Block(原 Square)、Impossible Foods 與 Rocket Lab 等公司。點擊查看完整詞條和SV AngelSV AngelSV Angel 是天使投資人 Ron Conway 於2009年與前 Google 高管 David Lee 共同創辦的舊金山風險投資機構,通常在種子輪中小額跟投,投資過 Airbnb、Pinterest 和 Dropbox 等公司;2018年宣佈不再向外部投資者募集新基金,2022年起又設立成長基金。點擊查看完整詞條,PayPalPayPalPayPal Holdings, Inc.(納斯達克代碼 PYPL)是美國數字支付公司,經營 PayPal、Venmo、Braintree、Xoom 等支付品牌,為全球消費者和商戶提供線上與線下支付、轉賬及消費信貸服務。點擊查看完整詞條聯合創始人Max Levchin出任董事長;公司已將業務遷至舊金山。[7]
2014年8月領導新公司Enlitic
2014年8月,他是新公司Enlitic的聯合創始人兼CEO;該公司用大量匿名醫學影像訓練計算機識別腦瘤等病變,併為醫生標出可疑之處。[8]
2014年12月TEDxBrussels演講
2014年12月,他在TEDxBrussels發表演講The wonderful and terrifying implications of computers that can learn,介紹深度學習的進展;截至本條目撰寫時,該演講在TED網站的播放次數約278萬次。[9]
2016年10月7日與Rachel Thomas創辦fast.ai
2016年10月7日,他與數學博士Rachel Thomas宣佈成立研究實驗室fast.ai,目標是讓各領域專家自己使用深度學習;首門課程通過University of San Francisco的Data Institute開設。[10]
2018年1月發表ULMFiT論文
2018年1月18日,他與Sebastian Ruder在arXiv發表論文,提出可用於各類自然語言處理任務的遷移學習方法ULMFiT(Universal Language Model Fine-tuning);論文稱該方法在六項文本分類任務上超過此前最佳水平,多數數據集上的錯誤率降低18%至24%。[11]
該論文入選2018年7月15日至20日在墨爾本舉行的第56屆計算語言學協會年會(ACL 2018)。[12]
2018年5月fast.ai團隊在DAWNBench奪冠
在Stanford研究者組織的DAWNBench競賽中,CIFAR-10圖像識別項目訓練最快、最便宜的前三名均由fast.ai相關研究者取得;他表示學生們的勝利源於創造性思考,並採用了Leslie Smith提出的super convergence技術。[13]
2018年8月18分鐘訓練ImageNet模型
2018年8月,fast.ai團隊用16個Amazon Web Services實例在18分鐘內完成ImageNet訓練,計算成本約40美元;他稱結果比GoogleGoogleGoogle是一家美國科技公司,由Larry Page與Sergey Brin創辦,1998年註冊成立,2015年成為Alphabet旗下企業。其業務涵蓋互聯網搜索、廣告、軟件平臺、雲計算及人工智能。點擊查看完整詞條的方案快約40%,同時承認硬件不同、比較並不簡單。[14]
2018年11月USF成立WAMRI
2018年11月,USF Data Institute成立由Wicklow Capital捐款資助的Wicklow AI and Medical Research Initiative(WAMRI),研究AI在腫瘤、心臟和神經領域的實際應用。[15]
他曾任University of San Francisco傑出研究科學家,並是WAMRI的創始主席。[5]
2019年8月27日做客Lex Fridman Podcast
他以fast.ai創始人的身份做客Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人,任 MIT 研究科學家,研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱,嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast第35期,節目以fast.ai的深度學習課程與研究為題。[16]
2020年2月發表fastai論文
2020年2月,他與Sylvain Gugger在期刊Information第11卷第2期發表論文Fastai: A Layered API for Deep Learning。[17]
論文介紹的fastai第2版既為實踐者提供現成組件,也為研究者提供可組合的底層模塊;作者當時預計約在2020年7月正式發佈。[18]
2020年4月發起#Masks4All
2020年新冠疫情期間,他在USF深度學習課上討論口罩研究後發起#Masks4All運動,為The Washington Post華盛頓郵報《華盛頓郵報》(The Washington Post)是1877年在華盛頓創刊的美國日報,曾因Pentagon Papers案和Watergate調查聞名;該報1933年起由Meyer–Graham家族經營八十年,2013年起歸Jeff Bezos個人所有。點擊查看完整詞條撰寫評論並上CNNCNNCNN(Cable News Network,美國有線電視新聞網)是總部位於亞特蘭大的新聞機構,1980年6月1日由 Ted Turner 創辦,是全球首個24小時全天候電視新聞頻道;它先後歸屬 Turner Broadcasting System、Time Warner、AT&T 與 Warner Bros. Discovery,2026年10月起隨 Warner Bros. Discovery 歸入 Skydance Corporation,也是白宮電視採訪池的五家輪值電視網之一。點擊查看完整詞條節目,倡導公眾佩戴口罩。[19]
2020年7月出版Deep Learning for Coders with fastai and PyTorch
2020年7月,他與Sylvain Gugger合著的Deep Learning for Coders with fastai and PyTorch由O’Reilly出版,全書621頁,面向熟悉Python但數學背景有限的程序員。[20]
2021年1月口罩證據綜述發表於PNAS
2021年1月,他作為第一作者在Proceedings of the National Academy of Sciences第118卷第4期發表口罩證據綜述;文章認為戴口罩可降低每次接觸的傳播風險,並建議政府鼓勵公眾普遍佩戴。[21]
2022年3月受聘昆士蘭大學榮譽教授
2022年3月,昆士蘭大學電氣工程與計算機科學學院聘他為榮譽教授,並從當年4月起由他在該校講授fast.ai為期七週的Practical Deep Learning for Coders課程;當時他還擔任platform.ai首席科學家。[22]
2023年12月12日創辦Answer.AI
2023年12月12日,他宣佈成立AI研發實驗室Answer.AI並任創始CEO,Lean Startup提出者Eric Ries任創始董事,Decibel VC投資1000萬美元;他表示其使命與fast.ai相同,團隊為全遠程。[23]
2024年Answer.AI的開源項目與政策文章
2024年3月6日,Answer.AI發佈首個項目:結合FSDP與QLoRA的開源系統,可在兩塊24GB消費級遊戲顯卡上訓練700億參數語言模型,合作者包括Tim Dettmers及Hugging Face的Titus von Koeller等人。[24]
同年他撰文認為加州SB 1047法案限制開源AI會降低安全性(4月29日),併發佈網頁框架FastHTML(8月3日)和讓網站向大語言模型提供信息的/llms.txt提案(9月3日)。[25]
2024年11月7日fast.ai併入Answer.AI
2024年11月7日,他宣佈fast.ai加入Answer.AI,並推出基於自研平臺solveit的課程How To Solve It With Code,提倡人與AI小步協作的Dialog Engineering;他後來補記,首期課程在發佈24小時內報滿,新一期於2025年11月3日開課。[26]
2025年PyTorch Conference主題演講嘉賓
他名列Linux Foundation主辦的PyTorch Conference 2025主題演講嘉賓。[27]
2026年6月4日在AI Engineer Melbourne發表主題演講
他在墨爾本Federation Square舉行的AI Engineer Melbourne大會上發表主題演講。[28]
截至2026年10月:研究與學術職務
他是昆士蘭大學榮譽教授、Stanford UniversityStanford UniversityStanford University是美國加利福尼亞州的研究型大學,由Leland與Jane Stanford於1885年創立,1891年開學。點擊查看完整詞條的Digital Fellow,並開發了fastai軟件庫;fast.ai稱Enlitic曾兩度入選MIT Technology Review全球50家最聰明公司,Optimal Decisions Group後歸LexisNexis所有。[1]
關聯機構、網站與公開賬號
fast.ai:官網:https://www.fast.ai/(在新窗口打開)[10]
Answer.AI:官網:https://www.answer.ai/(在新窗口打開)[23]
FastMail:官網:https://www.fastmail.com/(在新窗口打開)[3]
Kaggle:官網:https://www.kaggle.com/(在新窗口打開)[1]
來源
- About – fast.ai(在新窗口打開)
- Opera buys Aussie e-mail service FastMail.FM(在新窗口打開)
- FastMail sale to Opera: the story from one of the owners(在新窗口打開)
- ChoicePoint Acquires Optimal Decisions Group(在新窗口打開)
- Jeremy Howard - Stanford Digital Economy Lab(在新窗口打開)
- Kaggle president on how they did it, and tips on how to tell your start-up’s story to raise millions from investors(在新窗口打開)
- Aussie data mining firm snaps PayPal co-founder as chairman after $11m funding round(在新窗口打開)
- A Startup Hopes to Teach Computers to Spot Tumors in Medical Scans(在新窗口打開)
- The wonderful and terrifying implications of computers that can learn(在新窗口打開)
- Launching fast.ai(在新窗口打開)
- Universal Language Model Fine-tuning for Text Classification(在新窗口打開)
- ACL 2018: Universal Language Model Fine-tuning for Text Classification(在新窗口打開)
- An AI speed test shows clever coders can still beat tech giants like Google and Intel(在新窗口打開)
- A small team of student AI coders beats Google’s machine-learning code(在新窗口打開)
- University of San Francisco unveils AI initiative(在新窗口打開)
- Jeremy Howard: fast.ai Deep Learning Courses and Research | Lex Fridman Podcast(在新窗口打開)
- Fastai: A Layered API for Deep Learning(在新窗口打開)
- fastai A Layered API for Deep Learning(在新窗口打開)
- USF Data Scientist Launches #Masks4All(在新窗口打開)
- Deep Learning for Coders with fastai and PyTorch(在新窗口打開)
- An evidence review of face masks against COVID-19(在新窗口打開)
- Renowned AI expert joins UQ to help develop local talent(在新窗口打開)
- A new old kind of R&D lab – Answer.AI(在新窗口打開)
- You can now train a 70b language model at home – Answer.AI(在新窗口打開)
- Answer.AI - Practical AI R&D(在新窗口打開)
- A New Chapter for fast.ai: How To Solve It With Code – fast.ai(在新窗口打開)
- Keynote Speakers(在新窗口打開)
- Jeremy Howard(在新窗口打開)