ABAB Pedia

Jonathan Ross

Jonathan Ross是AI芯片公司Groq的创始人和前首席执行官,此前在GoogleGoogleGoogle是一家美国科技公司,由Larry Page与Sergey Brin创办,1998年注册成立,2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条发起了后来成为Tensor Processing Unit(TPU)的项目。2025年12月Groq把推理技术非独家授权给NVIDIANVIDIANVIDIA 是美国半导体与计算技术公司,提供图形处理器、人工智能基础设施、网络互连和计算软件,在纳斯达克以 NVDA 为代码上市。点击查看完整词条后,他转入NVIDIA任职。

本页目录26 节
词条资料

早年:离开高中、学会编程与第一份工作

Fortune在2024年8月写道,他因为觉得无聊从高中辍学,学会了计算机编程。⁠[2]

他在2026年的访谈中说,自己从18岁起就没有驾照,因为不觉得需要开车,宁愿把时间用来思考和做有用的事;他说从19岁起一直如此。⁠[5][5]

求学:Hunter College与New York University的Courant Institute

按他本人的讲述,他没有正式注册入学,在工作之余开始到Hunter College上课,得到那里一位教授的关照,成绩不错,随后转入New York UniversityNew York UniversityNew York University(纽约大学)是位于美国纽约市的私立大学,1831年创办,是美国规模最大的私立大学之一。点击查看完整词条。⁠[3][3]

Fortune写道,他在Hunter College读过一段时间后进入New York University,以本科生身份修了两年博士课程,然后退学;他开玩笑说:“I didn’t want to cap my earning opportunity by graduating from something”(我不想因为从哪里毕业而给自己的收入设上限)。⁠[2]

Groq转载的一篇EE Times访谈所附简介写道,他在New York University的Courant Institute学习数学和计算机科学,二年级时成为第一个修完仅限博士生课程的计算机科学本科生。⁠[6][7]

加入Google:在纽约办公室做广告测试系统

他说,要不是在New York University读过书,自己大概进不了Google:他去参加Google的一场活动,一名曾与他一起上过博士课程的Google员工认出了他,并内部推荐了他。⁠[3][3]

Chamath Palihapitiya写道,他是在Google纽约办公室做广告优化期间进入芯片行业的。他本人说,自己刚到Google时做的是广告方面的测试:团队搭建大型测试系统,对每一次广告查询实时运行100项测试,却没有生产系统那样的预算,只好自己写线程库;他认为这在工程上比生产系统本身更难。⁠[4][3][3]

以20%项目发起后来的TPU

Groq和World Economic Forum的人物简介都写道,他以20%项目的形式发起了后来成为Google Tensor Processing Unit(TPU)的工作,并设计、实现了第一代TPU芯片的核心部分。⁠[8][9]

Chamath Palihapitiya的叙述是:他无意中听到Google语音识别团队抱怨拿不到足够的算力,于是向Google申请了一些预算,开始为他们做一款基于芯片的机器学习加速器,白天做广告业务,晚上同加速器团队一起工作;项目获得Google批准后,他和团队做出了Tensor Processing Unit,并在一年内开始部署到Google的各个数据中心,TPU最终支撑了Google一半以上的算力。⁠[4]

他本人说,所谓20%时间在他那里只能用在工作时间之外:他每天晚上去和语音团队一起做这个与本职项目无关的副业项目,语音团队给他买了一些硬件,经费来自一位副总裁所说的“slush fund”(备用金),也就是剩下的钱。当时公司内另有两个做AI加速器的项目,没有人指望他们这一个能成,这给了团队尝试反直觉做法的余地;他说,项目成功之后,“they brought in the adult supervision”(他们请来了成年人监管)。⁠[3][3]

他回忆,这件事始于2012年:当时还没有哪个机器学习模型在任何任务上胜过人,而语音团队训练出了一个转写语音比人更准的模型,却负担不起把它投入生产的成本。Jeff DeanJeff DeanJeff Dean 是计算机科学家、软件工程师,Discovery Loop 联合创始人兼首席执行官,曾任 Google 首席科学家。他于1999年加入 Google,参与 MapReduce、Bigtable、Spanner、TensorFlow 与机器学习基础设施建设,2026年8月离开 Google 创业。同年7月,他在 Y Combinator Startup School 讨论 AI 创业、工程优化与自动化研究。点击查看完整词条为此向管理层作了只有两页幻灯片的汇报,一页是好消息——机器学习有效,一页是坏消息——公司负担不起;按他的说法,仅语音识别一项就需要把Google全球的数据中心规模扩大到两倍或三倍,按平均每座数据中心10亿美元、20到40座计算,要花200亿至400亿美元。⁠[3][3][3]

他说,Jeff Dean注意到矩阵乘法是占用Google大部分CPU运算的主要算法,团队于是决定围绕它做一台大规模的矩阵乘法引擎,采用了systolic array;另外两个与之竞争的团队走的是更传统的路线,其中一个由一位Turing Award得主带领。他转述说,那位得主谈到TPU时讲过,想出这个办法的人一定年纪很大,因为systolic array早已不时兴;他说想出来的其实是他自己,他当时并不知道什么是systolic array,这个术语还是别人解释给他听的。⁠[3][3][3]

Google研究人员在ISCA 2017发表的论文《In-Datacenter Performance Analysis of a Tensor Processing Unit》把他列为作者之一,论文摘要写明TPU自2015年起部署在Google的数据中心。他说,TPU在Google投入生产大约一年后才对外公布。⁠[10][11]

把AlphaGo移植到TPU

他回忆,当时他已经转到Google X,不再做TPU;一位同在Google X的原TPU团队成员拿来DeepMindGoogle DeepMindGoogle DeepMind 是 Google 旗下的人工智能研究机构,2023年4月由2014年被 Google 收购的 DeepMind 与 Google Research 的 Brain 团队合并而成,由 Demis Hassabis 任首席执行官。它开发了 AlphaGo、AlphaFold 和 Gemini 系列模型,Hassabis 与 John Jumper 因 AlphaFold 的蛋白质结构预测工作获得2024年诺贝尔化学奖。点击查看完整词条的一封邮件,信中说他们有一场设有奖金的比赛,估计会输,问TPU是否真像听说的那样快。他们回答是;DeepMind方面随即回复,比赛在30天后,对手是围棋世界冠军,而试赛已经输了,于是只能把程序移植到TPU上。⁠[5][5][5]

他说,自己最后参与的一件事是让DeepMind的围棋软件AlphaGo在TPU上运行;移植之后,运行完全相同的软件,48个TPU在100盘里赢了170个GPU的配置99盘。他在2026年回忆棋力评分时说,AlphaGo在GPU上的Elo分大约是3200,Lee Sedol大约是3550,换到TPU上之后升到3900左右,并说明自己可能把首位数字记错了,但模型本身完全没有变。⁠[3][3][5][5]

他还说,第二局中著名的第37手在训练所用的棋谱里是万分之一概率的一手,事后在GPU上重跑时,程序始终没有找到这一手,因为它在搜索链条中的位置太深。他由此得出结论:算得更快就能想得更深,模型也就更聪明。⁠[5][5][5]

他在2026年说,如今GPU已经做到和TPU一样好甚至更好,他把这归因于GPU背后有整个行业和生态系统,但认为TPU在当时有一些新颖的创新。⁠[5]

离开Google X的Rapid Eval团队

他说,大公司最后都会变得充满办公室政治,一样东西那么成功,很多人都想把它据为己有,总有更资深的人伸手来拿;他于是转到Google X的Rapid Eval团队,也就是在Google X提出各种疯狂想法的团队。他说自己在那里很开心,但没有一样东西变成生产系统,而他想再做一件从概念到投产、从头做到尾的实事,于是开始向外看。他还说,自己当时完全没有做芯片的打算:他也做出过性能最高的图像分类器,却看到软件和模型都在被免费放出,断定机器学习会走向开源,无法想象围绕它建立一门生意;芯片则不同,造芯片耗时很长,做出创新的东西并推出之后,别人要四年才能仿制,更谈不上超越。⁠[3][3][3][3]

他说,TPU公布之后,别的公司开始打电话找他做AI芯片;有一家公司游说他加入,理由是Google有了自己的芯片就占了很大优势,AI算力不该集中在一处,而他并不认为从一家变成两家算得上多大改进。Chamath Palihapitiya写道,其他超大规模云厂商曾想聘他为它们做定制芯片。⁠[11][4]

Eric Ries在节目说明中写道,他2016年离开Google创办Groq,认为离开的风险小于留在公司里看着项目消亡的风险。⁠[12][1]

与Doug Wightman创办Groq

Forbes写道,他2016年与同为Google工程师的Doug Wightman一起创办Groq,Doug Wightman出任首任首席执行官,几年后离开;同年Groq完成1000万美元融资,由Social Capital领投。⁠[1]

Chamath Palihapitiya写道,自己在2016年领投了Groq的创始轮投资,并写道Ross越来越清楚地看到,拥有新一代AI算力的公司与没有的公司之间会出现差距,于是着手做一款人人都能用到的芯片,创办了Groq。在2024年的那场对谈中,Chamath Palihapitiya讲到,他看到Google对外谈起TPU时十分震惊,认定Google一定知道别人不知道的事,大概几周之后见到了Ross;他说那大概是他做过的最快的一笔投资,当时Ross还没有公司,公司是在支票开出之后才注册的。⁠[4][3][3]

他说,开始融资时团队甚至还不能百分之百确定要做硬件;Chamath Palihapitiya问他会有什么不同的做法,他的回答是软件:在Google,芯片造得出来,但Google的每个团队都有一个人专门手工优化模型;Groq当时刚开始从NVIDIA招人,这些人说NVIDIA也是这样手工优化kernel,他认为这样每个应用都需要一名工程师,无法扩展。于是公司头六个月专注于编译器,他还在Groq禁用了白板,因为大家总想在上面画芯片。他在Pioneers of AI节目中同样说,他的第一条是从软件做起,因为这些AI芯片的软件一团糟,连TPU也要靠手工优化。⁠[3][3][3][11]

他说,只比现有方案好15%不足以让客户换用一种新架构,设计必须好上5到10倍;这个目标使公司可以采用较旧、利用率不高的14纳米工艺,不用外部存储器,并使用较旧的互连技术。⁠[3][3]

Kisaco Research的演讲者页面称他为Groq的“technical founder and CEO”(技术创始人兼首席执行官),并标注他的头衔为Co-Founder & CEO;RAISE Summit的页面同样称他为Co-Founder & CEO。Entrepreneur在2026年7月写道,他执掌这家公司七年。⁠[7][13][14]

创业初期:学做管理者

他在2026年说,创业者首先要从自己擅长的技术工作转向学会管理人,这件事大概让Groq多花了三到四年;他形容刚创业时的自己:“I was a terrible leader”(我是个糟糕的领导者)。他说自己天性爱放权,却把自主权交给了并不适合独立行事的人,结果事情停滞不前,因为那些人习惯被告知该做什么;等他急了亲自去下指令,又因为这种方式在他做来很不自然,大家并不接受。⁠[5][5][5][14]

他在EE Times的访谈中说,自己刚当上首席执行官时不太自信,创办Groq大约两年时,他在领导工作上陷入困境;一家知名公司的首席执行官提出让他跟随旁听一天,此人管理着约2000人,让他从到公司一直跟到离开,包括高度机密的会议在内。他在2026年回忆,那时Groq大约有35人;每场会议他都默默设想自己会怎么决定,结果对方每一次的决定都与他的想法相同,他这才意识到自己缺的是信心。他说,从此他带着信心行事,决定没有变,别人却更愿意听从他的方向。⁠[6][5][5][5]

他在EE Times的访谈中说,那一天里对方三四次停下来同幕僚长复盘,也问他的观察,而他注意到了一些他们没有注意到的有价值的东西,由此体会到以局外人的眼光看问题的价值,此后做重要决定时都有意让在场的人里保留适当的“naivety”(不知情者的眼光)。他还说,这件事让他明白,启发人的更多是一个人的行动而不是这个人本身。⁠[6]

数度濒临资金耗尽与“Groq Bonds”

Forbes写道,2016年那轮融资之后,Groq再融资一直困难;他回忆2019年的低谷时说,公司当时离资金耗尽只有一个月。他说:“Groq nearly died many times”(Groq好几次差点死掉),又说:“We started Groq maybe a little bit early”(我们创办Groq也许早了一点)。⁠[1]

他在2026年解释说,Groq早期的投资人里有一些后来不受其他风险投资机构待见,别人不愿与之合投,所以公司每次融资都很吃力。按他的说法,美国美国美国是位于北美洲、实行联邦制的国家,由50个州、作为合众国政府所在地的哥伦比亚特区以及波多黎各、关岛等属地组成,首都为华盛顿哥伦比亚特区。1776年7月4日,大陆会议通过《独立宣言》。2020年人口普查(2020年4月1日)全国常住人口为331,449,281人(约3.31亿人);众议院435个议席依据人口普查结果在各州之间分配。点击查看完整词条西海岸的风险投资机构往往互相跟随,一家投了其他家都想投,一家放弃了也会让其他家跟着放弃;纽约的投资机构则各做各的分析,并不在意别人怎么做。他说Groq最后的股东里很少有典型的西海岸风险投资机构,更多是东海岸的crossover基金。⁠[5][5][5]

他说,许多年前公司曾有一次离资金耗尽只有大约三周。当时的管理团队已经在拟裁员名单,他审阅名单时看出,照此裁员公司必死无疑:那时产品还没有做出来,公司必须先写成一种前所未有的编译器,让人不必手写所谓的kernel,而名单上正是完成这件事离不开的人。⁠[5][5][5][5]

他的办法是不减人而减薪。公司开了一次全员大会,放出第二次世界大战战争债券式的图片,把方案取名“Groq Bonds”;他说这并不是真正的债券,而是用工资换股权。公司原以为会有很多人离开,结果80%的员工参加,约一半的人把工资降到法定最低水平,他说大约是5万到6万美元,而工程师原本的薪酬是几十万美元。⁠[5][5][5]

他说,这样省下的资金不止三周,接近两个月,而公司后来融到钱的时候账上只剩三周的钱,所以没有这一步公司就已经倒闭。他说方案公布后的人员流失不到10%,也许接近5%,可能比此前还低;他把这种做法概括为“put everyone’s hands on the steering wheel”(让每个人的手都握在方向盘上),意思是坐车的人比开车的人更怕险路,让大家一起参与挽救公司,他们就更愿意承担风险。⁠[5][5]

估值11亿美元、LLM兴起与对快速推理的押注

他在2026年回忆,LLM刚兴起时,GitHub的首席执行官打电话给他,说他们已经能用LLM做代码补全,但即使身在MicrosoftMicrosoftMicrosoft(微软)是由 Bill Gates 和 Paul Allen 于1975年创办、总部位于美国华盛顿州雷德蒙德的科技公司,业务涵盖 Windows、Microsoft 365、Azure、企业软件、人工智能、游戏和设备。点击查看完整词条旗下也拿不到GPU,问能否用Groq的芯片。他去找团队,团队说这种模型在Groq的芯片上跑不了;他觉得恰恰相反,却被说服放弃。第二次出现类似机会时他又被劝住;到第三次,他自己动手算出了性能指标,尽管所有人都不认为做得到,最后实际达到的正是这些数字。⁠[5][5][5]

他说,自己很早就认定快速推理会变得重要,但早期的潜在客户看了演示都问,LLM为什么要比人阅读的速度还快;Groq内部也有很大阻力,大约在2026年往前三四年的那段时间,公司人员流动很大,不少人离开时说快速推理毫无意义。⁠[5][5][5]

他回忆,在ChatGPT引起轰动之前大约三个月,他在一场他称作“SCSP”、有Eric SchmidtEric SchmidtEric Schmidt是技术专家、企业家和慈善家,2001年至2011年任Google首席执行官,其后任Alphabet执行董事长;他曾主持美国人工智能国家安全委员会,2025年起执掌火箭公司Relativity Space。点击查看完整词条参与的活动上看到AnthropicAnthropicAnthropic是一家于2021年成立的人工智能研究与产品公司,开发Claude模型、助手及Claude Code等工具,并以公益公司形式运营。Dario Amodei与Daniela Amodei为共同创办人,其研究涉及模型安全、可解释性和可控性。点击查看完整词条的一个LLM当场回答观众提问,全场却没有什么反应;Special Competitive Studies Project(SCSP)是Eric Schmidt在2021年10月宣布成立、由他牵头的项目。他由此认为,只有让人们用自己的问题亲自试一试,才会明白速度的价值,于是决定把演示直接放到互联网上。⁠[5][5][15]

演示走红与奥斯陆之行

2024年2月5日,Chamath Palihapitiya发表文章,总结他此前的周五主持的一场与Ross的Space对谈,内容包括Groq的创办经过、如何做出好的AI硬件、LLM以及对AI领域主要参与者的影响。⁠[4]

Forbes写道,那年2月他正在奥斯陆向挪威议会议员和科技公司高管演示聊天机器人,游说在欧洲建设一座使用Groq芯片的数据中心;演示略有卡顿,原因是前一天一名开发者的帖子走红,大量新用户涌入,压垮了Groq的服务器。他说:“I just kept checking the numbers”(我不停地查看数字)。⁠[1]

他在2026年回忆,当时他正在各国寻找客户,在挪威做演示时觉得开源模型的查询比平时慢了一点,一查才发现使用量猛增:有人在X上发了一段LLM在Groq上飞快运行的视频,随后大家纷纷用它做出应用并发帖展示。⁠[5][5]

GroqCloud上线与Aramco Digital合作

Groq的管理层页面写道,Sunny Madra把自己创办的Definitive Intelligence卖给了Groq,负责GroqCloud。⁠[8]

在2024年4月发布的那场与Chamath Palihapitiya的对谈里,他说开发者控制台上线30天出头,Groq已有7.5万名开发者,并拿NVIDIA用了七年才达到10万名开发者作比较。Chamath Palihapitiya提到他一个月前在沙特阿拉伯与Saudi Aramco同台宣布了一笔大交易;他回答说,宣布的是将与Aramco Digital合作,规模尚未公布,但要部署的算力会很大。他当时给出的部署目标是当年年底10万个LPU、次年年底150万个,并说150万个LPU大概相当于全世界推理算力的一半;他说已签下的交易合计已超过150万个目标的10%。⁠[3][3][3][3][3]

Groq融资6.4亿美元,估值28亿美元

Fortune写道,此时Groq有200名员工,30万名开发者通过它的AI云服务使用其方案和硬件,其中绝大多数免费使用;他说由于产能有限,付费权限只开放给了“little over 30 customers”(三十多家客户)。他说当年会有不错的收入,但没有给出数字,并说公司打算把融到的钱收回来,在所部署的硬件上赚回每一美元,无意做一家靠风险投资过活的创业公司。Forbes给出的GroqCloud注册人数是35万,并写道有消息人士称Groq预计当年销售额1亿美元,而这些消息人士怀疑这个目标能否实现。⁠[2][1]

Forbes写道,Mark ZuckerbergMark ZuckerbergMark Zuckerberg 是 Facebook 创始人、Meta 董事长兼首席执行官,也是 Chan Zuckerberg Initiative 共同创始人。他的事业涉及社交网络、虚拟现实与人工智能。点击查看完整词条宣布Groq将是为Meta的Llama 3.1模型提供推理芯片的公司之一。文章写他在Groq位于加利福尼亚州加利福尼亚州加利福尼亚州是美国濒临太平洋的一个州,首府为Sacramento,最大城市为洛杉矶。加利福尼亚于1850年9月9日加入联邦,为第31个州。2020年人口普查(2020年4月1日)人口为39,538,223人(约3953.8万人),居各州之首。点击查看完整词条San Jose的半导体实验室里受访;他在文中说:“Compute is the new oil”(算力是新的石油),谈到Groq的处境时说:“It’s sort of like we’re Rookie of the Year”(我们有点像年度最佳新秀),并说Groq离NVIDIA还差得远。⁠[1]

在LEAP 2025宣布沙特阿拉伯15亿美元承诺

2025年2月10日,Groq发布公告称,公司获得沙特阿拉伯王国15亿美元的承诺,用于扩大交付其基于LPU的AI推理基础设施,此事在LEAP 2025上宣布。公告称他为Groq首席执行官兼创始人,并引述他说,能支持沙特阿拉伯的2030愿景是Groq的荣幸;公告写道,他在LEAP 2025上与Saudi Aramco首席技术官Ahmad O. Al-Khowaiter等人一同演示了实时运行的推理型LLM、一款沙特阿拉伯研发的模型以及英语和阿拉伯语的文字转语音模型。⁠[16]

公告称,Groq从设在沙特阿拉伯达曼的数据中心通过GroqCloud向全球客户提供AI推理服务;公告写道,在这项协议之前,Groq于2024年12月建成了公告所称的该地区最大的推理集群,八天内上线。⁠[16]

他在Pioneers of AI节目中说,Groq与沙特阿拉伯谈了大约一年,从决定推进到完成只用了约四个月,合同签署51天后已有将近2万枚芯片在运行;他说这批芯片效果很好,双方已签约在当年大幅扩大规模。⁠[11]

Forbes在2026年3月的文章谈到Groq在沙特阿拉伯的业务时写道,他一年前在20VC20VC20VC是一家总部位于伦敦、由Harry Stebbings创办的风险投资与媒体平台,投资阶段覆盖pre-seed、seed、Series A和成长阶段,并运营20GROWTH、20SALES与20Product专项伙伴网络。点击查看完整词条播客中说,公司并不是融到了15亿美元,那是营业收入;一名前员工的说法则是,这个数字指的是将要建设的各项服务的累计价值。文章还写道,按三名前员工的说法,与Aramco Digital的交易是收入分成安排:Groq以较低的价格向Aramco出售芯片,Aramco出资建设数据中心,双方分享芯片算力带来的收入。⁠[17]

Groq融资7.5亿美元,投后估值69亿美元

TechCrunchTechCrunchTechCrunch 是2005年创办的美国科技新闻媒体,由 Michael Arrington 与 Keith Teare 联合创办,总部位于旧金山,主要报道科技公司、创业与风险投资,并举办 TechCrunch Disrupt 等活动。其所有权先后经历 AOL、Verizon 和 Yahoo 体系,2025年由 Regent 宣布收购。点击查看完整词条在2025年9月17日写道,Groq确认完成7.5亿美元融资,投后估值69亿美元。这一轮由Disruptive Technology AdvisersDisruptive Technology AdvisersDisruptive Technology Advisers(品牌名 DISRUPTIVE)是总部位于美国得克萨斯州达拉斯的私人科技公司投资机构,自2012年起通过旗下私募基金投资未上市科技企业,是在美国证券交易委员会注册的投资顾问;在2026年8月更新的 Form ADV 中,它申报管理的受监管资产约为76.8亿美元。点击查看完整词条领投,BlackRock、Neuberger BermanNeuberger BermanNeuberger Berman是一家成立于1939年的全球投资管理机构,总部位于纽约。其官方资料使用Neuberger作为品牌名称。点击查看完整词条、Deutsche Telekom Capital Partners等参投,原有投资方Samsung、Cisco思科思科(Cisco Systems, Inc.)是美国网络技术公司,1984年成立,总部位于加利福尼亚州圣何塞,股票在纳斯达克上市。点击查看完整词条、D1和AltimeterAltimeter CapitalAltimeter Capital是Brad Gerstner于2008年创办的美国科技投资机构,通过公开市场和私募市场基金投资企业。其法律主体为Altimeter Capital Management, LP,在Menlo Park和Boston设有办公室;已披露的投资活动包括Snowflake融资、Grab上市交易以及人工智能企业融资。点击查看完整词条也有参与;7月消息传出时,外界所说的规模约为6亿美元、估值接近60亿美元。⁠[18]

Groq向NVIDIA授权推理技术,本人转入NVIDIA

2025年12月24日,Groq宣布与NVIDIA签署一项非独家的推理技术授权协议。公告称,创始人Jonathan Ross、总裁Sunny Madra和Groq团队的其他成员将加入NVIDIA,帮助推进和扩展获授权的技术;Groq继续作为独立公司运营,由Simon Edwards出任首席执行官,GroqCloud照常运行。⁠[19]

Forbes在2026年3月的文章中写道,此前的那个冬天,他带着让两家公司的技术协同工作的提议走进与Jensen Huang黄仁勋黄仁勋(Jensen Huang)是 NVIDIA 联合创始人、总裁兼首席执行官,自1993年公司成立起一直担任董事。他具有电气工程教育与半导体行业背景,在其任内,NVIDIA 的业务从图形芯片拓展至 GPU 通用计算、人工智能和数据中心计算平台。点击查看完整词条的会议,同时希望获准购买约10万个Blackwell单元;三天后Jensen Huang打来电话说应该尽快推进,三周后的平安夜,NVIDIA宣布了这笔200亿美元的交易,获得Groq产品的授权并聘用其大部分员工。他本人的说法是,从最初在电话里提出这个想法到款项到账大约只有三周;Groq当时已经把GPU和LPU集成在一起,本打算自己部署,才向NVIDIA提出购买约10万个GPU,Jensen Huang看过后认为不如把这套方案提供给NVIDIA的所有客户。⁠[17][5][5][5]

他说,把两种芯片放在一起的主意出自时任首席运营官Sunny Madra,他自己起初并不觉得这会是多大的事,所以没有提出;团队为此做了三四个月或更久,弄清了GPU更擅长LLM解码层中的attention部分,LPU更擅长应用权重的部分,然后把各部分分别放到合适的芯片上。他说Groq不怕把成果拿给NVIDIA看,因为Groq想成为NVIDIA的客户。Forbes写道,他把促成这笔交易归功于Sunny Madra。⁠[5][5][5][17]

他说,这一次Groq并没有接近资金耗尽;这笔授权的金额只是公司上一轮估值的两倍多一点,而公司当时也有能力按这个金额融资。他说达成合作时Groq约有450名员工,但因为团队极富创造力,管理难度在许多方面更像是管理5000人。⁠[5][5][5][5]

Forbes的文章估计,按约9%的持股计算,他税后将获得约9.5亿美元现金;文章写道,据称有30亿美元是为转入NVIDIA的员工预留的,他得到的NVIDIA股票报酬很可能占其中相当大的一部分,这部分股票解禁后他将成为文章所说的“multimillonario”(巨富)。他没有就自己的财富置评;文章认为,如果交易是以股票交易或资产出售的方式完成,而不是以现金为主、要双重纳税的授权协议,他的身家会高得多。文章列出的其他主要受益者有投资人Chamath Palihapitiya及其公司Social Capital、持股估计与他相近的联合创始人Doug Wightman,以及Sunny Madra。⁠[17]

Forbes的文章还写道,两名消息人士称交易达成前后Groq的年收入在1亿美元上下,而公司最初对2025年的预测据称是20亿美元,后来降到5亿美元;Groq在澳大利亚向EquinixEquinixEquinix, Inc.是总部位于美国加利福尼亚州红木城的数字基础设施公司,在全球经营数据中心与互连业务。点击查看完整词条支付至多3亿美元以托管其LPU。文章称Groq最重要的合同和主要客户曾是沙特阿拉伯的主权基金;Ross则说公司经营良好、达到了一些目标,正在同其他大客户洽谈,但没有就2025年的收入置评。文章还写道,前员工说外界原本预期交易后留下的这家公司会被出售,但到文章发表时还没有发生。⁠[17]

Forbes的文章写他此时是NVIDIA的首席软件架构师,Sunny Madra则成为NVIDIA的副总裁;Entrepreneur在2026年7月写道,他于2025年12月离开Groq,全职加入NVIDIA担任首席软件架构师。Forbes的文章记下他的回忆:他曾以为自己会在Groq干到生命尽头,一直告诉大家公司要承担全世界一半的推理;谈到刚到NVIDIA的感受,他说就像孩子进了玩具店。他还说,独立运营的Groq仍在作为LPU云服务商发展。⁠[17][14]

NVIDIA在GTC发布Groq 3 LPX

2026年3月16日,Jensen Huang在GTC主题演讲中宣布,NVIDIA将用Groq的LPU提升新一代Vera Rubin机架系统的推理性能;The Register写道,每个LPX机架装有256个LPU,预计2026年晚些时候随Vera Rubin一同出货。NVIDIA的产品页面把NVIDIA Groq 3 LPX称为面向Vera Rubin平台的推理加速器,把Rubin GPU与LPU配合使用。⁠[22][23]

Forbes写道,这次集成使用的是Groq的第三代芯片;按Ross的说法,第二代芯片推出时已经延期,尚未形成规模,Groq转向新一代是因为把第二代与NVIDIA的产品集成所花的时间会和用第三代从头开始一样长。他还说,产量将是NVIDIA级别的规模而不是试点,他参加了许多场客户会议;文章写道当时尚未公布任何买家。⁠[17]

他在2026年7月发布的访谈中谈到自己在NVIDIA的观察:这是他见过的大型组织里办公室政治最少的一家,Jensen Huang不会分头找人单独谈、让各人听到不同的话。他还说,自己在Groq时过于热衷“3D chess”式的算计,而Jensen Huang只问客户需要什么,只卖客户真正需要的东西,并始终对客户讲自己相信并能证明的实话。⁠[5][5][5][5]

他离开后的Groq更换管理层并再融资

2026年6月22日,Groq宣布获得6.5亿美元新的增长资金,由Disruptive Technology Advisers和Infinitum领投;公告列出的管理层为董事长Alex Davis(Disruptive的创始人兼首席执行官)、首席执行官Adam Winter和首席财务官Matt Eng,并把公司当前的方向追溯到2025年12月与NVIDIA签署的非独家授权协议。Entrepreneur写道,Adam Winter此前是该公司的副总裁。⁠[24][14]

2026年8月17日,Groq宣布完成由Disruptive Technology Advisers领投的3.5亿美元A轮融资,NVIDIA计划参投,公司估值35亿美元;公告称,连同6月的6.5亿美元,Groq近期共融资10亿美元,在北美、欧洲、中东和亚太运营13座数据中心。⁠[25]

接受 David Senra 采访

对谈从Groq与NVIDIA的交易谈起,随后依次谈到GPU与LPU为何互补、AI与AI对话时速度为何更重要、智能体支付、他的业余项目和每日简报,以及他关于提问能力的看法。⁠[5][5][5][5][5][5]

接着他谈了对领导力的理解、自己放权式的管理风格、学做管理者的经过、在NVIDIA学到的东西、跟随一位首席执行官旁听的经历、Groq的融资困难、他对风险投资行为的看法(以Keynesian beauty contest作比),以及与NVIDIA达成合作的经过。⁠[5][5][5][5][5][5][5][5]

后半部分的话题包括:速度为何能提高模型质量、TPU与AlphaGo的往事、“reality quotient”与选择主导性的博弈、变革管理、“return on luck”与错过的机会、对快速推理的押注和演示走红、“intentional leadership”、“Groq Bonds”、招聘用的“people spec”、损失厌恶、他所说的“manufactured discontent”、对算力不足的不满,以及AI对软件开发和教育的影响。⁠[5][5][5][5][5][5][5][5][5][5][5][5][5][5]

Entrepreneur在2026年7月7日发表文章,引述他在节目中对自己早年领导方式的反省;文章把这档节目称为Founders播客。⁠[14]

主题:管理Groq的方式

他说自己的领导方式是定一个高层次的方向,而不是告诉人怎么做:他花了一段时间才找到一个简单到可以铸在纪念币(challenge coin)上的目标,Groq每个人都有一枚这样的纪念币,上面写着每秒2500万token,还有一条上升的曲线。他解释说,这个目标指的是Groq数据中心的推理产能,每个人都能把自己的工作同它联系起来:把芯片做快、把软件做快、多部署、降低电力成本、多找数据中心、多流片、优化供应链。⁠[5][5][5]

他说自己招的是非常自主、常常自行其是的人,这些人在大多数公司环境里会很糟糕;他也承认,人越优秀越难管理。⁠[5][5][5]

他说Groq在招聘时看重“reality quotient”(有别于智商):最基本的是能认清现实,最高的形式是能选出正在进行的各种博弈里起主导作用的那一种。他举的例子是MySpace关注注册账户数,FacebookFacebookFacebook(脸书)是 Meta 旗下的社交网络平台,2004年从哈佛校园上线,逐步发展出动态消息、照片与视频分享、群组及 Marketplace 等功能。平台保留 Facebook 名称,母公司在2021年采用 Meta 品牌;两者的用户与财务数据应按各自口径理解。点击查看完整词条关注月活跃用户数。⁠[5][5][5]

Groq有一份带版本号、会不断修订的“people spec”,像产品规格一样写明公司要找什么样的人。他举出的正面特质有“return on luck”(善于把握好运)和“poetic design”(用最少的表达实现目标的设计),各自对应的反面是挥霍好运和堆砌功能的设计。⁠[5][5][5]

他说自己原先很会招到聪明有才的人,但其中不少人给组织带来了问题,因为他总能找出一个应该录用对方的理由。Groq后来请来一位人力资源负责人,她很善于发现人的问题并请他们离开;他看着她的做法,才明白自己过去的招聘方式完全错了,于是把招聘时寻找优点改为寻找缺点。他的区分是:培养人时要给人看正面的样子,挑选人时要排查负面的特质。⁠[5][5][5][5]

谈到在硅谷组建AI团队,他在2024年与Chamath Palihapitiya交谈时说,AI研究人员在AI上很出色,但这是一个新领域,他们资历尚浅;他的建议是去聘请最有经验、懂得按时交付的资深工程师,让他们去学AI,因为这比让AI研究人员补上20年部署生产代码的经验要快。⁠[3][3]

他说人天生有损失厌恶,有人还给它配了一个数字:损失带来的痛苦是同等收益的六倍;例如一笔投资亏掉20%会让人很难受,而没有投进一个涨了一倍的项目却没有那么难受,尽管后者的机会成本高得多。⁠[5][5]

他还看重一种他称为“booking the win early”(提前把胜利记到账上)的特质:在架构会议上有人说某个做法能让芯片快一倍,别人听到的是下一代芯片再做,他听到的是这一代不做就只有一半的速度。他说,自己一听到某件事可行就把它当成已经到手、不做就是损失,招聘时也找有同样心态的人。⁠[5][5][5]

他说,多数人害怕把自己摆出去承受失败,因而不敢抱太高的期望;创业者则是一开公司就认定自己会成功,告诉所有人,去融资,押上自己的名誉,从而被迫拿出表现。这番话是他谈到David Senra的Founders播客里讲一位篮球明星的那一期时说的:他猜想那位球星什么都要打赌、不停地挑衅其他球员,是有意让失败变得丢脸,以此逼自己发挥出超常水平。⁠[5][5][5]

他说,做颠覆性的事意味着他的工作是全职的变革管理,而创始人常遇到的困难是:自己看到了主导性的博弈并讲给大家,大家却想沿用旧办法,或者更在意流程。⁠[5][5]

他在EE Times的访谈中说自己还是一名比较新的首席执行官,领导风格仍在形成之中。他列出的原则有:说难以反驳的话;不要私下耳语,要公开广播;雇用比自己更聪明、更优秀的人,然后让开;有效比正确更重要;不断学习;培养人;穿T恤和牛仔裤;让别人发言;把团队的时间看得比自己的时间更宝贵;把人才密度做到最高;对抗重力;习惯不舒服的状态;恐惧说明你在做要紧的事;招募、授权、赞赏、决断;以及“Every. Word. Matters.”(每一个字都要紧)。⁠[6]

同一篇访谈里,被问到给刚入行的工程师和想创业的人什么建议时,他说自己把建议写了又删,因为说比做容易,而且建议要看具体情境,所以只讲几个值得留意的信号:有人说“That can’t possibly be right, because if it was, everyone would do it”(这不可能是对的,要是对的大家早就这么做了)时要留心,因为这说明想到的东西要么非常好、要么非常蠢,总之不平庸,而一切突破起初都是没有人去做的事;感觉不到恐惧,说明所做的事并不重要;团队就是你愿意把草稿拿给他们看的那些人,如果觉得需要瞒着某人,那就说明你并不是在同自己的团队共事。被问到技术给社会带来的最大的威胁时,他的回答是自满。⁠[6]

他说,成功的企业家身上常有一种他称为“manufactured discontent”的东西。他讲起一次同一些企业家和其他领域成功人士的谈话:企业家虽然更有钱,对自己的财富却最不满意,其他人不满意的则是自己过去的作品;在场每个人都有某种驱动自己的不满。回看自己,他说在Groq找到产品与市场的契合之前是真的不满,之后又不满于规模和别的方面,总能找到不满意的地方。⁠[5][5][5]

主题:阅读、业余项目与个人习惯

他在EE Times的访谈中说,自己住在旧金山湾区,周末用来学习:阅读、思考,以及同其他首席执行官和创始人见面。他说自己每周大约读一到两本书,常常是听有声书,印象中没有哪本书读过两遍,但有一些书他会反复向人推荐:《If I Understood You, Would I Have This Look On My Face?》《Turn The Ship Around!》《The Courage to Be Disliked》《When Things Fall Apart》《No Rules Rules》《Influencer》《Non-Violent Communication》《Never Split the Difference》《Decisive》和《Superbosses》。⁠[6]

他在2026年说,自己读了《Turn the Ship Around》之后在领导工作中大量采用其中的做法,因为它同他放权式的风格很合拍;他还说自己刚创业时读过Jim Collins的一本书,其中关于“return on luck”的一章让他很有共鸣,按他的转述,这一章的论点是最成功的公司并不比别的公司遇到更多好运,只是更善于抓住好运。Jim Collins的网站写明这一概念出自《Great by Choice》一书。⁠[5][5][26]

他形容自己不是控制欲强的人:去餐厅可以直接让服务员上他认为最好的菜。⁠[5]

他说自己喜欢在个人电脑上做前沿的业余项目,因为那里接触不到工作用的代码库,没有风险;他会在GCP或AWSAmazon Web ServicesAmazon Web Services(亚马逊云科技,简称AWS)是Amazon旗下的云计算业务,2002年7月推出,2006年3月14日以存储服务Amazon S3正式公开上线,此后陆续推出Amazon EC2等数百项服务;2026年第三季度,AWS分部净销售额约460亿美元。点击查看完整词条上开一台服务器就动手,做过查询出行该坐哪班飞机、哪条航线、哪些座位最好的应用,也做过一些数学方面的应用。他说自己在工作中大量使用AI,但总是先从业余项目开始,再带到工作里。⁠[5][5]

其中一个项目是“daily brief”:每天早上他会收到一封邮件,按他的兴趣和他同简报互动的方式汇总世界上发生的事并附上研究材料,他把它比作为他个人定制的总统每日简报。简报是带链接的文字;他后来把做法改成只给一组标题,由他接着追问,因为他认为能互动比静态内容更有用。⁠[5][5][5]

他说,另一个业余项目需要好几个电话号码,好让一批智能体同他一起出现在即时通讯应用里,而申请号码时他必须证明自己是真人,过程很麻烦;他由此认为,现有的支付方式还不是为智能体设计的,一旦可以做小额支付,支付笔数会激增。⁠[5][5]

他说,他的行政助理如今也自己写软件:他出差时,她会做一个小应用,显示当地天气并实时更新,还汇总他要用的电话号码等信息。⁠[5]

David Senra在节目中念了他说过的两句话:“Success in the information age was about being able to answer questions. Success in the AI age will be about being able to ask the right questions”(信息时代的成功在于能回答问题,AI时代的成功在于能提出正确的问题);以及“looking forward to a year of massive upleveling for anyone who wants it”(期待这一年里每个愿意的人都能大幅提升自己)。Ross还说,自己最近一条谈“code rationing”(代码配给)的帖子招来不少负面反馈。⁠[5][5][5]

主题:其他公开访谈与演讲

Groq在官网转载了他接受EE Times Weekend的一篇问答式访谈,题为《Jonathan Ross: Every. Word. Matters.》,内容涉及他周末做什么、反复读的书、谁最启发他、技术对社会的最大的威胁、给工程师和创业者的建议,以及他的领导风格。⁠[6]

在Social Capital发布的那场对谈里,Chamath Palihapitiya先请他讲了自己的出身和进入Google的经过,随后两人谈到TPU的起源、他离开Google与创办Groq、Groq早期的设计取舍、Groq与NVIDIA的比较、训练与推理的区别、部署目标、在硅谷组建AI团队以及与Aramco Digital的合作,最后以他对AI前景的看法作结。⁠[3][3][3][3][3][3][3][3][3][3]

2024年11月7日,Eric Ries发布了The Eric Ries Show中与他的一期对谈。节目说明写道,Groq成立八年来有过多次濒死经历,而他认为这些经历让公司更强;他主张真正的颠覆就是去做别人认为做不到的事;他把Groq的使命表述为“preserving human agency in the age of AI”(在AI时代保全人的自主性)。章节列表显示,对谈还涉及他如何在没有常规背景的情况下设计芯片,以及Groq的用户数在一周之内从8000增至40万。⁠[12]

在Rana el Kaliouby主持的Pioneers of AI节目中,他说Groq的平台在此前一周越过了100万名开发者,公司正准备招聘第一位提示工程负责人。谈到DeepSeekDeepSeekDeepSeek(深度求索)是一家中国人工智能企业,开发大语言模型,并提供网页、应用及API形式的生成式人工智能服务。点击查看完整词条,他说美国的“AI czar”(AI事务主管)主张使用几家运行DeepSeek模型的美国公司,这样数据就不会流向中国,并把Groq列为其中之一;他说Groq在查询处理完之后即予删除,不保留用户数据。主持人说两人上一次见面是在12月的Fortune Brainstorm AI会议上;Masters of Scale的人物页面还列出他参加的另一期节目《From Fortune Brainstorm AI: What does it take to make AI?》,并称Groq是总部位于加利福尼亚州Mountain View的AI推理平台。⁠[11][27]

RAISE Summit的网站有一个介绍他在该会议上所作主旨演讲的页面,主题是Groq进入欧洲。页面列出的要点有:Groq在欧盟的第一座数据中心设在赫尔辛基,几周之内投入运行;LPU的耗电为GPU的三分之一,使用风冷而不是稀缺的液冷设施;Groq认为推理是一门量大利薄的生意;客户数每月增长20%到30%;吞吐量在六周内从每秒1000万token升到每秒2000万token。⁠[13]

World Economic Forum为他设有人物页面;LEAP的网站把他列为往届演讲者,World Governments Summit的网站也有他的演讲者页面,称他是科技企业家、Groq的首席执行官和创始人。⁠[9][28][29]

主题:对AI、算力与软件的看法

他说自己眼下最不满意的是世界上算力不够。在他看来AI有利有弊,但好处巨大:如果因为算力不足,治愈癌症要多花一年,“that’s my fault”(那是我的过错);他说自己觉得这些都压在他肩上,必须让世界拥有更多算力。⁠[5][5][5]

他说AI很擅长使用AI:人等一两秒才得到回答没有关系,AI却只能干等,所以在智能体互相调用的情形下速度更重要。他把给现有模型加上LPU比作一夜之间从拨号上网换成宽带:原来要等一分钟的回答十秒就能得到,而且因为模型能在同样时间里搜索得更深,回答的质量也会提高。⁠[5][5][5][5][5]

他认为,过去写代码成本高,软件工程师因此对写什么代码非常谨慎,等于实行了代码配给,团队里甚至有专门说不的人;如今代码的边际成本趋近于零,专业工程师的做法正在变成先实现、亲自体验,再按体验换一种方式重做。⁠[5][5][5]

他把这一变化比作识字的普及:从前只有抄写员能读写,后来文字变简单、教育普及,人人都能读写,比拼的就成了写得好不好。他预计,许多有品位、知道什么是好东西却不懂技术的人将能自己做软件解决问题,未来会出现不带大团队的个人创始人做出很有价值的公司;他说自己若再创业,公司大概会由AI组成。⁠[5][5][5]

在Pioneers of AI节目中,他说自己不太担心AI接管一切或抢走工作,更担心的是人不必工作之后怎样找到自己的目标、怎样保全自己的自主性:做决定很难,人会把决策权交给AI,把简单的决定交出去是明智的,但重要的决定应该继续自己来做。他说Groq的使命是把算力成本压向零,让每个人而不只是社会上最富有的人都能用上,并说担心算力集中。⁠[11]

被问到是否应该害怕AI时,他在2024年与Chamath Palihapitiya的对谈中以Galileo作比:Galileo推广了望远镜,望远镜越好,人就越清楚地看到自己并非宇宙的中心;他说LLM是“the telescope for the mind”(心智的望远镜),让人看到智能比人自身更广大,这使人觉得自己渺小而害怕,但正如人们后来习惯了更大的宇宙并发现了它的美,人们也会明白自己在智能中的位置,不再害怕。⁠[3][3][3]

主题:在 David Senra 访谈中分享的建议

他认为,信息时代训练人回答问题,而有了AI,答案可以直接问AI,人要做的是想出正确的问题(7:13)。⁠[5]

他提醒新创始人,当领导者的方式有无数种,照搬别人的建议不会奏效,要选合乎自己本性的那一种(11:03)。⁠[5]

他建议,想让团队有创造力,就要尽量少设约束,同时把真正要紧的目标讲清楚:约束越少,团队解决问题的自由越大,也越可能带来惊喜(14:22)。⁠[5]

他建议,要减少组织里的办公室政治,就不要一对一地分别传话,而是把相关的人都叫到一起一次讲清;有人发邮件来告别人的状,就把当事人也抄送进来(17:38)。⁠[5]

他说,变革管理的第一原则是让人觉得并没有发生改变:给大家足够的背景,让他们看到自己要达成的目标还是原来那一个(37:07)。⁠[5]

他建议用“I intend to do this”(我打算这样做)代替询问别人自己该不该这样做:征求意见会招来悲观的反对,表明意图则不会,而真有严重问题时大家仍然会提出来(48:19)。⁠[5]

他建议把要找什么样的人写下来,否则招聘不会前后一致,也招不到想要的人(55:33)。⁠[5]

谈到孩子的教育,他的建议是不要再教他们回答问题,而要教他们提问;课程应围绕对社区真正有用的问题来设计,让学生借助AI去解决(1:10:31)。⁠[5]

关联机构、网站与公开账号

来源

  1. The AI chip boom saved this tiny startup. Now worth $2.8 billion, it’s taking on Nvidia(在新窗口打开)
  2. Nvidia challenger Groq just raised $640 million for its AI chips. Its college dropout CEO says a viral moment was ‘a game changer’(在新窗口打开)
  3. Conversation with Groq CEO Jonathan Ross(在新窗口打开)
  4. The Future of AI Compute: A Conversation With Jonathan Ross(在新窗口打开)
  5. Why Asking the Right Questions Is the Most Important Skill in the AI Age(在新窗口打开)
  6. Jonathan Ross: Every. Word. Matters.(在新窗口打开)
  7. Jonathan Ross(在新窗口打开)
  8. Talent Density at Groq(在新窗口打开)
  9. Jonathan Ross(在新窗口打开)
  10. In-Datacenter Performance Analysis of a Tensor Processing Unit(在新窗口打开)
  11. With Groq, Jonathan Ross is taking AI inference to new speeds(在新窗口打开)
  12. Jonathan Ross(在新窗口打开)
  13. Groq's CEO: A conversation with Jonathan Ross(在新窗口打开)
  14. This AI Founder Admits He Was a ‘Terrible Leader’ — But a Simple Mindset Shift Solved His Biggest Problem(在新窗口打开)
  15. Dr. Eric Schmidt announces Special Competitive Studies Project (Oct 5, 2021)(在新窗口打开)
  16. Saudi Arabia Announces $1.5 Billion Expansion to Fuel AI-powered Economy with AI Tech Leader Groq(在新窗口打开)
  17. Así fue el acuerdo de US$ 20.000 millones entre Nvidia y Groq, contado por su CEO(在新窗口打开)
  18. Nvidia AI chip challenger Groq raises even more than expected, hits $6.9B valuation(在新窗口打开)
  19. Groq and Nvidia Enter Non-Exclusive Inference Technology Licensing Agreement to Accelerate AI Inference at Global Scale(在新窗口打开)
  20. Nvidia, joining Big Tech deal spree, to license Groq technology, hire executives(在新窗口打开)
  21. Nvidia to license AI chip challenger Groq’s tech and hire its CEO(在新窗口打开)
  22. Nvidia slaps $20B Groq tech into massive new LPX racks to speed AI response time(在新窗口打开)
  23. NVIDIA Groq 3 LPX(在新窗口打开)
  24. Groq Raises $650M to Scale Its AI Inference Cloud Business(在新窗口打开)
  25. Groq Closes $350 million Series A, Building the World's Leading AI Inference Cloud(在新窗口打开)
  26. Return on Luck(在新窗口打开)
  27. Jonathan Ross(在新窗口打开)
  28. Jonathan Ross(在新窗口打开)
  29. Jonathan Ross(在新窗口打开)
  30. About Google: Our products, technology and company information - About Google(在新窗口打开)
  31. Groq is the premier neocloud for fast inference(在新窗口打开)
  32. Jonathan Ross, Groq(在新窗口打开)