Jakob Uszkoreit
Jakob Uszkoreit 是在美国美国美国是位于北美洲、实行联邦制的国家,由50个州、作为合众国政府所在地的哥伦比亚特区以及波多黎各、关岛等属地组成,首都为华盛顿哥伦比亚特区。1776年7月4日,大陆会议通过《独立宣言》。2020年人口普查(2020年4月1日)全国常住人口为331,449,281人(约3.31亿人);众议院435个议席依据人口普查结果在各州之间分配。点击查看完整词条和德国德国德国全称德意志联邦共和国,是位于中欧的联邦制议会共和国,由16个州组成,首都柏林。《基本法》于1949年5月23日公布并生效,联邦共和国由此成立;1990年10月3日德意志民主共和国加入《基本法》的适用范围,德国实现统一。以2022年人口普查为基础的2025年人口统计显示,全国人口为83,467,117人(约8347万人)。点击查看完整词条成长的计算机科学家、Inceptive 联合创办人兼首席执行官。他曾在谷歌GoogleGoogle是一家美国科技公司,由Larry Page与Sergey Brin创办,1998年注册成立,2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条从事机器翻译和搜索研究,是2017年提出 Transformer 架构的论文《Attention Is All You Need》八名作者之一。2021年,他转向研究人工智能在药物开发中的应用。
本页目录7 节
词条资料
家庭与求学时期:德国、美国与计算语言学
他的父亲是计算语言学家 Hans Uszkoreit。父亲在东德读高中时因抗议苏联苏联苏联全称苏维埃社会主义共和国联盟,1922年12月30日由苏俄(俄罗斯苏维埃联邦社会主义共和国)、外高加索、乌克兰和白俄罗斯四个苏维埃共和国组成,首都莫斯科,1956年以后有15个加盟共和国;1946至1991年间面积约2240万平方公里,是当时世界上面积最大的国家,境内有100多个民族,1989年人口普查人口为2.867亿。苏联源于1917年十月革命中建立的布尔什维克政权,实权在共产党中央委员会;1941年至1945年它与德国作战并取得胜利,此后与美国处于冷战之中。1991年8月政变失败后,乌克兰、白俄罗斯等共和国宣布独立,12月25日Gorbachev辞职,苏联国旗从克里姆林宫降下;12月26日苏联最高苏维埃通过宣言,苏联解体。点击查看完整词条入侵捷克斯洛伐克而被监禁15个月,获释后逃到西德,在柏林学计算机和语言学,后来到美国 SRI 工作。Jakob 出生时,父亲在加州门洛帕克的研究所工作。全家此后返回德国,Jakob 在当地上大学。NEC C&C 基金会在获奖简介中记载,他2008年获柏林工业大学硕士。他原先并不打算研究父亲的领域,但在山景城的谷歌实习时被分到翻译团队,后来放弃原定的博士计划。[1][2]
2012至2021年谷歌搜索、语言研究与 Transformer
NEC 的履历将他的谷歌大脑团队任期列为2008至2021年。2012年,Uszkoreit 加入谷歌的一个小组,研究如何直接在搜索结果中回答问题。他后来与同事探索能否改变当时逐项处理文字的方式。约2014年,他开始探索自注意力。父子曾在饭桌上就这种设想的前途意见不一。2016年,他与同事发表初步实验论文,之后希望把短文本上的工作扩大。父亲后来也联合创办了一家以 Transformer 构建大语言模型的公司。他与 Ashish Vaswani、Noam ShazeerNoam ShazeerNoam Shazeer是人工智能研究者和软件工程师,2017年Transformer架构论文《Attention Is All You Need》的作者之一。他2000年至2021年在Google任职,2021年与Daniel De Freitas联合创办Character.AI并任首席执行官,2024年重返Google任Gemini联合负责人,2026年6月宣布加入OpenAI。点击查看完整词条 等八人于2017年6月发表《Attention Is All You Need》,提出以注意力机制为核心的 Transformer。团队最初用机器翻译评估这一架构,随后它也被用于其他语言任务。2024年,八名作者共同获 NEC C&C 奖。[1][3][2]
2021年起创办 Inceptive
2023年8月24日接受 No Priors 采访
Uszkoreit 在 No PriorsNo PriorsNo Priors 是由投资人 Sarah Guo 与 Elad Gil 共同创办和主持的人工智能访谈播客及媒体品牌,2023年2月开始发布节目。内容涵盖人工智能研究、创业、基础设施及商业应用,形式包括嘉宾对谈、主持人讨论和年度回顾,通过音频播客平台与 YouTube 等渠道分发。点击查看完整词条 回顾了并行计算设备如何影响研究人员对模型的选择。他以简短却难解的问题为例,解释输入长度未必反映解题所需的计算量,并谈到计算与生物研究者如何在同一团队中形成共同语言。[7]
他说 Inceptive 的计算与生物研究者原先使用不同的专业语言,一起工作后形成了共同词汇,也由此发现单个学科可能忽略的问题。[7]
在 No Priors 分享的建议
他建议研究者把架构构想同实际硬件上的工程效率一起考虑,检验理论上可行的设计能否有效运行。(01:19)[7]
他提醒团队,为一种已有成功案例的研究方法寻找新用途,通常仍然需要长时间的试验。(07:39)[7]
关联机构、网站与公开账号
Inceptive:联合创办人兼首席执行官。官网:https://inceptive.com/(在新窗口打开)。[5]
来源7 个来源
- 8 Google Employees Invented Modern AI. Here’s the Inside Story(在新窗口打开)wired.com↑
- 2024 C&C Prize — Group B biographies(在新窗口打开)nec.com↑
- Attention Is All You Need(在新窗口打开)arxiv.org↑
- Inceptive: Foundation models of life, for life(在新窗口打开)inceptive.com↑
- Jakob Uszkoreit(在新窗口打开)falling-walls.com↑
- Jakob Uszkoreit – Erfinder vom T in ChatGPT geehrt(在新窗口打开)srf.ch↑
- No Priors Ep. 29 | With Inceptive CEO Jakob Uszkoreit(在新窗口打开)youtube.com↑