ABAB Pedia

Jakob Uszkoreit

Jakob Uszkoreit 是在美國美國美國是位於北美洲、實行聯邦制的國家,由50個州、作為合眾國政府所在地的哥倫比亞特區以及波多黎各、關島等屬地組成,首都為華盛頓哥倫比亞特區。1776年7月4日,大陸會議通過《獨立宣言》。2020年人口普查(2020年4月1日)全國常住人口為331,449,281人(約3.31億人);眾議院435個議席依據人口普查結果在各州之間分配。點擊查看完整詞條和德國成長的計算機科學家、Inceptive 聯合創辦人兼首席執行官。他曾在谷歌GoogleGoogle是一家美國科技公司,由Larry Page與Sergey Brin創辦,1998年註冊成立,2015年成為Alphabet旗下企業。其業務涵蓋互聯網搜索、廣告、軟件平臺、雲計算及人工智能。點擊查看完整詞條從事機器翻譯和搜索研究,是2017年提出 Transformer 架構的論文《Attention Is All You Need》八名作者之一。2021年,他轉向研究人工智能在藥物開發中的應用。

本頁目錄7 節
詞條資料

家庭與求學時期:德國、美國與計算語言學

他的父親是計算語言學家 Hans Uszkoreit。父親在東德讀高中時因抗議蘇聯入侵捷克斯洛伐克而被監禁15個月,獲釋後逃到西德,在柏林學計算機和語言學,後來到美國 SRI 工作。Jakob 出生時,父親在加州門洛帕克的研究所工作。全家此後返回德國,Jakob 在當地上大學。NEC C&C 基金會在獲獎簡介中記載,他2008年獲柏林工業大學碩士。他原先並不打算研究父親的領域,但在山景城的谷歌實習時被分到翻譯團隊,後來放棄原定的博士計劃。⁠[1][2]

谷歌搜索、語言研究與 Transformer

NEC 的履歷將他的谷歌大腦團隊任期列為2008至2021年。2012年,Uszkoreit 加入谷歌的一個小組,研究如何直接在搜索結果中回答問題。他後來與同事探索能否改變當時逐項處理文字的方式。約2014年,他開始探索自注意力。父子曾在飯桌上就這種設想的前途意見不一。2016年,他與同事發表初步實驗論文,之後希望把短文本上的工作擴大。父親後來也聯合創辦了一家以 Transformer 構建大語言模型的公司。他與 Ashish Vaswani、Noam ShazeerNoam ShazeerNoam Shazeer是人工智能研究者和軟件工程師,2017年Transformer架構論文《Attention Is All You Need》的作者之一。他2000年至2021年在Google任職,2021年與Daniel De Freitas聯合創辦Character.AI並任首席執行官,2024年重返Google任Gemini聯合負責人,2026年6月宣佈加入OpenAI。點擊查看完整詞條 等八人於2017年6月發表《Attention Is All You Need》,提出以注意力機制為核心的 Transformer。團隊最初用機器翻譯評估這一架構,隨後它也被用於其他語言任務。2024年,八名作者共同獲 NEC C&C 獎。⁠[1][3][2]

創辦 Inceptive

2021年,他聯合創辦 Inceptive,任首席執行官,組織機器學習研究者與生物化學家合作研究新藥。公司後來在帕洛阿爾托、柏林和蘇黎世設有辦公室。2025年1月,他訪問蘇黎世聯邦理工學院;瑞士廣播電視臺在他獲頒 Swiss Global AI Award 前採訪了他,回顧研究成果如何從語言翻譯擴展到其他領域。⁠[4][5][6]

接受 No Priors 採訪

Uszkoreit 在 No PriorsNo PriorsNo Priors 是由投資人 Sarah Guo 與 Elad Gil 共同創辦和主持的人工智能訪談播客及媒體品牌,2023年2月開始發佈節目。內容涵蓋人工智能研究、創業、基礎設施及商業應用,形式包括嘉賓對談、主持人討論和年度回顧,通過音頻播客平臺與 YouTube 等渠道分發。點擊查看完整詞條 回顧了並行計算設備如何影響研究人員對模型的選擇。他以簡短卻難解的問題為例,解釋輸入長度未必反映解題所需的計算量,並談到計算與生物研究者如何在同一團隊中形成共同語言。⁠[7]

他說 Inceptive 的計算與生物研究者原先使用不同的專業語言,一起工作後形成了共同詞彙,也由此發現單個學科可能忽略的問題。⁠[7]

在 No Priors 分享的建議

他建議研究者把架構構想同實際硬件上的工程效率一起考慮,檢驗理論上可行的設計能否有效運行。(01:19)⁠[7]

他提醒團隊,為一種已有成功案例的研究方法尋找新用途,通常仍然需要長時間的試驗。(07:39)⁠[7]

關聯機構、網站與公開賬號

Inceptive:聯合創辦人兼首席執行官。官網:https://inceptive.com/(在新窗口打開)。⁠[5]

來源7 個來源

  1. 8 Google Employees Invented Modern AI. Here’s the Inside Story(在新窗口打開)wired.com↑
  2. 2024 C&C Prize — Group B biographies(在新窗口打開)nec.com↑
  3. Attention Is All You Need(在新窗口打開)arxiv.org↑
  4. Inceptive: Foundation models of life, for life(在新窗口打開)inceptive.com↑
  5. Jakob Uszkoreit(在新窗口打開)falling-walls.com↑
  6. Jakob Uszkoreit – Erfinder vom T in ChatGPT geehrt(在新窗口打開)srf.ch↑
  7. No Priors Ep. 29 | With Inceptive CEO Jakob Uszkoreit(在新窗口打開)youtube.com↑