ABAB Pedia
詞條廣場

Jürgen Schmidhuber

Jürgen Schmidhuber是德國計算機科學家，與Sepp Hochreiter於1997年發表長短期記憶網絡（LSTM），長期擔任瑞士AI實驗室IDSIA科學主任，2021年起領導KAUST人工智能計劃；他在元學習、人工好奇心和Gödel機等方面有大量工作，並就深度學習史上的署名與優先權問題公開批評多位圖靈獎得主。他曾於2018年做客Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人，任 MIT 研究科學家，研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱，嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast。

本頁目錄23 節
詞條資料

1987年在慕尼黑工業大學完成畢業論文

他自述約15歲起的主要目標就是造出比自己更聰明、能自我改進的人工智能，然後退休。⁠[1]

1987年，他在慕尼黑工業大學信息學研究所完成畢業論文，探討“learning how to learn”（學會學習）的自指學習，並在同年發表了第一篇遺傳編程論文。⁠[2]

他認為這篇論文提出了最早的具體遞歸自我改進（RSI）算法，並開啟了他此後數十年關於元學習的一系列工作。⁠[3]

1990—1991年慕尼黑的Annus Mirabilis

他表示，1990年至1991年間他在慕尼黑工業大學的實驗室發表了現代深度學習的許多基本思想，包括用於人工好奇心的對抗式生成網絡原理、未歸一化線性Transformer、深度網絡預訓練、神經網絡蒸餾和循環世界模型，但當時少有人關注。⁠[4]

自1990年起，他構建由預測模塊和強化學習模塊組成、具有好奇心的智能體，以預測器學習進步作為內在獎勵，並據此提出關於創造力、樂趣與內在動機的形式化理論。⁠[5]

1991—1995年科羅拉多博士後與慕尼黑任教

1991年7月至1992年12月他在科羅拉多大學博爾德分校做博士後，1993年10月起回慕尼黑工業大學任Oberassistent，1995年1月獲Privatdozent資格。⁠[6]

1995年3月出任IDSIA科學主任

1995年3月起，他擔任瑞士盧加諾Swiss AI Lab IDSIA的科學主任，後於2009年至2021年任盧加諾大學（USI）人工智能教授。⁠[6]

1997年發表LSTM論文併成家

1997年，他與博士生Sepp Hochreiter在Neural Computation發表Long Short-Term Memory論文；他稱LSTM是20世紀被引用最多的神經網絡。他回憶這一年自己結婚併成為父親。⁠[7]

他的妻子是Ulrike Krommer，兩人育有兩個女兒；他的弟弟Christof Schmidhuber是理論物理學家，後轉入金融業。⁠[1]

2003年提出Gödel機

2003年他發佈Gödel機預印本，這是一種自指的通用問題求解器，能在證明某項自我改寫可以提升未來表現後改寫自身的任何部分，以形式化I. J. Good關於“intelligence explosion”（智能爆炸）的設想。⁠[8]

2009—2010年LSTM與深度網絡贏得比賽

2009年至2010年，他的團隊以CTC訓練的LSTM在連筆手寫識別等重要問題上擊敗所有競爭算法，他認為這開啟了監督式深度學習革命。⁠[9]

2011年DanNet贏得計算機視覺比賽

2011年，他的團隊以博士後Dan Cireșan命名的DanNet成為首個贏得計算機視覺比賽的純深度卷積神經網絡，藉助NVIDIANVIDIANVIDIA 是美國半導體與計算技術公司，提供圖形處理器、人工智能基礎設施、網絡互連和計算軟件，在納斯達克以 NVDA 為代碼上市。點擊查看完整詞條 GPU在2011至2012年連贏四項比賽，並首次在視覺挑戰中達到超人水平。⁠[10]

2014年NNAISENSE成立

NNAISENSE由多位AI先驅創辦，自2014年起與ACATIS Investment等金融機構合作，將AI用於選股和投資組合構建，2017年推出首隻AI基金。⁠[11]

2015年5月發表Highway Networks

2015年5月，他的團隊發表Highway Networks，這是首批可用梯度訓練、具有數百層的極深前饋神經網絡；他指出7個月後發表的ResNet相當於門始終打開的Highway Net。⁠[9]

2016年7月27日獲IEEE神經網絡先驅獎

他在溫哥華IJCNN 2016頒獎晚宴上領取IEEE CIS Neural Networks Pioneer Award，獲獎理由為“pioneering contributions to deep learning and neural networks”（對深度學習和神經網絡的開創性貢獻）；他在致辭中稱烏克蘭數學家A. G. Ivakhnenko為深度學習之父。⁠[12]

2016年12月談機器意識

他認為一些現有AI系統已具備初步意識，並表示：“I would like to claim we had little, rudimentary, conscious learning systems for at least 25 years”（我想說，至少25年前我們就有了小型的、初級的有意識學習系統）。⁠[13]

2017年闡述其研究對大型科技公司的影響

他2017年撰文表示，他的團隊自1991年起開發的深度學習方法已通過AppleAppleApple（蘋果公司）是1976年創辦、總部位於美國加利福尼亞州庫比蒂諾的上市科技公司。業務包括 iPhone、Mac、iPad、可穿戴設備，以及數字內容、支付、雲端存儲等服務。公司通過自研硬件、操作系統和服務構建產品體系。點擊查看完整詞條、AlphabetAlphabetAlphabet是一家美國科技控股公司，2015年通過Google重組形成，旗下業務包括Google以及自動駕駛、生命科學和早期技術投資等企業。集團按Google Services、Google Cloud與Other Bets披露業務。點擊查看完整詞條、MicrosoftMicrosoftMicrosoft（微軟）是由 Bill Gates 和 Paul Allen 於1975年創辦、總部位於美國華盛頓州雷德蒙德的科技公司，業務涵蓋 Windows、Microsoft 365、Azure、企業軟件、人工智能、遊戲和設備。點擊查看完整詞條、FacebookFacebookFacebook（臉書）是 Meta 旗下的社交網絡平臺，2004年從哈佛校園上線，逐步發展出動態消息、照片與視頻分享、群組及 Marketplace 等功能。平臺保留 Facebook 名稱，母公司在2021年採用 Meta 品牌；兩者的用戶與財務數據應按各自口徑理解。點擊查看完整詞條和AmazonAmazonAmazon（亞馬遜）是 Jeff Bezos 於1994年創辦的美國上市科技與零售公司，主要公司辦公地位於西雅圖。業務涵蓋電子商務、物流履約、數字廣告、會員與影音服務、消費電子，以及 Amazon Web Services 雲計算。點擊查看完整詞條等全球市值最高的上市公司惠及數十億用戶。⁠[14]

2018年12月23日做客Lex Fridman Podcast

他做客Lex Fridman Podcast第11期，節目題為“Godel Machines, MetaMetaMeta（Meta Platforms, Inc.）是美國上市科技公司，2021年由 Facebook 公司更名而來，經營社交通信、數字廣告、虛擬現實、智能眼鏡及人工智能業務。點擊查看完整詞條-Learning, and LSTMs”，介紹他是LSTM的共同創造者，並提出了包括創造力形式理論在內的許多非常規AI構想。⁠[15]

2020年6月25日批評2018年圖靈獎

他發表長文批評ACMAustralian Community MediaAustralian Community Media（ACM）是澳大利亞地區與鄉村新聞出版集團，旗下有The Canberra Times等逾100個品牌；2019年Nine將其出售給由Antony Catalano與Thorney Investment Group相關方控制的公司。點擊查看完整詞條對2018年圖靈獎（授予Yoshua BengioYoshua BengioYoshua Bengio是加拿大蒙特利爾大學計算機科學教授、Mila創始人和深度學習先驅，2018年度與Geoffrey Hinton、Yann LeCun共獲圖靈獎；2023年起他轉向AI安全研究，主持國際AI安全報告，並於2025年創立非營利組織LawZero。他曾於2018年做客Lex Fridman Podcast。點擊查看完整詞條、Geoffrey HintonGeoffrey Hinton機器學習研究者。點擊查看完整詞條和Yann LeCunYann LeCunYann LeCun 是計算機科學家，研究人工智能、機器學習與計算機視覺，任紐約大學教授及 AMI Labs 執行董事長。他曾在貝爾實驗室和AT&T從事手寫識別與圖像研究，創立並領導Facebook人工智能研究機構，後任Meta首席AI科學家。他與Geoffrey Hinton、Yoshua Bengio共同獲得2018年度圖靈獎，近年主要推動世界模型和開放人工智能研究。點擊查看完整詞條）的表彰理由，認為獲獎者的工作所依據的算法和概念最早由其他未獲引用的研究者提出，並列舉了他與Bengio和Hinton之間的8項直接優先權爭議。⁠[16]

2021年10月1日出任KAUST AI Initiative主任

2021年10月1日起，他領導沙特阿拉伯阿卜杜拉國王科技大學（KAUST）的人工智能計劃，同時繼續擔任NNAISENSE首席科學家、IDSIA科學主任和盧加諾大學兼職教授。⁠[17]

2022年7月7日批評LeCun論文

他撰文認為Yann LeCun 2022年關於自主機器智能的論文重複了1990年至2015年間的重要工作而未加引用。⁠[18]

2023年12月14日發佈優先權爭議技術報告

他發佈IDSIA技術報告，指稱三位2018年圖靈獎得主經常重新發表其團隊首先描述的方法而未適當署名，列出與Bengio的7項、與Hinton的6項和與LeCun的4項直接優先權爭議。⁠[19]

2024年12月7日批評諾貝爾物理學獎

他發佈技術報告，稱2024年授予John Hopfield和Geoffrey Hinton的諾貝爾物理學獎“effectively a prize for plagiarism”（實際上是對剽竊的獎勵），認為二人重新發表了Ivakhnenko、Amari等人1960至1970年代在烏克蘭和日本提出的方法而未引用原始論文。⁠[20]

2025年NNAISENSE被ACATIS收購

2025年，長期合作伙伴ACATIS Investment收購NNAISENSE，公司轉向打造以生成式AI驅動的量化多策略對沖基金。⁠[11]

2026年3月闡述最常被引用神經網絡的來源

他在2026年3月更新的一篇文章裡主張，LSTM、Highway Net及其變體ResNet、DanNet、GAN和Transformer等最常被引用的神經網絡都建立在他實驗室的工作基礎上。⁠[21]

關聯機構、網站與公開賬號

個人網站：公開鏈接：https://people.idsia.ch/~juergen/（在新窗口打開）⁠[1]

X：公開賬號：https://x.com/SchmidhuberAI（在新窗口打開）⁠[1]

IDSIA：官網：https://idsia.usi-supsi.ch/（在新窗口打開）⁠[1]

KAUST：官網：https://cemse.kaust.edu.sa/ai（在新窗口打開）⁠[1]

NNAISENSE：官網：https://nnaisense.com/（在新窗口打開）⁠[11]

來源

  1. Juergen Schmidhuber's home page（在新窗口打開）
  2. 1987 THESIS ON LEARNING HOW TO LEARN, METALEARNING, META GENETIC PROGRAMMING, CREDIT-CONSERVING MACHINE LEARNING ECONOMY（在新窗口打開）
  3. Recursive Self-Improvement (RSI) Since 1987（在新窗口打開）
  4. Deep Learning: Our Miraculous Year 1990-1991（在新窗口打開）
  5. Formal Theory of Creativity and Fun and Intrinsic Motivation Explains Science, Art, Music, Humor (Juergen Schmidhuber). Artificial Scientists, Artificial Artists, Developmental Robotics, Curiosity, Attention, Surprise, Novelty, Discovery, Open-Ended Learning, Formal Theory of Beauty, Creating Novel Patters（在新窗口打開）
  6. Curriculum Vitae（在新窗口打開）
  7. 2022: 25-year anniversary: LSTM (1997), all computable metaverses, hierarchical Q-learning, adversarial intrinsic Reinforcement Learning, low-complexity NNs, low-complexity art, Meta-RL, soccer learning（在新窗口打開）
  8. GOEDEL MACHINE HOME PAGE（在新窗口打開）
  9. Highway Networks, the first working really deep feedforward neural networks with hundreds of layers（在新窗口打開）
  10. 2011: DanNet triggers deep CNN revolution（在新窗口打開）
  11. NNAISENSE — Intelligent Investing, Powered by Generative AI（在新窗口打開）
  12. 2016 IEEE CIS Neural Networks Pioneer Award Goes to Juergen Schmidhuber（在新窗口打開）
  13. Artificial Intelligence Gained Consciousness in 1991（在新窗口打開）
  14. Our impact on the world's most valuable public companies (Google, Apple, Microsoft, Amazon, etc)（在新窗口打開）
  15. Juergen Schmidhuber: Godel Machines, Meta-Learning, and LSTMs | Lex Fridman Podcast（在新窗口打開）
  16. Critique of 2018 Turing Award for Drs. Bengio & Hinton & LeCun（在新窗口打開）
  17. Director of AI Initiative at KAUST（在新窗口打開）
  18. LeCun's 2022 paper on autonomous machine intelligence rehashes but does not cite essential work of 1990-2015（在新窗口打開）
  19. How 3 Turing Awardees Republished Key Methods and Ideas Whose Creators They Failed to Credit（在新窗口打開）
  20. A Nobel Prize for Plagiarism（在新窗口打開）
  21. The most cited AIs are all based on work done in my labs（在新窗口打開）