ABAB Pedia

Jay McClelland

Jay McClelland(James L. McClelland)是美國認知科學家,Stanford UniversityStanford UniversityStanford University是美國加利福尼亞州的研究型大學,由Leland與Jane Stanford於1885年創立,1891年開學。點擊查看完整詞條心理學系Lucie Stern社會科學教授。他與David Rumelhart共同創立並領導“parallel distributed processing”(並行分佈式處理,PDP)研究小組,1986年出版的兩卷本《Parallel Distributed Processing》是神經網絡認知建模的奠基性著作。

本頁目錄23 節
詞條資料

出生於美國劍橋

McClelland於1948年12月1日出生於美國劍橋(Cambridge)。⁠[1]

Columbia本科與Penn博士

任教UC San Diego並與Rumelhart合作

他1974年起任UC San Diego心理學系助理教授,1980年升任副教授。⁠[3]

他讀到Rumelhart的論文後開始與之合作,希望建立能體現大腦感知字母特點的神經網絡模型;他說自己當時從未想過要構建人工智能。⁠[4]

他與Geoffrey HintonGeoffrey Hinton機器學習研究者。點擊查看完整詞條的友誼始於1970年代末,並在兩人與Rumelhart的合作中加深。⁠[5]

提出交互激活模型

1981年9月,他與Rumelhart在《Psychological Review》發表交互激活模型:特徵、字母和單詞檢測器通過興奮與抑制相互作用,模擬顯示字母在單詞及可發音假詞中更易被感知,從而無需顯式規則即可解釋看似受規則支配的表現。⁠[6]

轉往Carnegie Mellon University

出版《Parallel Distributed Processing》

1986年MIT Press出版由他、Rumelhart和PDP研究小組撰寫的兩卷本《Parallel Distributed Processing》;第二卷把聯結主義理論應用於知覺、記憶、語言和思維等問題。⁠[8]

Stanford的評價稱,這部書把並行計算概念帶給心理學、神經科學和計算機科學領域的更廣泛讀者。⁠[9]

過去式模型與Pinker、Prince的批評

Rumelhart與McClelland在1986年描述了一個能把英語動詞詞幹轉為過去式的神經網絡;1988年Steven PinkerSteven PinkerSteven Pinker是加拿大出生的實驗心理學家和科普作家,研究語言、認知與社會關係,曾任教於MIT二十餘年,2003年起任Harvard大學心理學教授,著有《The Language Instinct》《The Better Angels of Our Nature》《Enlightenment Now》等書。點擊查看完整詞條與Alan Prince批評該模型的實證表現和理論問題,引發長期的過去式之爭。2018年有研究者認為,新一代循環神經網絡使其中許多批評不再成立。⁠[10]

共同領導Center for the Neural Basis of Cognition

1994—2006年,他擔任Carnegie Mellon與University of Pittsburgh合辦的Center for the Neural Basis of Cognition聯合主任。⁠[3]

提出互補學習系統理論

1995年他與Bruce McNaughton、Randall O’Reilly在《Psychological Review》發表論文,提出記憶先經海馬系統的突觸變化儲存,再在反覆重現中逐漸整合進新皮層;海馬支持快速學習新事物,而新皮層緩慢學習以發現經驗中的結構。⁠[11]

入選美國國家科學院並獲Grawemeyer獎

2002年1月,Carnegie Mellon宣佈他與Rumelhart因二十年來對並行分佈式處理框架的研究,共獲2002年University of Louisville Grawemeyer心理學獎,獎金20萬美元;他當時也已入選美國國家科學院。⁠[2]

出版《Semantic Cognition》

2004年MIT Press出版他與Timothy T. Rogers合著的《Semantic Cognition: A Parallel Distributed Processing Approach》,提出語義知識通過互聯處理單元間連接強度的漸進調整而習得。⁠[12]

轉往Stanford University

2006年他轉到Stanford University心理學系,2007年創立Center for Mind, Brain, and Computation,並於2009年秋至2012年夏擔任系主任。⁠[7]

獲Rumelhart獎

他是第十位David E. Rumelhart獎得主,並在2010年8月Cognitive Science Society年會上作主題演講。學會稱,他與合作者通過受大腦啟發的學習與智能計算模型,建立了心智符號理論之外的另一種理論。⁠[13]

獲美國國家科學院心理與認知科學獎

2014年5月,他與Elizabeth Spelke成為美國國家科學院心理與認知科學獎首屆得主,獎金20萬美元,表彰他構建計算模型來展示激活在大腦網絡中的擴散。⁠[14]

獲Heineken認知科學獎

2014年10月2日,荷蘭皇家藝術與科學院在Amsterdam向他頒發20萬美元的C.L. de Carvalho-Heineken認知科學獎,表彰他用神經網絡為認知過程建模。⁠[15]

探討語言模型如何接近人類理解

2019年12月,他與Felix Hill、Maja Rudolph、Jason Baldridge和Hinrich Schütze發佈預印本,認為語言是理解和交流情境的系統的一部分,這種能力依賴連接學習、分佈式表徵等生物神經網絡的通用原則。⁠[16]

論文以《Placing language in an integrated understanding system》為題,2020年刊於《Proceedings of the National Academy of Sciences》第42期。⁠[17]

做客Lex Fridman Podcast

獲Golden Goose獎

2024年9月24日,他與Geoffrey Hinton及已故的Rumelhart在美國國會圖書館獲頒Golden Goose獎,該獎表彰起初看似冷門、後來產生重大影響的聯邦資助研究。⁠[19]

Cognitive Science Society稱,三人因1970年代末至1980年代初關於PDP框架的開創性工作獲獎。⁠[20]

談神經網絡與人腦的異同

他表示,語言模型學語言所需數據約為人類的10萬倍;反向傳播從未被認為準確反映大腦的工作方式,他正研究大腦如何高效調整連接。⁠[4]

與Geoffrey Hinton對談

2025年1月29日,他與Hinton為Stanford Psychology Podcast錄製對談,節目稱這似乎是兩人數十年友誼中第一次有記錄的公開對話。⁠[5]

截至2026年10月:現任職務

他是Stanford University Lucie Stern社會科學教授、Center for Mind, Brain, Computation and Technology聯合主任,也是美國國家科學院院士和英國國家學術院(British Academy)通訊院士。⁠[21]

關聯機構、網站與公開賬號

Carnegie Mellon University:官網:https://www.cmu.edu/(在新窗口打開)⁠[7]

來源

  1. James L. McClelland — Heineken Prizes(在新窗口打開)
  2. Carnegie Mellon News Online Edition: January 7, 2002(在新窗口打開)
  3. VITA(在新窗口打開)
  4. The cognitive research behind AI's rise | Stanford Report(在新窗口打開)
  5. 147 - Geoff Hinton & Jay McClelland: Two AI Pioneers in Conversation(在新窗口打開)
  6. An Interactive Activation Model of Context Effects in Letter Perception: Part 1. An Account of Basic Findings(在新窗口打開)
  7. Jay McClelland's Home Page(在新窗口打開)
  8. Parallel distributed processing : explorations in the microstructure of cognition. v. 2, Psychological and biological models / by James L. McClelland, David E. Rumelhart, and the PDP Research Group.(在新窗口打開)
  9. Psychology Professor David Rumelhart wins Grawemeyer Award(在新窗口打開)
  10. Recurrent Neural Networks in Linguistic Theory: Revisiting Pinker and Prince (1988) and the Past Tense Debate(在新窗口打開)
  11. Why There Are Complementary Learning Systems in the Hippocampus and Neocortex: Insights From the Successes and Failures of Connectionist Models of Learning and Memory(在新窗口打開)
  12. Semantic cognition : a parallel distributed processing approach / Timothy T. Rogers and James L. McClelland.(在新窗口打開)
  13. The Rumelhart Prize Reaches a Decade; $1 Million to Understand How We Understand(在新窗口打開)
  14. McClelland, Spelke Win Inaugural NAS Mind Prize – Social Science Space(在新窗口打開)
  15. McClelland Receives Heineken Prize – Association for Psychological Science – APS(在新窗口打開)
  16. [1912.05877] Extending Machine Language Models toward Human-Level Language Understanding(在新窗口打開)
  17. Placing language in an integrated understanding system: Next steps toward human-level performance in neural language models(在新窗口打開)
  18. #222 - Jay McClelland: Neural Networks and the Emergence of Cognition | Lex Fridman Podcast(在新窗口打開)
  19. FABBS Members Honored at Library of Congress – FABBS(在新窗口打開)
  20. The Golden Goose Award to David Rumelhart, James McClelland, and Geoffrey Hinton - Cognitive Science Society(在新窗口打開)
  21. James L. (Jay) McClelland | AI at Princeton(在新窗口打開)