Jay McClelland
Jay McClelland(James L. McClelland)是美國認知科學家,Stanford UniversityStanford UniversityStanford University是美國加利福尼亞州的研究型大學,由Leland與Jane Stanford於1885年創立,1891年開學。點擊查看完整詞條心理學系Lucie Stern社會科學教授。他與David Rumelhart共同創立並領導“parallel distributed processing”(並行分佈式處理,PDP)研究小組,1986年出版的兩卷本《Parallel Distributed Processing》是神經網絡認知建模的奠基性著作。
本頁目錄23 節
詞條資料
1948年12月1日出生於美國劍橋
McClelland於1948年12月1日出生於美國劍橋(Cambridge)。[1]
1970—1975年Columbia本科與Penn博士
他1970年獲Columbia UniversityColumbia UniversityColumbia University(正式名稱 Columbia University in the City of New York)是位於美國紐約市的私立研究型大學,常春藤盟校成員。學校前身是1754年依英王 George II 特許狀創立的 King's College,是紐約州歷史最悠久、全美第五古老的高等教育機構;1784年改名 Columbia College,1896年遷至曼哈頓晨邊高地並啟用大學名稱。學校設17個學院,另有4所附屬學院,2025年秋季在校學生35,978人。2026年7月1日起,法學學者 Jennifer L. Mnookin 任校長。點擊查看完整詞條心理學學士學位,1975年獲University of PennsylvaniaUniversity of PennsylvaniaUniversity of Pennsylvania(賓夕法尼亞大學,簡稱 Penn)是位於美國費城的私立研究型大學、常春藤盟校成員。學校將歷史追溯至1740年的慈善學校籌建項目;Benjamin Franklin 於1749年提出辦學方案,學院於1751年開課,1791年合併形成現名機構。賓大設12個學院,本科教育主要由文理、工程、護理和 Wharton 四個學院承擔。2025年秋學生總數為29,384人;2025財年捐贈基金為248.1億美元。截至2026年10月,校長為 J. Larry Jameson,其任期計劃於2027年6月30日結束。點擊查看完整詞條認知心理學博士學位。[2]
1974—1984年任教UC San Diego並與Rumelhart合作
他1974年起任UC San Diego心理學系助理教授,1980年升任副教授。[3]
他讀到Rumelhart的論文後開始與之合作,希望建立能體現大腦感知字母特點的神經網絡模型;他說自己當時從未想過要構建人工智能。[4]
他與Geoffrey HintonGeoffrey Hinton機器學習研究者。點擊查看完整詞條的友誼始於1970年代末,並在兩人與Rumelhart的合作中加深。[5]
1981年9月提出交互激活模型
1981年9月,他與Rumelhart在《Psychological Review》發表交互激活模型:特徵、字母和單詞檢測器通過興奮與抑制相互作用,模擬顯示字母在單詞及可發音假詞中更易被感知,從而無需顯式規則即可解釋看似受規則支配的表現。[6]
1984年轉往Carnegie Mellon University
1984年他轉往Carnegie Mellon UniversityCarnegie Mellon UniversityCarnegie Mellon University(CMU)是位於美國賓夕法尼亞州匹茲堡的私立研究型大學。學校前身是 Andrew Carnegie 於1900年出資創辦的 Carnegie Technical Schools,1912年改名 Carnegie Institute of Technology,1967年與 Mellon Institute 合併後定名為今名。學校以計算機科學、機器人、工程與藝術等領域著稱,在卡塔爾、硅谷和盧旺達設有校區。截至2025年9月,全校註冊學生16,582人。現任校長為 Farnam Jahanian。2026年9月30日,學校宣佈獲得 Ken Griffin 30億美元捐贈,並將在邁阿密興建新校區。點擊查看完整詞條,後成為University Professor,並擔任Walter Van Dyke Bingham心理學與認知神經科學講席教授。[7]
1986年出版《Parallel Distributed Processing》
1986年MIT Press出版由他、Rumelhart和PDP研究小組撰寫的兩卷本《Parallel Distributed Processing》;第二卷把聯結主義理論應用於知覺、記憶、語言和思維等問題。[8]
Stanford的評價稱,這部書把並行計算概念帶給心理學、神經科學和計算機科學領域的更廣泛讀者。[9]
1986—1988年過去式模型與Pinker、Prince的批評
Rumelhart與McClelland在1986年描述了一個能把英語動詞詞幹轉為過去式的神經網絡;1988年Steven PinkerSteven PinkerSteven Pinker是加拿大出生的實驗心理學家和科普作家,研究語言、認知與社會關係,曾任教於MIT二十餘年,2003年起任Harvard大學心理學教授,著有《The Language Instinct》《The Better Angels of Our Nature》《Enlightenment Now》等書。點擊查看完整詞條與Alan Prince批評該模型的實證表現和理論問題,引發長期的過去式之爭。2018年有研究者認為,新一代循環神經網絡使其中許多批評不再成立。[10]
1994—2006年共同領導Center for the Neural Basis of Cognition
1994—2006年,他擔任Carnegie Mellon與University of Pittsburgh合辦的Center for the Neural Basis of Cognition聯合主任。[3]
1995年提出互補學習系統理論
1995年他與Bruce McNaughton、Randall O’Reilly在《Psychological Review》發表論文,提出記憶先經海馬系統的突觸變化儲存,再在反覆重現中逐漸整合進新皮層;海馬支持快速學習新事物,而新皮層緩慢學習以發現經驗中的結構。[11]
2001—2002年入選美國國家科學院並獲Grawemeyer獎
2002年1月,Carnegie Mellon宣佈他與Rumelhart因二十年來對並行分佈式處理框架的研究,共獲2002年University of Louisville Grawemeyer心理學獎,獎金20萬美元;他當時也已入選美國國家科學院。[2]
2004年出版《Semantic Cognition》
2004年MIT Press出版他與Timothy T. Rogers合著的《Semantic Cognition: A Parallel Distributed Processing Approach》,提出語義知識通過互聯處理單元間連接強度的漸進調整而習得。[12]
2006年轉往Stanford University
2006年他轉到Stanford University心理學系,2007年創立Center for Mind, Brain, and Computation,並於2009年秋至2012年夏擔任系主任。[7]
2010年獲Rumelhart獎
他是第十位David E. Rumelhart獎得主,並在2010年8月Cognitive Science Society年會上作主題演講。學會稱,他與合作者通過受大腦啟發的學習與智能計算模型,建立了心智符號理論之外的另一種理論。[13]
2014年5月獲美國國家科學院心理與認知科學獎
2014年5月,他與Elizabeth Spelke成為美國國家科學院心理與認知科學獎首屆得主,獎金20萬美元,表彰他構建計算模型來展示激活在大腦網絡中的擴散。[14]
2014年10月2日獲Heineken認知科學獎
2014年10月2日,荷蘭皇家藝術與科學院在Amsterdam向他頒發20萬美元的C.L. de Carvalho-Heineken認知科學獎,表彰他用神經網絡為認知過程建模。[15]
2019年12月探討語言模型如何接近人類理解
2019年12月,他與Felix Hill、Maja Rudolph、Jason Baldridge和Hinrich Schütze發佈預印本,認為語言是理解和交流情境的系統的一部分,這種能力依賴連接學習、分佈式表徵等生物神經網絡的通用原則。[16]
論文以《Placing language in an integrated understanding system》為題,2020年刊於《Proceedings of the National Academy of Sciences》第42期。[17]
2021年9月20日做客Lex Fridman Podcast
2021年9月20日,他作為第222期嘉賓做客Lex FridmanLex FridmanLex Fridman 是生於蘇聯、在美國長大的計算機科學家和播客主持人,任 MIT 研究科學家,研究人機交互與自動駕駛。他主持的 Lex Fridman Podcast 以數小時長篇對話著稱,嘉賓包括多國領導人和科技企業領袖。點擊查看完整詞條 Podcast,話題包括神經網絡之美、反向傳播、Dave Rumelhart與認知建模、聯結主義、Geoffrey Hinton以及Noam Chomsky與語言認知。[18]
2024年9月24日獲Golden Goose獎
2024年9月24日,他與Geoffrey Hinton及已故的Rumelhart在美國國會圖書館獲頒Golden Goose獎,該獎表彰起初看似冷門、後來產生重大影響的聯邦資助研究。[19]
Cognitive Science Society稱,三人因1970年代末至1980年代初關於PDP框架的開創性工作獲獎。[20]
2024年11月談神經網絡與人腦的異同
他表示,語言模型學語言所需數據約為人類的10萬倍;反向傳播從未被認為準確反映大腦的工作方式,他正研究大腦如何高效調整連接。[4]
2025年1月29日與Geoffrey Hinton對談
2025年1月29日,他與Hinton為Stanford Psychology Podcast錄製對談,節目稱這似乎是兩人數十年友誼中第一次有記錄的公開對話。[5]
截至2026年10月:現任職務
他是Stanford University Lucie Stern社會科學教授、Center for Mind, Brain, Computation and Technology聯合主任,也是美國國家科學院院士和英國國家學術院(British Academy)通訊院士。[21]
關聯機構、網站與公開賬號
個人網站:公開鏈接:https://stanford.edu/~jlmcc/(在新窗口打開)[18]
Stanford University:官網:https://www.stanford.edu/(在新窗口打開)[21]
Carnegie Mellon University:官網:https://www.cmu.edu/(在新窗口打開)[7]
UC San Diego:官網:https://ucsd.edu/(在新窗口打開)[3]
來源
- James L. McClelland — Heineken Prizes(在新窗口打開)
- Carnegie Mellon News Online Edition: January 7, 2002(在新窗口打開)
- VITA(在新窗口打開)
- The cognitive research behind AI's rise | Stanford Report(在新窗口打開)
- 147 - Geoff Hinton & Jay McClelland: Two AI Pioneers in Conversation(在新窗口打開)
- An Interactive Activation Model of Context Effects in Letter Perception: Part 1. An Account of Basic Findings(在新窗口打開)
- Jay McClelland's Home Page(在新窗口打開)
- Parallel distributed processing : explorations in the microstructure of cognition. v. 2, Psychological and biological models / by James L. McClelland, David E. Rumelhart, and the PDP Research Group.(在新窗口打開)
- Psychology Professor David Rumelhart wins Grawemeyer Award(在新窗口打開)
- Recurrent Neural Networks in Linguistic Theory: Revisiting Pinker and Prince (1988) and the Past Tense Debate(在新窗口打開)
- Why There Are Complementary Learning Systems in the Hippocampus and Neocortex: Insights From the Successes and Failures of Connectionist Models of Learning and Memory(在新窗口打開)
- Semantic cognition : a parallel distributed processing approach / Timothy T. Rogers and James L. McClelland.(在新窗口打開)
- The Rumelhart Prize Reaches a Decade; $1 Million to Understand How We Understand(在新窗口打開)
- McClelland, Spelke Win Inaugural NAS Mind Prize – Social Science Space(在新窗口打開)
- McClelland Receives Heineken Prize – Association for Psychological Science – APS(在新窗口打開)
- [1912.05877] Extending Machine Language Models toward Human-Level Language Understanding(在新窗口打開)
- Placing language in an integrated understanding system: Next steps toward human-level performance in neural language models(在新窗口打開)
- #222 - Jay McClelland: Neural Networks and the Emergence of Cognition | Lex Fridman Podcast(在新窗口打開)
- FABBS Members Honored at Library of Congress – FABBS(在新窗口打開)
- The Golden Goose Award to David Rumelhart, James McClelland, and Geoffrey Hinton - Cognitive Science Society(在新窗口打開)
- James L. (Jay) McClelland | AI at Princeton(在新窗口打開)