ABAB Pedia

Jay McClelland

Jay McClelland(James L. McClelland)是美国认知科学家,Stanford UniversityStanford UniversityStanford University是美国加利福尼亚州的研究型大学,由Leland与Jane Stanford于1885年创立,1891年开学。点击查看完整词条心理学系Lucie Stern社会科学教授。他与David Rumelhart共同创立并领导“parallel distributed processing”(并行分布式处理,PDP)研究小组,1986年出版的两卷本《Parallel Distributed Processing》是神经网络认知建模的奠基性著作。

本页目录23 节
词条资料

出生于美国剑桥

McClelland于1948年12月1日出生于美国剑桥(Cambridge)。⁠[1]

Columbia本科与Penn博士

任教UC San Diego并与Rumelhart合作

他1974年起任UC San Diego心理学系助理教授,1980年升任副教授。⁠[3]

他读到Rumelhart的论文后开始与之合作,希望建立能体现大脑感知字母特点的神经网络模型;他说自己当时从未想过要构建人工智能。⁠[4]

他与Geoffrey HintonGeoffrey Hinton机器学习研究者。点击查看完整词条的友谊始于1970年代末,并在两人与Rumelhart的合作中加深。⁠[5]

提出交互激活模型

1981年9月,他与Rumelhart在《Psychological Review》发表交互激活模型:特征、字母和单词检测器通过兴奋与抑制相互作用,模拟显示字母在单词及可发音假词中更易被感知,从而无需显式规则即可解释看似受规则支配的表现。⁠[6]

转往Carnegie Mellon University

出版《Parallel Distributed Processing》

1986年MIT Press出版由他、Rumelhart和PDP研究小组撰写的两卷本《Parallel Distributed Processing》;第二卷把联结主义理论应用于知觉、记忆、语言和思维等问题。⁠[8]

Stanford的评价称,这部书把并行计算概念带给心理学、神经科学和计算机科学领域的更广泛读者。⁠[9]

过去式模型与Pinker、Prince的批评

Rumelhart与McClelland在1986年描述了一个能把英语动词词干转为过去式的神经网络;1988年Steven PinkerSteven PinkerSteven Pinker是加拿大出生的实验心理学家和科普作家,研究语言、认知与社会关系,曾任教于MIT二十余年,2003年起任Harvard大学心理学教授,著有《The Language Instinct》《The Better Angels of Our Nature》《Enlightenment Now》等书。点击查看完整词条与Alan Prince批评该模型的实证表现和理论问题,引发长期的过去式之争。2018年有研究者认为,新一代循环神经网络使其中许多批评不再成立。⁠[10]

共同领导Center for the Neural Basis of Cognition

1994—2006年,他担任Carnegie Mellon与University of Pittsburgh合办的Center for the Neural Basis of Cognition联合主任。⁠[3]

提出互补学习系统理论

1995年他与Bruce McNaughton、Randall O’Reilly在《Psychological Review》发表论文,提出记忆先经海马系统的突触变化储存,再在反复重现中逐渐整合进新皮层;海马支持快速学习新事物,而新皮层缓慢学习以发现经验中的结构。⁠[11]

入选美国国家科学院并获Grawemeyer奖

2002年1月,Carnegie Mellon宣布他与Rumelhart因二十年来对并行分布式处理框架的研究,共获2002年University of Louisville Grawemeyer心理学奖,奖金20万美元;他当时也已入选美国国家科学院。⁠[2]

出版《Semantic Cognition》

2004年MIT Press出版他与Timothy T. Rogers合著的《Semantic Cognition: A Parallel Distributed Processing Approach》,提出语义知识通过互联处理单元间连接强度的渐进调整而习得。⁠[12]

转往Stanford University

2006年他转到Stanford University心理学系,2007年创立Center for Mind, Brain, and Computation,并于2009年秋至2012年夏担任系主任。⁠[7]

获Rumelhart奖

他是第十位David E. Rumelhart奖得主,并在2010年8月Cognitive Science Society年会上作主题演讲。学会称,他与合作者通过受大脑启发的学习与智能计算模型,建立了心智符号理论之外的另一种理论。⁠[13]

获美国国家科学院心理与认知科学奖

2014年5月,他与Elizabeth Spelke成为美国国家科学院心理与认知科学奖首届得主,奖金20万美元,表彰他构建计算模型来展示激活在大脑网络中的扩散。⁠[14]

获Heineken认知科学奖

2014年10月2日,荷兰皇家艺术与科学院在Amsterdam向他颁发20万美元的C.L. de Carvalho-Heineken认知科学奖,表彰他用神经网络为认知过程建模。⁠[15]

探讨语言模型如何接近人类理解

2019年12月,他与Felix Hill、Maja Rudolph、Jason Baldridge和Hinrich Schütze发布预印本,认为语言是理解和交流情境的系统的一部分,这种能力依赖连接学习、分布式表征等生物神经网络的通用原则。⁠[16]

论文以《Placing language in an integrated understanding system》为题,2020年刊于《Proceedings of the National Academy of Sciences》第42期。⁠[17]

做客Lex Fridman Podcast

获Golden Goose奖

2024年9月24日,他与Geoffrey Hinton及已故的Rumelhart在美国国会图书馆获颁Golden Goose奖,该奖表彰起初看似冷门、后来产生重大影响的联邦资助研究。⁠[19]

Cognitive Science Society称,三人因1970年代末至1980年代初关于PDP框架的开创性工作获奖。⁠[20]

谈神经网络与人脑的异同

他表示,语言模型学语言所需数据约为人类的10万倍;反向传播从未被认为准确反映大脑的工作方式,他正研究大脑如何高效调整连接。⁠[4]

与Geoffrey Hinton对谈

2025年1月29日,他与Hinton为Stanford Psychology Podcast录制对谈,节目称这似乎是两人数十年友谊中第一次有记录的公开对话。⁠[5]

截至2026年10月:现任职务

他是Stanford University Lucie Stern社会科学教授、Center for Mind, Brain, Computation and Technology联合主任,也是美国国家科学院院士和英国国家学术院(British Academy)通讯院士。⁠[21]

关联机构、网站与公开账号

Carnegie Mellon University:官网:https://www.cmu.edu/(在新窗口打开)⁠[7]

来源

  1. James L. McClelland — Heineken Prizes(在新窗口打开)
  2. Carnegie Mellon News Online Edition: January 7, 2002(在新窗口打开)
  3. VITA(在新窗口打开)
  4. The cognitive research behind AI's rise | Stanford Report(在新窗口打开)
  5. 147 - Geoff Hinton & Jay McClelland: Two AI Pioneers in Conversation(在新窗口打开)
  6. An Interactive Activation Model of Context Effects in Letter Perception: Part 1. An Account of Basic Findings(在新窗口打开)
  7. Jay McClelland's Home Page(在新窗口打开)
  8. Parallel distributed processing : explorations in the microstructure of cognition. v. 2, Psychological and biological models / by James L. McClelland, David E. Rumelhart, and the PDP Research Group.(在新窗口打开)
  9. Psychology Professor David Rumelhart wins Grawemeyer Award(在新窗口打开)
  10. Recurrent Neural Networks in Linguistic Theory: Revisiting Pinker and Prince (1988) and the Past Tense Debate(在新窗口打开)
  11. Why There Are Complementary Learning Systems in the Hippocampus and Neocortex: Insights From the Successes and Failures of Connectionist Models of Learning and Memory(在新窗口打开)
  12. Semantic cognition : a parallel distributed processing approach / Timothy T. Rogers and James L. McClelland.(在新窗口打开)
  13. The Rumelhart Prize Reaches a Decade; $1 Million to Understand How We Understand(在新窗口打开)
  14. McClelland, Spelke Win Inaugural NAS Mind Prize – Social Science Space(在新窗口打开)
  15. McClelland Receives Heineken Prize – Association for Psychological Science – APS(在新窗口打开)
  16. [1912.05877] Extending Machine Language Models toward Human-Level Language Understanding(在新窗口打开)
  17. Placing language in an integrated understanding system: Next steps toward human-level performance in neural language models(在新窗口打开)
  18. #222 - Jay McClelland: Neural Networks and the Emergence of Cognition | Lex Fridman Podcast(在新窗口打开)
  19. FABBS Members Honored at Library of Congress – FABBS(在新窗口打开)
  20. The Golden Goose Award to David Rumelhart, James McClelland, and Geoffrey Hinton - Cognitive Science Society(在新窗口打开)
  21. James L. (Jay) McClelland | AI at Princeton(在新窗口打开)