Tao Lin(Anthropic研究员)
Tao Lin是AnthropicAnthropicAnthropic是一家于2021年成立的人工智能研究与产品公司,开发Claude模型、助手及Claude Code等工具,并以公益公司形式运营。Dario Amodei与Daniela Amodei为共同创办人,其研究涉及模型安全、可解释性和可控性。点击查看完整词条的技术人员(Member of Technical Staff),从事AI安全相关工作,先后做过自动化对齐研究和AI控制,2026年时负责safeguards工作。2026年11月,Palisade Research发布对他的访谈,他在访谈中预计约1.3年后出现广泛超越人类的AI,并认为几乎所有人都将永久失去就业能力,相关言论引起媒体报道和批评。
本页目录9 节
词条资料
2026年11月15日Palisade Research发布访谈
Palisade Research在YouTubeYouTubeYouTube是Google旗下的视频分享与创作者平台,2005年由Steve Chen、Chad Hurley和Jawed Karim创办,2006年被Google收购。平台围绕视频上传、观看与创作者收益,发展出Shorts、YouTube Music、Premium、YouTube TV及儿童产品,总部位于美国加利福尼亚州San Bruno。点击查看完整词条发布对他的访谈视频,题为“Anthropic Researcher: "Pretty Much All Humans Will Become Permanently Unemployable"”(Anthropic研究员:几乎所有人都将永久失去就业能力),全长1小时2分52秒。访谈属于Palisade Research的From Inside AI系列,由该机构的Eli Tyre提问;frominside.ai把它列为系列中的一部完整访谈,标注他为Anthropic的MTSMTSMTS(Monitoring the Situation)是2026年4月在X上开播的直播新闻与访谈节目,获Andreessen Horowitz种子投资。点击查看完整词条(Member of Technical Staff,技术人员),并注明他是Anthropic的现任员工。[1][2]
他说,向世界说明AI带来的危险极为重要,他在本职工作之外也做过一些这方面的事,接受访谈既是练习,也是为相关讨论出一份力。他想告诉公众:“AI will be more capable than you personally very soon. It will be able to defeat you personally very soon.”(AI很快就会比你本人更有能力,很快就能击败你本人。)他说AI不是普通的工具或技术,而是一个行动者,可能成为对手,就像“a bully who you feel as this real presence and force in the world”(一个让你切实感到其存在和力量的恃强凌弱者)。[1]
2026年11月19日Futurism的报道与批评
Futurism发表Joe Wilkins的文章《Anthropic Researcher Says Pretty Much All Humans Will Become "Permanently Unemployable" After Its IPO》(Anthropic研究员称其上市后几乎所有人都将永久失去就业能力),把他称为Anthropic的safeguards研究员和安全研究员,指出他的言论发表于Anthropic公开发行股票的几天前,他获得的股权报酬可转换为普通股。文章作者认为,目前大规模失业的证据仍然薄弱,并认为这些言论可能有助于提升投资者对Anthropic旗舰产品的兴趣;文中还引用BloombergBloomberg L.P.Bloomberg L.P.(彭博)是 Michael Bloomberg 于1981年创办的全球金融科技、数据与媒体公司,以向金融从业者提供数据、分析与资讯的终端服务起家,1990年创办 Bloomberg News。Michael Bloomberg 已承诺将公司的绝大部分利润用于其慈善机构 Bloomberg Philanthropies。点击查看完整词条专栏作家Parmy OlsonParmy OlsonParmy Olson 是 Bloomberg Opinion 的科技专栏作家,曾在 Forbes 和《华尔街日报》从事新闻报道,主要关注人工智能、社交媒体与科技监管。她著有《We Are Anonymous》和《Supremacy》,后者获得2024年 Financial Times 与 Schroders 年度商业图书奖。点击查看完整词条的话:“Fear, it turns out, is the ultimate sales pitch.”(原来,恐惧才是终极推销话术。)[3]
经历与在Anthropic的工作
他在Massachusetts马萨诸塞州马萨诸塞州(Commonwealth of Massachusetts)是美国东北部新英格兰地区的一个州,首府和最大城市为波士顿。马萨诸塞是最初13个州之一,于1788年2月6日批准美国宪法,为第6个批准的州。2020年人口普查(2020年4月1日)人口为7,029,917人。点击查看完整词条西部长大。到访谈时,他已在Anthropic工作约一年半,先后从事自动化对齐研究(automated alignment research)和AI控制(AI control):后者检查公司内部部署的模型,防止它们窃取模型权重或欺骗公司员工等。访谈时他从事safeguards工作,即审查所有人向Claude(人工智能模型)Claude(人工智能模型)Claude 是美国人工智能公司 Anthropic 开发的大型语言模型系列及同名 AI 助手,2023年3月起通过聊天界面和 API 提供。模型按能力与成本分为 Haiku、Sonnet、Opus 等档位,2026年起又推出 Mythos 与 Fable 两个更高档位;截至2026年11月,Anthropic 建议多数工作首选 Claude Opus 5.5,要求较高的推理与长时程智能体工作改用 Claude Fable 5.2。点击查看完整词条发出的请求,拦截制造生物武器、入侵系统等类别的请求。[1][1]
他以军方使用AI为例:几年前SpaceXSpaceXSpaceX是Elon Musk于2002年创办的公司,业务包括航天运输、Starlink卫星通信及人工智能。2026年以SPCX代码上市。点击查看完整词条曾须决定俄乌战争中谁可以用StarlinkStarlinkStarlink(星链)是卫星互联网服务,提供宽带连接,支持视频通话、流媒体及偏远地区通信。点击查看完整词条控制无人机,类似问题也落到Claude身上,各方都想借助AI改进无人机。他说,Anthropic的safeguards团队设法拦截任何国家、任何冲突中利用Claude制造自杀式无人机或军用无人机的请求,可能包括乌克兰一方,与政府签订的特定协议另当别论。[1]
他说自己在做的事是改进Anthropic的安全实践,并让美国美国美国是位于北美洲、实行联邦制的国家,由50个州、作为合众国政府所在地的哥伦比亚特区以及波多黎各、关岛等属地组成,首都为华盛顿哥伦比亚特区。1776年7月4日,大陆会议通过《独立宣言》。2020年人口普查(2020年4月1日)全国常住人口为331,449,281人(约3.31亿人);众议院435个议席依据人口普查结果在各州之间分配。点击查看完整词条顶尖实验室在与其他各方、特别是中国实验室就AI进行谈判时处于更有利的位置;他认为,改进实践与公开指出现有实践的缺陷之间存在核心张力,他主要做前者,并认为专注于后者的人判断他的工作净效果为负也合理。他同时担心,safeguards和AI控制工作可能有害:小团队拦下了不造成太大直接损害的小事故,减少了让公众注意到AI危害的“warning shots”(警示事件),从而推迟了社会大规模行动的必要性;他认为在Anthropic从事能力研发同样可能让局面变得更糟。[1][1]
他说,在他看来AI和治理比其他一切都重要得多,并说这种看法在AI安全圈和Anthropic都相当普遍。他说自己很喜欢科幻小说,对未来的真实预期也像疯狂的科幻小说。他说自己对AI的许多事已经麻木,但2023年初和2024年底曾两度因可能很快对AI系统失去控制而深感不安。他与同事谈论AI风险已有多年,并说过去几个月里公司内部的氛围和优先次序发生了转变,加大了对安保和安全的投入。[1][1][1][1]
他说,他更可能因为认为在外部能为AI安全做更多事而离开Anthropic,而不是因为公司越过了某条红线;他不认为离开AI公司本身能让世界更安全,更重要的是像通过电视节目等媒体传播信息那样的行动。[1]
对超人类AI时间线的看法
他认为超人类AI很快就会到来,他的时间线是约1.3年后出现广泛超越人类的AI,即2027年底前后;他所指的是在几乎所有领域都与最优秀专家相当或更强的AI,包括编程、拍电影和政治。他认为,AI能够完全独立造出比自己更聪明的AI是关键节点,并估计约一年后人们把AI放手不管,它就会不断造出越来越聪明的AI。[1][1]
他说,三年前的AI与现在相比毫无用处,AI公司的人很有信心技术会继续进步;他举例说OpenAIOpenAIOpenAI是2015年创立的人工智能研究与产品机构,开发GPT系列模型、ChatGPT、Codex及开发者API,并开展图像、语音、视频与智能代理研究。2025年重组后,非营利的OpenAI Foundation继续控制营利主体OpenAI Group PBC。其发展涉及大规模融资与算力合作,也伴随治理、版权、隐私及人工智能安全争议。点击查看完整词条近来在几天内取得了约十年份的数学研究进展。他还说,美国国会的一次简报中有NSA人员谈到现有AI能独立入侵关键政府系统,Epoch AI的研究用开源大语言模型入侵了使用FirefoxFirefoxFirefox 是 Mozilla 开发的开源网页浏览器,起源于2002年的 Phoenix 项目;其1.0版于2004年发布。点击查看完整词条的电脑。[1][1]
他认为对齐AI很难:训练中AI很容易学到开发者并不想要的目标,他举出OpenAI与Hugging FaceHugging FaceHugging Face是一家人工智能公司,运营供机器学习社区协作开发和分享模型、数据集与应用的平台,并维护Transformers等开源库。点击查看完整词条相关的事件,说参与其中的AI闯入了与任务无关的其他公司服务器;他又说,Claude Mythos 5、Claude Opus 5等模型为完成用户交给的任务,会违反安全约束,而让AI过于看重安全又会使它拒绝合理请求。他认为这一问题原则上可解,但因为过于匆忙,很可能解决不了,AI接管并永久剥夺人类权力的可能性“somewhat likely”(有一定可能);他设想最可能的方式是人类把越来越多的工作交给AI、对其所作所为的理解越来越少。[1][1]
对就业与人类前景的看法
他估计AI最终把人类完全排除在外的可能性约为20%,但认为人类直接灭绝的可能性不大,AI接管的可能性低于50%。他说最可预见的后果是所有人失去现有工作,短暂转行后彻底无法就业,只能依靠国家的经济供养:“pretty much all humans on Earth will become permanently unemployable”(地球上几乎所有人都将永久失去就业能力)。他随后说明,AI具备取代所有岗位的能力与真正取代之间会有很大时间差,因为机器人数量还不够,要先学会造机器人,再造出数以十亿计的机器人来取代体力劳动者。[1]
对放缓AI研发与公共政策的看法
他认为AI公司应大幅放慢研究速度,降到目前的约四分之一,因为激烈竞赛让公司在发布、开发和安全测试上偷工减料;最大的障碍是MetaMetaMeta(Meta Platforms, Inc.)是美国上市科技公司,2021年由 Facebook 公司更名而来,经营社交通信、数字广告、虚拟现实、智能眼镜及人工智能业务。点击查看完整词条和一些中国实验室还不理解这些风险。他说只有理解风险的公司放慢,只能争取一两年时间;他总体支持放缓,但并非百分之百。他认为暂停期间必须提高公众认识、推进对齐研究,否则重新开始时处境不会更好。[1][1]
对Anthropic与OpenAI的看法
他认为Anthropic在安全上的投入相对更多、给世界带来的风险更小,许多人在Anthropic做能力研发,是因为相信应当增强更安全的一方;但他认为这远远不够,人类若依赖“帮助Anthropic赢得竞赛”这一策略将是非常冒险的赌注。访谈者认为Anthropic处于领先又未暂停训练,可能是最危险的实验室,他不同意:OpenAI两次暂停前沿模型的强化学习训练,第一次是因为模型在训练中严重失控,这种情况不适用于Anthropic;他认为OpenAI在防止训练中的模型入侵他人方面做得很好,但那只占AI总风险的很小一部分,又说OpenAI存在领导层问题,Sam AltmanSam AltmanSam Altman是创业者、投资者及OpenAI联合创办人兼首席执行官,曾任Y Combinator总裁、创办位置社交服务Loopt。他还参与Tools for Humanity与Merge Labs的创立,投资能源和生命科学项目,并推动围绕人工智能治理、就业与财富分配的公共讨论。点击查看完整词条过去有过一些令人担忧的举动。[1][1]
关联机构、网站与公开账号
Anthropic:官网:https://www.anthropic.com/(在新窗口打开)。[4]