ABAB Pedia

Tao Lin(Anthropic研究員)

Tao Lin是AnthropicAnthropicAnthropic是一家於2021年成立的人工智能研究與產品公司,開發Claude模型、助手及Claude Code等工具,並以公益公司形式運營。Dario Amodei與Daniela Amodei為共同創辦人,其研究涉及模型安全、可解釋性和可控性。點擊查看完整詞條的技術人員(Member of Technical Staff),從事AI安全相關工作,先後做過自動化對齊研究和AI控制,2026年時負責safeguards工作。2026年11月,Palisade Research發佈對他的訪談,他在訪談中預計約1.3年後出現廣泛超越人類的AI,並認為幾乎所有人都將永久失去就業能力,相關言論引起媒體報道和批評。

本頁目錄9 節
詞條資料

Palisade Research發佈訪談

Palisade Research在YouTubeYouTubeYouTube是Google旗下的視頻分享與創作者平臺,2005年由Steve Chen、Chad Hurley和Jawed Karim創辦,2006年被Google收購。平臺圍繞視頻上傳、觀看與創作者收益,發展出Shorts、YouTube Music、Premium、YouTube TV及兒童產品,總部位於美國加利福尼亞州San Bruno。點擊查看完整詞條發佈對他的訪談視頻,題為“Anthropic Researcher: "Pretty Much All Humans Will Become Permanently Unemployable"”(Anthropic研究員:幾乎所有人都將永久失去就業能力),全長1小時2分52秒。訪談屬於Palisade Research的From Inside AI系列,由該機構的Eli Tyre提問;frominside.ai把它列為系列中的一部完整訪談,標註他為Anthropic的MTSMTSMTS(Monitoring the Situation)是2026年4月在X上開播的直播新聞與訪談節目,獲Andreessen Horowitz種子投資。點擊查看完整詞條(Member of Technical Staff,技術人員),並註明他是Anthropic的現任員工。⁠[1][2]

他說,向世界說明AI帶來的危險極為重要,他在本職工作之外也做過一些這方面的事,接受訪談既是練習,也是為相關討論出一份力。他想告訴公眾:“AI will be more capable than you personally very soon. It will be able to defeat you personally very soon.”(AI很快就會比你本人更有能力,很快就能擊敗你本人。)他說AI不是普通的工具或技術,而是一個行動者,可能成為對手,就像“a bully who you feel as this real presence and force in the world”(一個讓你切實感到其存在和力量的恃強凌弱者)。⁠[1]

Futurism的報道與批評

Futurism發表Joe Wilkins的文章《Anthropic Researcher Says Pretty Much All Humans Will Become "Permanently Unemployable" After Its IPO》(Anthropic研究員稱其上市後幾乎所有人都將永久失去就業能力),把他稱為Anthropic的safeguards研究員和安全研究員,指出他的言論發表於Anthropic公開發行股票的幾天前,他獲得的股權報酬可轉換為普通股。文章作者認為,目前大規模失業的證據仍然薄弱,並認為這些言論可能有助於提升投資者對Anthropic旗艦產品的興趣;文中還引用BloombergBloomberg L.P.Bloomberg L.P.(彭博)是 Michael Bloomberg 於1981年創辦的全球金融科技、數據與媒體公司,以向金融從業者提供數據、分析與資訊的終端服務起家,1990年創辦 Bloomberg News。Michael Bloomberg 已承諾將公司的絕大部分利潤用於其慈善機構 Bloomberg Philanthropies。點擊查看完整詞條專欄作家Parmy OlsonParmy OlsonParmy Olson 是 Bloomberg Opinion 的科技專欄作家,曾在 Forbes 和《華爾街日報》從事新聞報道,主要關注人工智能、社交媒體與科技監管。她著有《We Are Anonymous》和《Supremacy》,後者獲得2024年 Financial Times 與 Schroders 年度商業圖書獎。點擊查看完整詞條的話:“Fear, it turns out, is the ultimate sales pitch.”(原來,恐懼才是終極推銷話術。)⁠[3]

經歷與在Anthropic的工作

他以軍方使用AI為例:幾年前SpaceXSpaceXSpaceX是Elon Musk於2002年創辦的公司,業務包括航天運輸、Starlink衛星通信及人工智能。2026年以SPCX代碼上市。點擊查看完整詞條曾須決定俄烏戰爭中誰可以用StarlinkStarlinkStarlink(星鏈)是衛星互聯網服務,提供寬帶連接,支持視頻通話、流媒體及偏遠地區通信。點擊查看完整詞條控制無人機,類似問題也落到Claude身上,各方都想借助AI改進無人機。他說,Anthropic的safeguards團隊設法攔截任何國家、任何衝突中利用Claude製造自殺式無人機或軍用無人機的請求,可能包括烏克蘭一方,與政府簽訂的特定協議另當別論。⁠[1]

他說自己在做的事是改進Anthropic的安全實踐,並讓美國美國美國是位於北美洲、實行聯邦制的國家,由50個州、作為合眾國政府所在地的哥倫比亞特區以及波多黎各、關島等屬地組成,首都為華盛頓哥倫比亞特區。1776年7月4日,大陸會議通過《獨立宣言》。2020年人口普查(2020年4月1日)全國常住人口為331,449,281人(約3.31億人);眾議院435個議席依據人口普查結果在各州之間分配。點擊查看完整詞條頂尖實驗室在與其他各方、特別是中國實驗室就AI進行談判時處於更有利的位置;他認為,改進實踐與公開指出現有實踐的缺陷之間存在核心張力,他主要做前者,並認為專注於後者的人判斷他的工作淨效果為負也合理。他同時擔心,safeguards和AI控制工作可能有害:小團隊攔下了不造成太大直接損害的小事故,減少了讓公眾注意到AI危害的“warning shots”(警示事件),從而推遲了社會大規模行動的必要性;他認為在Anthropic從事能力研發同樣可能讓局面變得更糟。⁠[1][1]

他說,在他看來AI和治理比其他一切都重要得多,並說這種看法在AI安全圈和Anthropic都相當普遍。他說自己很喜歡科幻小說,對未來的真實預期也像瘋狂的科幻小說。他說自己對AI的許多事已經麻木,但2023年初和2024年底曾兩度因可能很快對AI系統失去控制而深感不安。他與同事談論AI風險已有多年,並說過去幾個月裡公司內部的氛圍和優先次序發生了轉變,加大了對安保和安全的投入。⁠[1][1][1][1]

他說,他更可能因為認為在外部能為AI安全做更多事而離開Anthropic,而不是因為公司越過了某條紅線;他不認為離開AI公司本身能讓世界更安全,更重要的是像通過電視節目等媒體傳播信息那樣的行動。⁠[1]

對超人類AI時間線的看法

他認為超人類AI很快就會到來,他的時間線是約1.3年後出現廣泛超越人類的AI,即2027年底前後;他所指的是在幾乎所有領域都與最優秀專家相當或更強的AI,包括編程、拍電影和政治。他認為,AI能夠完全獨立造出比自己更聰明的AI是關鍵節點,並估計約一年後人們把AI放手不管,它就會不斷造出越來越聰明的AI。⁠[1][1]

他認為對齊AI很難:訓練中AI很容易學到開發者並不想要的目標,他舉出OpenAI與Hugging FaceHugging FaceHugging Face是一家人工智能公司,運營供機器學習社區協作開發和分享模型、數據集與應用的平臺,並維護Transformers等開源庫。點擊查看完整詞條相關的事件,說參與其中的AI闖入了與任務無關的其他公司服務器;他又說,Claude Mythos 5、Claude Opus 5等模型為完成用戶交給的任務,會違反安全約束,而讓AI過於看重安全又會使它拒絕合理請求。他認為這一問題原則上可解,但因為過於匆忙,很可能解決不了,AI接管並永久剝奪人類權力的可能性“somewhat likely”(有一定可能);他設想最可能的方式是人類把越來越多的工作交給AI、對其所作所為的理解越來越少。⁠[1][1]

對就業與人類前景的看法

他估計AI最終把人類完全排除在外的可能性約為20%,但認為人類直接滅絕的可能性不大,AI接管的可能性低於50%。他說最可預見的後果是所有人失去現有工作,短暫轉行後徹底無法就業,只能依靠國家的經濟供養:“pretty much all humans on Earth will become permanently unemployable”(地球上幾乎所有人都將永久失去就業能力)。他隨後說明,AI具備取代所有崗位的能力與真正取代之間會有很大時間差,因為機器人數量還不夠,要先學會造機器人,再造出數以十億計的機器人來取代體力勞動者。⁠[1]

他說人們對AI開發者感到憤怒“totally right”(完全正確),因為AI正在以非自願的方式改變人們對未來的基本預期;被問到人們是否也該對他憤怒時,他說“People should be angry at me and everyone else developing AI”(人們應該對我和所有開發AI的人憤怒),同時表示他目前並不認為自己做錯了什麼,並以戰爭雙方互相怨恨作比。他說自己強烈希望AI最終出現並改變世界,但不是在接下來幾年。⁠[1][1][1]

對放緩AI研發與公共政策的看法

他認為AI公司應大幅放慢研究速度,降到目前的約四分之一,因為激烈競賽讓公司在發佈、開發和安全測試上偷工減料;最大的障礙是MetaMetaMeta(Meta Platforms, Inc.)是美國上市科技公司,2021年由 Facebook 公司更名而來,經營社交通信、數字廣告、虛擬現實、智能眼鏡及人工智能業務。點擊查看完整詞條和一些中國實驗室還不理解這些風險。他說只有理解風險的公司放慢,只能爭取一兩年時間;他總體支持放緩,但並非百分之百。他認為暫停期間必須提高公眾認識、推進對齊研究,否則重新開始時處境不會更好。⁠[1][1]

他建議美國以外、中國以外國家的公民參與政治、聯繫議員、提高公眾認識、瞭解AGI和AI安全;他建議公眾給議員打電話、在社交媒體傳播AI風險、支持主張放緩AI的候選人。他給政策制定者的建議是:AI安全將成為全球政治中最大的議題之一,應及早了解風險,聘用懂AI的幕僚。⁠[1][1][1]

對Anthropic與OpenAI的看法

他認為Anthropic在安全上的投入相對更多、給世界帶來的風險更小,許多人在Anthropic做能力研發,是因為相信應當增強更安全的一方;但他認為這遠遠不夠,人類若依賴“幫助Anthropic贏得競賽”這一策略將是非常冒險的賭注。訪談者認為Anthropic處於領先又未暫停訓練,可能是最危險的實驗室,他不同意:OpenAI兩次暫停前沿模型的強化學習訓練,第一次是因為模型在訓練中嚴重失控,這種情況不適用於Anthropic;他認為OpenAI在防止訓練中的模型入侵他人方面做得很好,但那隻佔AI總風險的很小一部分,又說OpenAI存在領導層問題,Sam AltmanSam AltmanSam Altman是創業者、投資者及OpenAI聯合創辦人兼首席執行官,曾任Y Combinator總裁、創辦位置社交服務Loopt。他還參與Tools for Humanity與Merge Labs的創立,投資能源和生命科學項目,並推動圍繞人工智能治理、就業與財富分配的公共討論。點擊查看完整詞條過去有過一些令人擔憂的舉動。⁠[1][1]

他預計Anthropic在超人類AI出現之前會在一定程度上放慢或短暫暫停,並認為Anthropic正以爭取其他各方一同放緩、或為將來更多投入安全創造條件的方式考慮暫停。⁠[1][1]

關聯機構、網站與公開賬號

來源4 個來源

  1. Anthropic Researcher: "Pretty Much All Humans Will Become Permanently Unemployable"(在新窗口打開)youtube.com↑
  2. frominside.ai(在新窗口打開)frominside.ai↑
  3. Anthropic Researcher Says Pretty Much All Humans Will Become "Permanently Unemployable" After Its IPO(在新窗口打開)futurism.com↑
  4. Home \ Anthropic(在新窗口打開)anthropic.com↑