DeepSeek
概述
DeepSeek(深度求索)開發大語言模型及生成式人工智能服務,通過網頁、應用和API向用戶與開發者提供文本、表格和代碼生成等功能。其服務由杭州的DeepSeek公司運營。[1]
其代碼模型DeepSeek Coder採用項目級代碼語料訓練,覆蓋多種參數規模,支持代碼補全和中間填充。原始系列使用16K上下文窗口,訓練數據包含代碼及中英文自然語言。[2]
DeepSeek Harness則是面向日常工作、編程和研究的智能體工具,提供桌面應用與代碼啟動的網頁界面。其公開預覽版採用可組合插件,用於擴展工具、技能與交互界面。[3]
本頁目錄21 節
詞條資料
2023年7月在杭州創立
梁文鋒在杭州創立深度求索,專注人工智能大模型研發。其創業背景與幻方量化的技術積累相關,後者此前已投入GPU集群建設。[4]
2024年1月DeepSeek LLM研究
團隊發表DeepSeek LLM研究,討論70億和670億參數模型的規模擴展,以2萬億詞元數據進行預訓練,並結合監督微調和直接偏好優化形成聊天模型。[5]
2024年1月專家分工架構
DeepSeekMoE研究將專家網絡細分,並設置共享專家提取通用知識,以減少不同路由專家之間的重複。其目標是在擴大總參數量時控制每次計算的成本。[6]
2024年2月DeepSeekMath與GRPO
DeepSeekMath在代碼模型基礎上加入數學語料繼續訓練,並提出組相對策略優化(GRPO)。該強化學習方法旨在提升數學推理,同時減少傳統PPO訓練中的內存需求。[7]
2024年5月V2與潛在注意力
V2技術報告描述2360億總參數、每詞元激活210億參數的混合專家模型,支持128K上下文。其多頭潛在注意力(MLA)壓縮鍵值緩存,與稀疏專家計算共同降低推理資源需求。[8]
2024年12月V3技術報告
V3採用6710億總參數、每詞元激活370億參數,並引入無需輔助損失的負載均衡及多詞元預測目標。團隊報告模型訓練使用278.8萬H800 GPU小時;該計算量不能等同於公司的全部研發投入。[9]
2025年1月R1強化學習研究
R1研究展示通過強化學習激勵推理行為的路徑,包括自我檢查、驗證和策略調整。論文還討論利用大型模型形成的推理模式改善小模型能力,研究評估主要涉及可驗證的數學、代碼及科學任務。[10]
2025年5月R1-0528更新
R1-0528開放模型權重,並增加JSON輸出和函數調用支持。DeepSeek稱新版改善前端任務表現並減少幻覺;這些是發佈方對更新的描述,而非對所有生成內容準確性的保證。[11]
2025年8月V3.1雙推理模式
V3.1將思考和非思考模式合併到同一模型,兩者均支持128K上下文。此次更新增加AnthropicAnthropicAnthropic是一家於2021年成立的人工智能研究與產品公司,開發Claude模型、助手及Claude Code等工具,並以公益公司形式運營。Dario Amodei與Daniela Amodei為共同創辦人,其研究涉及模型安全、可解釋性和可控性。點擊查看完整詞條格式接口兼容,並在測試接口中提供嚴格函數調用,重點改善工具使用及多步任務。[12]
2025年9月V3.2-Exp稀疏注意力
實驗版V3.2-Exp在V3.1-Terminus基礎上引入DeepSeek Sparse Attention(DSA)。該機制選擇性處理上下文信息,以降低長上下文訓練及推理計算量;模型同時上線網頁、應用和API。[13]
2025年11月數學證明自驗證
DeepSeekMath-V2將證明生成器與驗證器結合,鼓勵模型在提交答案前檢查並修正證明。研究強調,最終答案正確不代表推導過程嚴謹,因此訓練目標擴展到證明完整性與可靠性。[14]
2025年12月V3.2工具調用與思考
V3.2將思考過程整合進工具調用,同時推出更偏重複雜推理的Speciale。後者當時通過臨時API供評估,不支持工具調用,原定服務期限止於12月15日,不能視為永久在線接口。[15]
2026年1月Engram條件記憶
Engram研究把知識查找作為神經網絡計算之外的另一種能力,通過可擴展查表提供條件記憶。論文探索將常見模式交給記憶模塊,以便主網絡把更多計算用於複雜推理。[16]
2026年1月OCR 2視覺處理
DeepSeek-OCR 2探索根據圖像語義動態重排視覺詞元,替代固定從左上到右下的掃描順序。研究針對複雜版面理解提出帶因果推理能力的編碼器,並公開代碼與模型權重。[17]
2026年2月隱私政策更新
隱私政策列明收集用戶輸入、上傳文件、聊天記錄及設備信息,並在中國處理和存儲個人數據。政策亦說明將數據用於模型改進,並列出依適用法律行使訪問、刪除及退出訓練用途等權利的渠道。[18]
2026年2月Anthropic蒸餾指控
Anthropic指控DeepSeek通過逾15萬次交互提取Claude能力,涉及推理和評分任務。這是該公司的指控。[19]
2026年4月V4百萬詞元預覽版
V4預覽版分為Pro和Flash,均提供百萬詞元上下文及思考、非思考模式。Pro總參數1.6萬億、激活490億,Flash總參數2840億、激活130億;兩者面向不同計算資源和響應需求。[20]
2026年9月V4.1-Flash視覺模型
V4.1-Flash具備原生視覺理解,採用5520億參數混合專家架構。其因果編碼器—解碼器設計在輸入端激活80億參數、輸出端激活160億參數,體現輸入與生成階段的不同計算配置。[21]
2026年10月1017版本與搜索接口
V4.1-Flash更新至1017版本,覆蓋官方網頁、應用和API,調用名稱及當次價格保持不變。DeepSeek報告編程和智能體任務表現改善,並同步開放自研搜索引擎的接口。[22]
Search接口返回結構化搜索結果,Fetch接口將單個網頁轉換為Markdown,供智能體或檢索增強應用使用。這兩個接口與生成模型採用相同的API認證方式。[23]
來源
- DeepSeek Terms of Use(在新窗口打開)
- DeepSeek Coder: Let the Code Write Itself(在新窗口打開)
- DeepSeek Harness | Explore the limits of intelligence(在新窗口打開)
- 杭州四小龙:闪耀的“东方神秘力量”(在新窗口打開)
- DeepSeek LLM: Scaling Open-Source Language Models with Longtermism(在新窗口打開)
- DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models(在新窗口打開)
- DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models(在新窗口打開)
- DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model(在新窗口打開)
- DeepSeek-V3 Technical Report(在新窗口打開)
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning(在新窗口打開)
- DeepSeek-R1-0528 Release(在新窗口打開)
- DeepSeek-V3.1 Release(在新窗口打開)
- Introducing DeepSeek-V3.2-Exp(在新窗口打開)
- DeepSeekMath-V2: Towards Self-Verifiable Mathematical Reasoning(在新窗口打開)
- DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models(在新窗口打開)
- Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models(在新窗口打開)
- DeepSeek-OCR 2: Visual Causal Flow(在新窗口打開)
- DeepSeek Privacy Policy(在新窗口打開)
- Detecting and preventing distillation attacks(在新窗口打開)
- DeepSeek-V4 Preview: Entering the Era of Affordable Million-Token Context(在新窗口打開)
- Introducing DeepSeek-V4.1-Flash: smarter, faster, more efficient.(在新窗口打開)
- Change Log(在新窗口打開)
- Search & Fetch(在新窗口打開)