ABAB Pedia

Underdog(个人人工智能)

Underdog 是 Conway ResearchConway ResearchConway Research 是 Sigil Wen 创办的人工智能实验室,研究高效模型、推理引擎和在用户自有设备上运行的个人人工智能,首款产品是本地运行的个人助手 Underdog;2026年10月,Andreessen Horowitz 宣布领投其首轮融资。点击查看完整词条 开发的个人人工智能助手,模型在用户自己的电脑或手机上本地运行,处理邮件、日历、会议记录、听写和代办网购等事务,邮件和录音等个人数据不上传到云端人工智能服务;2026年10月以邀请制测试版对外推出。

本页目录12 节
词条资料

早年:开发动机

他自2018年起就尝试把人工智能模型放到自己的设备上:2023年他让 GPT-2 在 Apple Watch 上运行,在 Airchat 期间又与 Naval RavikantNaval RavikantNaval Ravikant 是企业家和天使投资人,AngelList 联合创办人。他早年参与创办点评网站 Epinions,后来与 Babak Nivi 由创业融资博客 Venture Hacks 发展出 AngelList,并参与发起加密货币对冲基金 MetaStable Capital 与扶持创始人做天使投资的 Spearhead;他的创业与人生观点经整理成书《The Almanack of Naval Ravikant》。点击查看完整词条 一起把语音识别模型 Whisper 放进 iPhone,免费提供给10万人使用。随着小模型能力提高、硬件进步,他认为在本地运行有用的个人人工智能已经可行。⁠[3][3][2]

私测版

Wen 在 X 上发布 Underdog 私测版,称自己担心个人数据出现在训练集、邮件存放在数据库里,又认为人工智能非常擅长黑客攻击,因而不信任云端,于是先为自己开发了这个在本地运行的端侧人工智能系统。Underdog 的官方 X 账号于前一天注册。⁠[4][4][4][5]

发布 Husky 推理引擎

团队发布专为自家 Woof 模型打造的推理引擎 Husky,用于在 AppleAppleApple(苹果公司)是1976年创办、总部位于美国加利福尼亚州库比蒂诺的上市科技公司。业务包括 iPhone、Mac、iPad、可穿戴设备,以及数字内容、支付、云端存储等服务。公司通过自研硬件、操作系统和服务构建产品体系。点击查看完整词条 芯片上运行。按团队公布的测试,在 Apple M5 Max 上,Woof 4B 开启 Flash 草稿模型后每秒最多生成730个词元,在函数编辑任务上最高达到 Apple MLX 框架的4.5倍;在团队测量的16类提示中,Husky 全部快于 MLX。团队解释,提速来自每一步并行验证8个候选词元,以及流水线式提交计算,使 GPU 不必等待主机。⁠[6][6][6][6][6][6]

发表宣言

Wen 发表宣言《Own your AI, don’t let it own you》,认为人类生成的人工智能词元很快将主要来自口袋里的手机和桌上的电脑,用户不应为了使用人工智能而交出隐私,也不应为自己电脑本可免费生成的词元付费。他写道,“一切可被黑的东西都会被黑”,而唯一不会从服务器泄露的数据是从未发送到服务器的数据,因此 Underdog 把所有人工智能运算和数据都留在设备上,不设存放个人数据的服务器。⁠[3][3][3][3][3][3]

以邀请制测试版推出

2026年10月2日,Wen 在 X 上正式发布 Underdog,同日 Andreessen HorowitzAndreessen HorowitzAndreessen Horowitz(a16z)是 Marc Andreessen 与 Ben Horowitz 于2009年创办的风险投资机构,覆盖种子期至成长阶段,并向被投企业提供运营支持。点击查看完整词条 宣布领投开发方 Conway Research 的首轮融资。Underdog 以邀请制测试版推出,首批支持 Mac 与 Windows 电脑,计划推出 Linux、iPhone 和 Android 版本。⁠[7][2][8][8]

当时 Underdog 使用一个由 Qwen3.8-27B 微调而来、拥有270亿参数的推理模型,远小于数据中心里的最先进模型;Wen 认为它在部分基准测试上可与六个月前的顶级模型 Claude Opus 4.6 相比,足以完成购物调研、解答数学作业等日常任务。产品还对用户授权访问的邮件等账户的密钥加密。⁠[8][8][8][8]

发布 Saluki 27B

团队发布开源模型 Saluki 27B:它把开源模型 Qwen3.8-27B 压缩成一个7.89 GB 的2比特文件,可在标准 llama.cpp 上运行,适合16 GB 内存的笔记本电脑;在团队自建、取自伯克利函数调用排行榜的120项工具调用测试 Underdog Bench 中,它通过88项,高于完整尺寸模型的84项。团队同时说明,120项测试规模有限,部分领先可能来自不同运行之间的波动,也不声称它比原模型更聪明;它在竞赛数学 AIME 上只保留原模型82%至85%的分数,这一版也不能处理图像。⁠[9][9][9][9][9][9][9][9][9][9]

加入图像、视频生成与代购

10月10日的1.3.13版让聊天功能可以在 Mac 本地生成和修改图片,需要48 GB 以上内存;10月11日推出端侧视频生成功能;10月13日的1.4.1版加入通过 Link 代用户购物的功能。⁠[4][4][4][4]

主题:功能与模型

Underdog 自称“最忠诚的人工智能”,处理邮件、日历、会议记录、听写和网上代办事务。它可以使用用户的浏览器订机票、订餐厅、买菜和提交保险理赔,付款前会先征求用户同意;就诊预约、处方续配、报税材料等敏感事务,它会找到所需信息并把下一步准备好,交由用户批准。⁠[10][1][10]

Underdog 提供三款自有模型:Woof 4B 侧重速度,每秒约115个词元;Saluki 27B 以约七分之一的体积保留完整27B 模型96%的表现;Underdog 27B 基于 Qwen 3.8 27B,按 Artificial Analysis 智能指数得分33.7,高于对 Claude Opus 4.6 Max 估计的31.9,这一得分实为其基础模型的得分。截至2026年10月,Mac 版要求 Apple 芯片,Windows 版处于测试阶段,iPhone 和 iPad 版通过 App Store 提供,需要 iOS 18。⁠[10][10][10][10][10]

主题:隐私设计与安全审查

Underdog 的模型在用户电脑上运行,邮件、录音和转写内容不会发送到云端人工智能服务;邮件在用户电脑与 GoogleGoogleGoogle是一家美国科技公司,由Larry Page与Sergey Brin创办,1998年注册成立,2015年成为Alphabet旗下企业。其业务涵盖互联网搜索、广告、软件平台、云计算及人工智能。点击查看完整词条 或 MicrosoftMicrosoftMicrosoft(微软)是由 Bill Gates 和 Paul Allen 于1975年创办、总部位于美国华盛顿州雷德蒙德的科技公司,业务涵盖 Windows、Microsoft 365、Azure、企业软件、人工智能、游戏和设备。点击查看完整词条 等邮件服务商之间直接同步,邮件、日历和保存的登录信息用只留在本机的密钥加密,Mac 上的密钥存放在 Apple 钥匙串中。打开“Naval 模式”后,应用只与邮件服务商等必需的服务器通信。服务器端只保存账户邮箱、会员信息、打开应用的日期和可关闭的每日使用计数等少量数据。⁠[10][11][11][11][11][11]

2026年9月10日,Underdog 通过 Leviathan Security Group 执行的 App Defense Alliance CASA 一级评估,20项要求全部达标;同月获 Google 批准读取 GmailGmailGmail 是 Google 开发的电子邮件服务,于2004年推出,提供网页版与移动应用,并作为 Google Workspace 的组成部分面向组织提供邮件和协作功能。点击查看完整词条 和日历的受限权限。截至2026年10月,曾攻破 OpenAIOpenAIOpenAI是2015年创立的人工智能研究与产品机构,开发GPT系列模型、ChatGPT、Codex及开发者API,并开展图像、语音、视频与智能代理研究。2025年重组后,非营利的OpenAI Foundation继续控制营利主体OpenAI Group PBC。其发展涉及大规模融资与算力合作,也伴随治理、版权、隐私及人工智能安全争议。点击查看完整词条 系统的安全研究团队正在对 Mac 应用、浏览器代理和官网进行渗透测试,研究者 Jane Manchun Wong 也在拆解 Mac 应用寻找漏洞,团队承诺审查结束后公布结果与修复情况。⁠[11][11][11][11][11][11][11]

主题:收费方式

Underdog 对用户免费,不靠广告盈利。由于模型在用户自己的设备上运行,开发方无需为推理支付云端费用;当用户让它购物时,它会寻找最便宜、最合适的选项,用专为该笔订单生成的一次性卡付款,开发方从中抽取很小的一部分,方式类似银行卡交换费。Wen 表示,这样产品就不必挖掘用户数据,与用户的利益一致。⁠[8][8][10][8][8]

关联机构、网站与公开账号

来源

  1. A note from the founder — Underdog(在新窗口打开)
  2. Investing in Conway, the Creator of Underdog(在新窗口打开)
  3. Own your AI, don’t let it own you(在新窗口打开)
  4. Ships — Underdog(在新窗口打开)
  5. Underdog AI (@UnderdogAI) on X(在新窗口打开)
  6. Husky: up to 4.5× faster than MLX(在新窗口打开)
  7. Sigil Wen (@0xSigil): Introducing Underdog, your Private Personal AI on devices you already own(在新窗口打开)
  8. Silicon Valley’s AI wunderkind launches Underdog, the most private Instinct/Muse competitor yet(在新窗口打开)
  9. Underdog Saluki 27B(在新窗口打开)
  10. Underdog. The Most Loyal AI.(在新窗口打开)
  11. Security — Underdog(在新窗口打开)
  12. Conway — Intelligence you can own(在新窗口打开)