ABAB Pedia
词条广场

Benjamin F Spector

Benjamin F Spector 是 Flapping Airplanes 联合创始人，研究机器学习系统。

本页目录13 节
词条资料

2021年学习型字符串索引

他与合作者提出 RadixStringSpline（RSS），用学习型模型定位字符串在有序数据中的位置。索引以树状结构组合基数样条，只处理区分字符串所需的前缀，并约束预测误差，缩小最后一步查找范围。⁠[1]

2022年麻省理工学院学位

2022年，他获麻省理工学院计算机科学与工程、数学两个学士学位及计算机科学 MEng 学位。⁠[2]

MIT 导师为 Tim Kraska。⁠[3]

2023年Hertz 奖学金与 Prod

他获2023年 Hertz Fellowship，曾创办非营利创业加速器 Prod。⁠[4]

2023年8月分阶段推测解码

他与 Chris Ré 研究小批量、设备端语言模型推理，提出树状的推测性候选批处理及第二阶段推测，以降低生成开销、增加一次验证可接受的词元数量。⁠[5]

2024年10月ThunderKittens

他参与提出 ThunderKittens，为 AI 的 GPU 内核编程提供分层抽象：线程束层使用16×16数据块，线程块层重叠异步工作，网格层降低启动和内存访问开销。⁠[6]

2024年11月精度与缩放规律

他参与《Scaling Laws for Precision》，将数值精度纳入训练与推理的缩放分析。研究讨论低精度怎样影响有效参数量，以及预训练数据增加后，训练后量化可能造成更大性能损失。⁠[7]

2025年5月低延迟 Megakernel

他与 Hazy Research 合作者将 Llama-1B 的完整前向计算放入单个 GPU megakernel，减少内核边界造成的等待。方案以 GPU 解释器调度工作，配合共享内存分页和计数器同步，针对单请求低延迟推理。⁠[8]

2025年9月吞吐量与多 GPU 执行

团队随后面向 H100 上的 Llama-70B 张量并行推理，利用指令与解释器框架重叠计算、存储访问和通信。说明同时指出，研究代码对编译器及硬件配置敏感，作者未承诺持续支持。⁠[9]

2025年11月ParallelKittens

他参与 ParallelKittens，将 ThunderKittens 扩展到多 GPU 内核。团队讨论网络传输方式与调度的取舍，在不同层次重叠通信和计算，并保留以数据块为单位的编程方式。⁠[10]

截至2026年10月：Flapping Airplanes

他与 Asher SpectorAsher SpectorAsher Spector 是统计学研究者、Flapping Airplanes 联合创始人。点击查看完整词条、Aidan SmithAidan SmithAidan Smith是工程师、Flapping Airplanes联合创始人，曾在Neuralink工作。他入选2025届Thiel Fellowship。点击查看完整词条 共同创办 Flapping Airplanes。⁠[11]

该实验室以数据效率为研究方向；官网称累计融资1.8亿美元，仍处于隐身研发阶段。⁠[12]

斯坦福研究经历

他曾在斯坦福大学攻读计算机科学博士，导师为 Chris Ré。⁠[3]

关联机构、网站与公开账号

麻省理工学院：官网：https://www.mit.edu/（在新窗口打开）⁠[2]

斯坦福大学：官网：https://www.stanford.edu/（在新窗口打开）⁠[3]

Hertz 基金会：官网：https://www.hertzfoundation.org/（在新窗口打开）⁠[4]

Hazy Research：官网：https://hazyresearch.stanford.edu/（在新窗口打开）⁠[8]

Prod：官网：https://www.prod.so/（在新窗口打开）⁠[13]

Flapping Airplanes：官网：https://flappingairplanes.com/（在新窗口打开）⁠[12]

Benjamin F Spector 个人网站：官网：https://benjaminfspector.com/（在新窗口打开）⁠[3]

X 公开账号：官方账号：https://x.com/spectorb（在新窗口打开）⁠[14]

来源

  1. Bounding the Last Mile: Efficient Learned String Indexing（在新窗口打开）
  2. Six from MIT awarded 2023 Hertz Foundation Fellowships（在新窗口打开）
  3. benjamin f spector（在新窗口打开）
  4. Benjamin Spector（在新窗口打开）
  5. Accelerating LLM Inference with Staged Speculative Decoding（在新窗口打开）
  6. ThunderKittens: Simple, Fast, and Adorable AI Kernels（在新窗口打开）
  7. Scaling Laws for Precision（在新窗口打开）
  8. Look Ma, No Bubbles! Designing a Low-Latency Megakernel for Llama-1B（在新窗口打开）
  9. We Bought the Whole GPU, So We're Damn Well Going to Use the Whole GPU（在新窗口打开）
  10. ParallelKittens: Simple and Fast Multi-GPU AI Kernels（在新窗口打开）
  11. Flapping Airplanes（在新窗口打开）
  12. Flapping Airplanes（在新窗口打开）
  13. Prod（在新窗口打开）
  14. Benjamin F Spector (@spectorb)（在新窗口打开）