ABAB Pedia
詞條廣場

Shreya Rajpal

Shreya Rajpal 是機器學習工程師、Guardrails AI 聯合創始人，曾在 Drive.ai、Apple SPG 和 Predibase 工作。她早期參與眾包決策與計算機視覺研究，後來開發大語言模型驗證工具。2026年9月，HarveyHarveyHarvey 是由 Winston Weinberg 與 Gabe Pereyra 於2022年創辦的法律人工智能公司及同名專業服務平臺，面向律師事務所、企業法務和其他專業服務團隊，提供法律研究、合同分析、文件處理及多步驟工作流工具。其產品把模型、客戶資料和專業知識來源結合，生成供專業人員審核的工作成果。點擊查看完整詞條 宣佈收購 Guardrails AI，並表示她與聯合創始人及團隊將加入其產品和工程組織。

本頁目錄14 節
詞條資料

早期機器學習工程經歷

創建 Guardrails AI 之前，Rajpal 曾在 Drive.ai 從事自動駕駛感知相關的計算機視覺工作，之後在 AppleAppleApple（蘋果公司）是1976年創辦、總部位於美國加利福尼亞州庫比蒂諾的上市科技公司。業務包括 iPhone、Mac、iPad、可穿戴設備，以及數字內容、支付、雲端存儲等服務。公司通過自研硬件、操作系統和服務構建產品體系。點擊查看完整詞條 的 Special Projects Group（SPG）參與跨團隊機器學習項目，再成為 Predibase 的創始工程師並負責機器學習基礎設施。⁠[1]

2015年研究眾包工作者群體選擇

2015年，Rajpal 與 Karan Goel、Mausam 合作撰寫《POMDP-Based Worker Pool Selection for Crowdsourcing》，列入 ICML 的 CrowdML 工作坊。論文根據任務難度和答案置信度，在價格與能力不同的工作者群體之間動態分配任務，以平衡答案質量和支出；首頁列出的作者機構包括印度理工學院德里分校。⁠[2][3]

2017年參與 Octopus 眾包優化框架

2017年，Karan Goel、Rajpal 與 Mausam 發表 Octopus 研究，將眾包任務的費用、完成時間和結果質量納入同一優化框架。系統分別設置報酬、選擇下一項任務和管理任務質量，並在 Amazon Mechanical Turk 開展實驗。論文列 Rajpal 的機構為伊利諾伊大學厄巴納—香檳分校，同時註明前兩位作者的大部分工作在印度理工學院德里分校就讀期間完成。⁠[4]

2018年研究服裝搭配的圖像表示

2018年3月25日，Mariya I. Vasileva、Bryan A. Plummer、Krishna Dusad、Rajpal、Ranjitha Kumar 與 David Forsyth 的《Learning Type-Aware Embeddings for Fashion Compatibility》上傳 arXiv，隨後被 ECCV 2018 接收。研究同時學習同類服飾之間的相似性與不同類別之間的搭配關係，將物品類型納入圖像表示，用於搭配判斷和缺失單品補全等任務。⁠[5]

2018年與 Aditya Parameswaran 合作研究 AID

在2018年10月舉行的 CIKM，Rajpal 與 Aditya Parameswaran 發表《Holistic Crowd-Powered Sorting via AID》。論文把眾包提供的成對比較組織為圖，同時考慮判斷一致性、工作者準確率與比較難度，通過迭代估計尋找排序關係。兩位作者均署名伊利諾伊大學厄巴納—香檳分校。⁠[6]

2023年以 Guardrails AI 創始人身份演講

2023年10月3日的 QCon San Francisco 日程將 Rajpal 列為 Guardrails AI 創始人，安排她講述企業如何為大語言模型應用建立驗證機制。Guardrails 是用於檢查模型輸入、輸出及應用約束的開源工具；她也是該項目的創建者和維護者。⁠[7][1]

驗證策略及其侷限

在這次演講中，她介紹規則、分類模型和其他檢查器組合使用的方法，以及重新提示、過濾、程序修復和拋出異常等處理策略。她強調多步驟應用會累積錯誤，並在問答中說明機器學習驗證器仍可能誤報，不能承諾完全消除錯誤。⁠[1]

2024年Guardrails AI 獲得種子融資

2024年2月15日，Lowenstein Sandler 律師事務所公告稱，所代理的 Zetta Venture Partners 領投 Guardrails AI 的750萬美元種子輪。參投方包括 Factory、Pear VC、Bloomberg Beta、GitHub Fund 及多位天使投資人；公司計劃用資金擴展產品和工程團隊。⁠[8]

2025年推出 Snowglobe 模擬測試工具

2025年8月14日，Guardrails AI 介紹 Snowglobe，用模擬用戶與 AI 智能體開展多輪對話，幫助開發者觀察不同情境和用戶行為下的系統表現。其設計包括有狀態的對話、多種用戶人物設定和評估結果導出，覆蓋日常使用中可能出現的問題，而不僅是刻意攻擊模型的情形。⁠[9]

與 NVIDIA NeMo Guardrails 整合

2025年9月25日，Guardrails AI 公佈與 NVIDIANVIDIANVIDIA 是美國半導體與計算技術公司，提供圖形處理器、人工智能基礎設施、網絡互連和計算軟件，在納斯達克以 NVDA 為代碼上市。點擊查看完整詞條 NeMo Guardrails 的整合：前者提供輸入輸出驗證器，後者通過 Colang 描述對話與流程控制。公司以個人信息檢測等場景說明組合方式，目標是同時約束單次內容和多輪交互流程。⁠[10]

2026年調整驗證器分發和託管推理服務

Guardrails 項目的官方遷移說明將2026年8月25日設為舊服務的截止日期：驗證器改為通過公開 PyPI 軟件包安裝，原有私有註冊表與託管遠程推理服務停止提供。公告要求依賴託管模型的使用者遷移到本地運行或自己的推理端點。⁠[11]

Harvey 宣佈收購 Guardrails AI

2026年9月，Harvey 宣佈收購 Guardrails AI，並表示聯合創始人 Rajpal、Zayd Simjee 及團隊將加入其產品與工程組織，參與 Applied AI 工作。公告將團隊在運行時驗證、模擬和持續評估方面的經驗與 Harvey 的企業 AI 產品結合起來，但沒有公佈 Rajpal 的具體新職級或交易價格。⁠[12]

公開網站與賬號

Rajpal 的個人網站為 https://shreya-rajpal.com/（在新窗口打開），GitHub 賬號為 https://github.com/ShreyaR（在新窗口打開），公開 X 賬號為 https://x.com/ShreyaR（在新窗口打開）。⁠[13]

來源

  1. Building Guardrails for Enterprise AI Applications with LLMs — transcript（在新窗口打開）
  2. POMDP-Based Worker Pool Selection for Crowdsourcing（在新窗口打開）
  3. Research — Shreya Rajpal（在新窗口打開）
  4. Octopus: A Framework for Cost-Quality-Time Optimization in Crowdsourcing（在新窗口打開）
  5. Learning Type-Aware Embeddings for Fashion Compatibility（在新窗口打開）
  6. Holistic Crowd-Powered Sorting via AID（在新窗口打開）
  7. Building Guardrails for Enterprise AI Applications W/ LLMs — QCon San Francisco 2023（在新窗口打開）
  8. Lowenstein Represents Zetta Venture Partners in Seed Funding Round in Guardrails AI（在新窗口打開）
  9. Introducing Snowglobe（在新窗口打開）
  10. Guardrails AI and NVIDIA NeMo Guardrails integration（在新窗口打開）
  11. Guardrails Hub Update（在新窗口打開）
  12. Guardrails AI joins Harvey（在新窗口打開）
  13. Shreya Rajpal — GitHub profile（在新窗口打開）