ABAB Pedia

Karan Singhal

Karan Singhal 是人工智能研究者,領導 OpenAIOpenAIOpenAI是2015年創立的人工智能研究與產品機構,開發GPT系列模型、ChatGPT、Codex及開發者API,並開展圖像、語音、視頻與智能代理研究。2025年重組後,非營利的OpenAI Foundation繼續控制營利主體OpenAI Group PBC。其發展涉及大規模融資與算力合作,也伴隨治理、版權、隱私及人工智能安全爭議。點擊查看完整詞條 的健康人工智能團隊。此前他在谷歌GoogleGoogle是一家美國科技公司,由Larry Page與Sergey Brin創辦,1998年註冊成立,2015年成為Alphabet旗下企業。其業務涵蓋互聯網搜索、廣告、軟件平臺、雲計算及人工智能。點擊查看完整詞條研究醫療人工智能、隱私與安全,是 Med-PaLM 系列的研究者之一,參與探索如何評估面向醫生和公眾的語言模型。

本頁目錄7 節
詞條資料

求學時期:斯坦福與人工智能教學

Singhal 取得斯坦福大學Stanford UniversityStanford University是美國加利福尼亞州的研究型大學,由Leland與Jane Stanford於1885年創立,1891年開學。點擊查看完整詞條計算機科學學士和碩士學位。他在訪問中回憶,自己喜歡數學,也考慮過物理、醫學、哲學和經濟學。臨近畢業時,他還在產品管理和研究之間做選擇。讀書期間,他參與創設並共同教授斯坦福的 AI for Social Good 課程,鼓勵學生用計算工具處理社會問題。⁠[1][2]

谷歌醫療人工智能研究

在谷歌工作的約五年中,他研究如何在保護數據隱私的條件下學習,也從事表示學習和人工智能安全研究。他在訪談中把團隊討論醫療語言模型的時間追溯到2020年末。後來他參與開發 Med-PaLM 和 Med-PaLM 2,用醫生參與的評估來審視模型處理醫療問題時的準確性和侷限。這兩個項目的研究發表在《自然》,產品也進入 Google Cloud。⁠[3][4][2]

接受 No Priors 採訪

他舉醫學問答研究為例,解釋為什麼答對選擇題的比例不足以衡量長篇回答,還要考察事實是否準確、是否帶有偏見和安全風險。⁠[5]

OpenAI 健康團隊與評估

2024年7月,他公開宣佈加入 OpenAI 並領導健康人工智能團隊。團隊開發 HealthBench,邀請醫療專業人員幫助判斷模型在現實對話中回答得怎樣,考慮需求、風險和資料不足時的應對。2026年,他的項目年表列有 ChatGPTChatGPTChatGPT是OpenAI於2022年11月30日推出的生成式人工智能助手,通過網頁和應用提供對話、寫作、編程、搜索、文件分析及圖像和語音交互等服務。產品從免費研究預覽發展為面向個人、企業和教育機構的多種方案,並逐步增加深度研究、學習模式和跨應用任務執行能力。其應用也引發有關事實準確性、個人隱私、版權、教育及青少年安全的持續討論。點擊查看完整詞條 Health、ChatGPT for Healthcare 及面向醫務人員的評估工作;同年入選《時代》TIME100 Health。⁠[4][6][7][2]

在 No Priors 分享的建議

他建議評價健康信息工具時,把它與人們在同一情境下原本能找到的信息比較。(15:11)⁠[5]

他建議在具體工作流程裡檢驗研究模型的實際收益,同時關注近期安全性和長期結果。(15:56)⁠[5]

關聯機構、網站與公開賬號

OpenAI:健康人工智能團隊負責人。官網:https://openai.com/(在新窗口打開)。⁠[4]

來源7 個來源

  1. Minds, Medicine & Machines: AI and the Future of Healthcare(在新窗口打開)cfa-sf.org↑
  2. OpenAI’s Karan Singal on HealthBench and the Future of Medical AI(在新窗口打開)ai-podcast.nejm.org↑
  3. Karan Singhal(在新窗口打開)karansinghal.com↑
  4. Joining OpenAI(在新窗口打開)karansinghal.com↑
  5. No Priors Ep. 17 | With Karan Singhal(在新窗口打開)youtube.com↑
  6. Notes(在新窗口打開)karansinghal.com↑
  7. TIME100 Health: Karan Singhal(在新窗口打開)time.com↑