ABAB Pedia

Fish Audio

Fish Audio是一家人工智能語音公司,提供文本轉語音、聲音克隆和語音API,並開源Fish Speech系列語音模型。

本頁目錄9 節
詞條資料

背景:Fish Speech開源項目

Fish Audio源於前NVIDIANVIDIANVIDIA 是美國半導體與計算技術公司,提供圖形處理器、人工智能基礎設施、網絡互連和計算軟件,在納斯達克以 NVDA 為代碼上市。點擊查看完整詞條研究人員Shijia Liao的個人項目。他在NVIDIA擔任研究工程師、從事視頻相關工作,業餘時間觀看VTuber直播,並在臥室裡用一塊4090顯卡訓練語音模型,隨後將其開源為Fish Speech。⁠[1][2]

首席執行官Rissa Cao寫道:“Fish Speech went from a repo to a company because of game developers, anime fans, and people dubbing characters for fun.”(Fish Speech能從一個代碼倉庫成長為一家公司,靠的是遊戲開發者、動漫愛好者和為角色配音取樂的人。)⁠[1]

Fish-Speech技術報告

2024年11月2日,Shijia Liao等七名作者在arXiv提交Fish-Speech技術報告,介紹一種多語言文本轉語音框架:它採用串行快慢雙自迴歸(Dual-AR)架構穩定基於碼本的序列生成,並以大語言模型取代傳統的字素到音素轉換。⁠[3]

開源S2

2026年3月9日,Fish Audio開源文本轉語音模型S2,支持以行內標記細粒度控制韻律和情感。S2採用雙自迴歸設計,時間軸部分約40億參數、深度軸部分約4億參數,訓練數據超過1000萬小時音頻;模型權重和微調代碼發佈在GitHub和Hugging Face上,並配有基於SGLang的推理引擎。公司公佈的Seed-TTS Eval詞錯誤率為中文0.54%、英文0.99%,在單塊H200 GPU上的首段音頻延遲約100毫秒。⁠[4]

5200萬美元種子輪融資

聯合創始人兼首席執行官Rissa Cao此前在Amazon Alexa和MetaMetaMeta(Meta Platforms, Inc.)是美國上市科技公司,2021年由 Facebook 公司更名而來,經營社交通信、數字廣告、虛擬現實、智能眼鏡及人工智能業務。點擊查看完整詞條從事語音人工智能工作多年,Shijia Liao任首席科學家。公司稱,成立一年來共推出五個音頻模型(四個語音生成模型和一個語音轉文字模型),團隊從3人增至22人,年化經常性收入達2100萬美元,平臺用戶超過800萬,社區聲音模型庫超過200萬個。⁠[1]

Fish Audio總部位於帕洛阿爾托,四個語音生成模型中有三個開源,最新的S2.1 Pro僅通過付費API提供;公司向創作者和團隊出售月度套餐,並提供企業API與平臺,HeyGen和Sanas是其客戶。Rissa Cao表示,開源項目加上創作者套餐在沒有外部資金的情況下即可高效運轉,公司融資是為了打造更先進的模型和服務企業客戶;公司計劃於2026年內發佈音頻理解模型,並在開發語音到語音模型。⁠[2]

Drama 3技術報告

2026年10月13日,Fish Audio團隊在arXiv提交Drama 3技術報告。Drama 3是開源語音生成模型,採用總參數350億、每個token激活30億參數的混合專家架構,可將文本生成為有表演指導的語音,支持聲音克隆、多角色場景、語音編輯和流式輸出;fish-speech倉庫將其列為最新旗艦模型,S2-Pro為上一代旗艦。⁠[5][6]

主題:聲音授權與下架機制

Fish Audio向聲音被用於訓練的用戶付費。部分創作者指稱自己的聲音在未經同意的情況下被上傳到平臺,且DMCA下架處理緩慢;公司此後將下架流程自動化,稱創作者提交聲音樣本或合同後三分鐘內即可完成。上傳本身並不會被自動阻止,聲音會保留在平臺上,直至權利人申請移除。⁠[2]

主題:產品與開源項目

Fish Audio提供文本轉語音、聲音克隆和API服務,平臺運營方為Hanabi AI Inc.。截至2026年11月4日,GitHub上的fishaudio/fish-speech倉庫顯示約3.35萬個星標,代碼和模型權重採用Fish Audio Community License,S2-Pro權重則採用Fish Audio Research License。⁠[7][6]

關聯機構、網站與公開賬號

來源

  1. 5 Models, 22 People, 1 Year(在新窗口打開)
  2. Fish Audio raises $52M seed to build AI voice models for creators and enterprises(在新窗口打開)
  3. Fish-Speech: Leveraging Large Language Models for Advanced Multilingual Text-to-Speech Synthesis(在新窗口打開)
  4. Fish Audio Open-Sources S2: Fine-Grained Control Meets Production Streaming(在新窗口打開)
  5. Fish Audio Drama 3 Technical Report(在新窗口打開)
  6. fishaudio/fish-speech: SOTA Open Source TTS(在新窗口打開)
  7. Best AI Text To Speech & Free Voice Cloning | Fish Audio(在新窗口打開)