WhisperFusion
W
Whisperfusion
簡介 :
WhisperFusion是一款基於WhisperLive和WhisperSpeech功能的產品,通過在即時語音轉文字流程中集成Mistral大型語言模型(LLM)來實現與AI的無縫對話。Whisper和LLM均經過TensorRT引擎優化,以最大程度提升性能和即時處理能力。WhisperSpeech則使用torch.compile來優化。產品定位於提供超低延遲的AI即時對話體驗。
需求人群 :
用戶可以通過使用預構建的TensorRT-LLM Docker容器快速開始與WhisperFusion進行交互。同時,也可以構建適用於不同cuda架構的docker鏡像。
總訪問量: 474.6M
佔比最多地區: US(19.34%)
本站瀏覽量 : 144.6K
使用場景
1. 在網站上與WhisperFusion的AI進行即時對話
2. 通過WhisperFusion的小程序進行語音轉文字交互
3. 使用WhisperFusion插件在桌面客戶端上進行即時語音識別
產品特色
即時語音轉文字:利用OpenAI WhisperLive實現即時語音轉文字。
大型語言模型集成:整合Mistral大型語言模型,增強對轉錄文本的理解和語境。
TensorRT優化:LLM和Whisper均優化為TensorRT引擎,確保高性能和低延遲處理。
torch.compile:WhisperSpeech使用torch.compile來加速推斷,通過將PyTorch代碼即時編譯為優化內核,使PyTorch代碼運行更快。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase