llamafile
L
Llamafile
簡介 :
llamafile是一個將LLM(大型語言模型)模型及其權重打包成一個自包含可執行文件的工具。它結合了llama.cpp和Cosmopolitan Libc,可以讓複雜的LLM模型被壓縮成一個llamafile,無需進行任何安裝和配置就可以在大多數計算機上本地運行。主要優點是使開源的LLM模型更易於開發者和終端用戶訪問。
需求人群 :
["快速試用LLM模型","訓練好的LLM模型發佈和分享"]
總訪問量: 474.6M
佔比最多地區: US(19.34%)
本站瀏覽量 : 72.6K
使用場景
用戶可以下載預構建的llamafile在本地與LLM聊天或提問
研究人員可以訓練自定義LLM模型,併發布為llamafile與他人分享
開發者可以藉助llamafile快速將LLM集成到自己的產品中
產品特色
支持不同CPU架構(x86、ARM)和操作系統(Windows、Linux、macOS等)
內置模型權重,不需要額外下載
命令行界面和HTTP服務器界面兩種使用方式
支持GPU加速(CUDA、Metal)
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase