
Bytedance Flux
Flux 是由字節跳動開發的一個高性能通信重疊庫,專為 GPU 上的張量和專家並行設計。它通過高效的內核和對 PyTorch 的兼容性,支持多種並行化策略,適用於大規模模型訓練和推理。Flux 的主要優點包括高性能、易於集成和對多種 NVIDIA GPU 架構的支持。它在大規模分佈式訓練中表現出色,尤其是在 Mixture-of-Experts (MoE) 模型中,能夠顯著提高計算效率。
模型訓練與部署
71.2K

Flashinfer
FlashInfer是一個專為大型語言模型(LLM)服務而設計的高性能GPU內核庫。它通過提供高效的稀疏/密集註意力機制、負載平衡調度、內存效率優化等功能,顯著提升了LLM在推理和部署時的性能。FlashInfer支持PyTorch、TVM和C++ API,易於集成到現有項目中。其主要優點包括高效的內核實現、靈活的自定義能力和廣泛的兼容性。FlashInfer的開發背景是為了滿足日益增長的LLM應用需求,提供更高效、更可靠的推理支持。
開發與工具
59.1K

Kelindar/search
kelindar/search 是一個Go語言庫,它提供了嵌入式向量搜索和語義嵌入的功能,基於llama.cpp構建。這個庫特別適合於小到中型項目,需要強大的語義搜索能力,同時保持簡單高效的實現。它支持GGUF BERT模型,允許用戶利用複雜的嵌入技術,而不需要深陷傳統搜索系統的複雜性。該庫還提供了GPU加速功能,能夠在支持的硬件上快速進行計算。如果你的數據集少於100,000條目,這個庫可以輕鬆集成到你的Go應用中,實現語義搜索功能。
AI搜索
46.9K

Ualink
UALink™是一個開放的行業標準化組織,旨在開發加速器間通信的技術規範,以實現直接負載、存儲和原子操作。該技術專注於為數百個加速器提供低延遲、高帶寬的網絡,並實現簡單的負載和存儲語義以及軟件一致性。UALink 1.0規範將利用發起成員在開發和部署各種加速器和交換機方面的經驗。聯盟公司代表了廣泛的行業專長,包括雲服務提供商、系統OEM、加速器開發者、交換機開發者和IP提供商。目前正在開發數據中心AI連接的額外使用模型。
開發與工具
51.6K
中文精選

派歐算力雲
派歐算力雲是一個一站式AIGC雲服務平臺,提供高性價比的GPU基礎設施和無縫集成的最前沿AI推理技術。它全面覆蓋不同業務階段的AI需求,加速業務發展。派歐算力雲的主要優點包括:高性能的雲服務產品、無需管理和運維GPU基礎設施、自動彈性擴縮容、全球覆蓋的GPU容器實例、7X24小時客戶服務。產品背景信息顯示,派歐算力雲旨在為AI應用開發者提供強大的算力支持,降低開發成本,提高開發效率。
AI API工具和服務
106.3K

NVIDIA DLI Teaching Kits
NVIDIA DLI Teaching Kits是由NVIDIA深度學習研究所(DLI)提供的一套教學資源,旨在幫助大學教育者將GPU技術融入到他們的課程中。這些教學套件與領先的大學教師共同開發,提供完整的課程設計和易於使用的資源,使教育者能夠將學術理論與現實世界的應用相結合,培養下一代創新者的關鍵計算技能。大多數教學套件現在也作為現成的Canvas LMS課程提供。
AI教程
48.0K
中文精選

LLM GPU Helper
LLM GPU Helper 是一個專注於人工智能領域的在線平臺,提供GPU內存計算、模型推薦和大模型知識庫訪問等服務。它通過量身定製的建議和專家知識,幫助企業加速AI應用,深受超過3500名用戶的信賴,並獲得了5.0的高評分。平臺的主要優點包括高準確度的GPU內存計算器、個性化的模型推薦、全面的知識庫訪問以及對小型企業和初創公司的特別支持。
開發與工具
53.3K
國外精選

Gpudeploy
GPUDeploy是一個提供低成本按需GPU資源的網站,專為機器學習和人工智能任務設計,用戶可以立即啟動預配置的GPU實例,以支持複雜的計算任務。該產品主要優點包括低成本、即時可用性以及預配置的便利性,適合需要快速部署機器學習模型和算法的企業和個人。
開發與工具
54.4K
國外精選

Vllm
vLLM是一個為大型語言模型(LLM)推理和提供服務的快速、易用且高效的庫。它通過使用最新的服務吞吐量技術、高效的內存管理、連續批處理請求、CUDA/HIP圖快速模型執行、量化技術、優化的CUDA內核等,提供了高性能的推理服務。vLLM支持與流行的HuggingFace模型無縫集成,支持多種解碼算法,包括並行採樣、束搜索等,支持張量並行性,適用於分佈式推理,支持流式輸出,併兼容OpenAI API服務器。此外,vLLM還支持NVIDIA和AMD GPU,以及實驗性的前綴緩存和多lora支持。
開發與工具
63.2K
國外精選

Ollama Windows Preview
Ollama是一個開源項目,能夠在Windows本地運行各類大型AI模型,支持GPU加速,內置OpenAI模型兼容層,提供永久在線的API。用戶可以無縫訪問Ollama的完整模型庫,進行圖片和語音交互。Ollama免配置就能獲得強大的AI能力,幫助開發者和創作者在Windows上構建AI應用。
開發與工具
461.7K

Saturn Cloud
Saturn Cloud是一個解決數據科學和機器學習所需複雜基礎設施管理和擴展的雲平臺。它提供了使用R和Python進行數據科學的環境,支持GPU、Dask集群等功能。Saturn Cloud可以幫助數據科學家、數據科學領導者和軟件工程師簡化開發、部署和數據處理的流程。該產品提供不同的功能和定價計劃以滿足各種需求。
開發與工具
51.6K

Google Colab
Colaboratory(簡稱Colab)是谷歌研究團隊推出的一個在線編程平臺,用戶可以在瀏覽器中編寫和執行Python代碼,並利用谷歌雲端的免費GPU/TPU資源加速運行。Colab提供代碼編輯器、交互執行、可視化結果等功能,可以插入文本、公式、圖像,是進行數據分析、機器學習等工作的好助手。主要優勢有:無需配置,免費使用GPU,方便分享等。適用於學生、數據科學家、AI研究人員等編寫Python代碼。
AI開發助手
78.7K
中文精選

矩池雲
矩池雲是一家專注於人工智能領域的GPU雲服務商,提供穩定的人工智能雲服務器、高速網盤等服務,支持公有云、私有云等專業級人工智能解決方案。幫助降低使用雲服務門檻,提高科研教育效率。
開發與工具
100.7K

NMKD
NMKD穩定擴散GUI是一個方便的界面工具,可以在自己的硬件上本地運行穩定擴散,這是一個用於從文本生成圖像的機器學習工具包。它完全沒有審查和過濾,生成的內容我不負責。不會共享/收集任何數據。該工具正在積極開發中,可能會出現一些小問題。
主要功能:
- 包含依賴項,無需複雜安裝
- 支持文本到圖像和圖像到圖像(圖像+文本提示)
- 支持基於指令的圖像編輯(InstructPix2Pix)
- 提示功能:關注/強調,負面提示
- 支持自定義穩定擴散模型和自定義VAE模型
- 同時運行多個提示
- 內置圖像查看器,顯示生成圖像的信息
- 內置超分辨率(RealESRGAN)和人臉修復(CodeFormer或GFPGAN)
- 提示隊列和提示歷史
- 創建無縫(平鋪)圖像的選項,例如用於遊戲紋理
- 支持加載自定義概念(文本反轉)
- 支持加載LoRA概念/角色/風格
- 各種用戶體驗功能
- 速度快,取決於您的GPU(RTX 4090每張圖像<1秒,RTX 3090每張圖像<2秒)
- 內置安全措施,掃描下載的模型是否包含惡意軟件
- 內置更新工具
系統要求:請參閱GitHub指南
如果您想支持開發,請查看我的Patreon,您還可以獲得我最新的視頻插幀工具Flowframes。
https://www.patreon.com/platform/iframe?widget=become-patron-button&redirectURI=https%3A%2F%2Fitch.io%2Fgame%2Fedit%2F755540%23published&creatorID=19695417
如果需要幫助或有問題,請加入Discord:
https://discord.com/widget?id=777892450232434688&theme=dark
請不要直接私信或@我,如果需要幫助,請使用stable-diffusion-gui頻道。
圖片生成
66.2K

Rundiffusion
RunDiffusion是一款完全託管的Automatic1111雲端產品,運行在高性能GPU上。無需編寫代碼,無需安裝軟件,無需處理錯誤。具備穩定的Diffusion版本,私密的工作空間,集成文件瀏覽器,智能計時器等功能。適用於創造AI生成藝術。
圖片生成
55.8K
精選AI產品推薦
中文精選

騰訊混元圖像 2.0
騰訊混元圖像 2.0 是騰訊最新發布的 AI 圖像生成模型,顯著提升了生成速度和畫質。通過超高壓縮倍率的編解碼器和全新擴散架構,使得圖像生成速度可達到毫秒級,避免了傳統生成的等待時間。同時,模型通過強化學習算法與人類美學知識的結合,提升了圖像的真實感和細節表現,適合設計師、創作者等專業用戶使用。
圖片生成
82.0K
國外精選

Lovart
Lovart 是一款革命性的 AI 設計代理,能夠將創意提示轉化為藝術作品,支持從故事板到品牌視覺的多種設計需求。其重要性在於打破傳統設計流程,節省時間並提升創意靈感。Lovart 當前處於測試階段,用戶可加入等候名單,隨時體驗設計的樂趣。
AI設計工具
64.9K

Fastvlm
FastVLM 是一種高效的視覺編碼模型,專為視覺語言模型設計。它通過創新的 FastViTHD 混合視覺編碼器,減少了高分辨率圖像的編碼時間和輸出的 token 數量,使得模型在速度和精度上表現出色。FastVLM 的主要定位是為開發者提供強大的視覺語言處理能力,適用於各種應用場景,尤其在需要快速響應的移動設備上表現優異。
AI模型
51.6K

Keysync
KeySync 是一個針對高分辨率視頻的無洩漏唇同步框架。它解決了傳統唇同步技術中的時間一致性問題,同時通過巧妙的遮罩策略處理表情洩漏和麵部遮擋。KeySync 的優越性體現在其在唇重建和跨同步方面的先進成果,適用於自動配音等實際應用場景。
視頻編輯
49.4K

Manus
Manus 是由 Monica.im 研發的全球首款真正自主的 AI 代理產品,能夠直接交付完整的任務成果,而不僅僅是提供建議或答案。它採用 Multiple Agent 架構,運行在獨立虛擬機中,能夠通過編寫和執行代碼、瀏覽網頁、操作應用等方式直接完成任務。Manus 在 GAIA 基準測試中取得了 SOTA 表現,展現了強大的任務執行能力。其目標是成為用戶在數字世界的‘代理人’,幫助用戶高效完成各種複雜任務。
個人助理
1.5M

Trae國內版
Trae是一款專為中文開發場景設計的AI原生IDE,將AI技術深度集成於開發環境中。它通過智能代碼補全、上下文理解等功能,顯著提升開發效率和代碼質量。Trae的出現填補了國內AI集成開發工具的空白,滿足了中文開發者對高效開發工具的需求。其定位為高端開發工具,旨在為專業開發者提供強大的技術支持,目前尚未明確公開價格,但預計會採用付費模式以匹配其高端定位。
開發與工具
139.1K
國外精選

Pika
Pika是一個視頻製作平臺,用戶可以上傳自己的創意想法,Pika會自動生成相關的視頻。主要功能有:支持多種創意想法轉視頻,視頻效果專業,操作簡單易用。平臺採用免費試用模式,定位面向創意者和視頻愛好者。
視頻生成
18.7M
中文精選

Liblibai
LiblibAI是一箇中國領先的AI創作平臺,提供強大的AI創作能力,幫助創作者實現創意。平臺提供海量免費AI創作模型,用戶可以搜索使用模型進行圖像、文字、音頻等創作。平臺還支持用戶訓練自己的AI模型。平臺定位於廣大創作者用戶,致力於創造條件普惠,服務創意產業,讓每個人都享有創作的樂趣。
AI模型
8.0M