# 模型推理

Genie Studio 是智元機器人專為具身智能場景打造的一站式開發平臺，具備數據採集、模型訓練、仿真評測、模型推理的全鏈路產品能力。它為開發者提供從‘採’到‘訓’到‘測’再到‘推’的標準化解決方案，極大地降低了開發門檻，提升了開發效率。該平臺通過高效的數據採集、靈活的模型訓練、精準的仿真評測和無縫的模型推理，推動了具身智能技術的快速發展和應用。Genie Studio 不僅提供了強大的工具，還為具身智能的規模化落地提供了支持，加速了行業向標準化、平臺化、量產化的新階段躍進。

Patronus GLIDER是一個經過微調的phi-3.5-mini-instruct模型，可以作為通用評估模型，根據用戶定義的標準和評分規則來評判文本、對話和RAG設置。該模型使用合成數據和領域適應數據進行訓練，覆蓋了183個指標和685個領域，包括金融、醫學等。模型支持的最大序列長度為8192個token，但經過測試可以支持更長的文本（高達12000個token）。

Recursal AI致力於使人工智能技術對所有人開放，無論語言或國家。他們的產品包括featherless.ai、RWKV和recursal cloud。featherless.ai提供即時且無需服務器的Hugging Face模型推理服務；RWKV是一個下一代基礎模型，支持100多種語言，推理成本降低100倍；recursal cloud則讓用戶能夠輕鬆地微調和部署RWKV模型。這些產品和技術的主要優點在於它們能夠降低AI技術的門檻，提高效率，並支持多語言，這對於全球化背景下的企業和開發者來說至關重要。

Cog inference for flux models 是一個用於FLUX.1 [schnell] 和 FLUX.1 [dev] 模型的推理引擎，由Black Forest Labs開發。它支持編譯與量化，敏感內容檢查，以及img2img支持，旨在提高圖像生成模型的性能和安全性。

DeepSeek-Coder-V2是一個開源的專家混合模型(Mixture-of-Experts, MoE)，專為代碼語言設計，其性能與GPT4-Turbo相當。它在代碼特定任務上表現優異，同時在通用語言任務上保持了相當的性能。與DeepSeek-Coder-33B相比，V2版本在代碼相關任務和推理能力上都有顯著提升。此外，它支持的編程語言從86種擴展到了338種，上下文長度也從16K擴展到了128K。

火山方舟提供模型訓練、推理、評測、精調等全方位功能與服務，並重點支撐大模型生態。精選模型，保障模型穩定性，豐富的平臺應用與工具，信息安全，強勁算力，專業服務。主要功能包括模型廣場、模型體驗、模型訓練推理、模型應用等。適用於汽車、金融、大消費、泛互聯網、教育辦公等行業場景。