# 模型推理

Genie Studio 是智元机器人专为具身智能场景打造的一站式开发平台，具备数据采集、模型训练、仿真评测、模型推理的全链路产品能力。它为开发者提供从‘采’到‘训’到‘测’再到‘推’的标准化解决方案，极大地降低了开发门槛，提升了开发效率。该平台通过高效的数据采集、灵活的模型训练、精准的仿真评测和无缝的模型推理，推动了具身智能技术的快速发展和应用。Genie Studio 不仅提供了强大的工具，还为具身智能的规模化落地提供了支持，加速了行业向标准化、平台化、量产化的新阶段跃进。

Patronus GLIDER是一个经过微调的phi-3.5-mini-instruct模型，可以作为通用评估模型，根据用户定义的标准和评分规则来评判文本、对话和RAG设置。该模型使用合成数据和领域适应数据进行训练，覆盖了183个指标和685个领域，包括金融、医学等。模型支持的最大序列长度为8192个token，但经过测试可以支持更长的文本（高达12000个token）。

Recursal AI致力于使人工智能技术对所有人开放，无论语言或国家。他们的产品包括featherless.ai、RWKV和recursal cloud。featherless.ai提供即时且无需服务器的Hugging Face模型推理服务；RWKV是一个下一代基础模型，支持100多种语言，推理成本降低100倍；recursal cloud则让用户能够轻松地微调和部署RWKV模型。这些产品和技术的主要优点在于它们能够降低AI技术的门槛，提高效率，并支持多语言，这对于全球化背景下的企业和开发者来说至关重要。

Cog inference for flux models 是一个用于FLUX.1 [schnell] 和 FLUX.1 [dev] 模型的推理引擎，由Black Forest Labs开发。它支持编译与量化，敏感内容检查，以及img2img支持，旨在提高图像生成模型的性能和安全性。

DeepSeek-Coder-V2是一个开源的专家混合模型(Mixture-of-Experts, MoE)，专为代码语言设计，其性能与GPT4-Turbo相当。它在代码特定任务上表现优异，同时在通用语言任务上保持了相当的性能。与DeepSeek-Coder-33B相比，V2版本在代码相关任务和推理能力上都有显著提升。此外，它支持的编程语言从86种扩展到了338种，上下文长度也从16K扩展到了128K。

火山方舟提供模型训练、推理、评测、精调等全方位功能与服务，并重点支撑大模型生态。精选模型，保障模型稳定性，丰富的平台应用与工具，信息安全，强劲算力，专业服务。主要功能包括模型广场、模型体验、模型训练推理、模型应用等。适用于汽车、金融、大消费、泛互联网、教育办公等行业场景。