# 服务

Please 是一家新成立的消费级人工智能公司，旨在通过创新的人工智能技术为用户提供更便捷、智能的服务体验。公司于2025年1月14日正式更名为Please，标志着其进入新的发展阶段。目前，公司主要通过其官方网站提供服务，未来可能会拓展更多产品形态。Please 的定位是面向广大消费者，提供个性化、智能化的AI解决方案，帮助用户在日常生活中更高效地完成各种任务。

vLLM是一个为大型语言模型(LLM)推理和提供服务的快速、易用且高效的库。它通过使用最新的服务吞吐量技术、高效的内存管理、连续批处理请求、CUDA/HIP图快速模型执行、量化技术、优化的CUDA内核等，提供了高性能的推理服务。vLLM支持与流行的HuggingFace模型无缝集成，支持多种解码算法，包括并行采样、束搜索等，支持张量并行性，适用于分布式推理，支持流式输出，并兼容OpenAI API服务器。此外，vLLM还支持NVIDIA和AMD GPU，以及实验性的前缀缓存和多lora支持。