# 服務

Please 是一家新成立的消費級人工智能公司，旨在通過創新的人工智能技術為用戶提供更便捷、智能的服務體驗。公司於2025年1月14日正式更名為Please，標誌著其進入新的發展階段。目前，公司主要通過其官方網站提供服務，未來可能會拓展更多產品形態。Please 的定位是面向廣大消費者，提供個性化、智能化的AI解決方案，幫助用戶在日常生活中更高效地完成各種任務。

vLLM是一個為大型語言模型(LLM)推理和提供服務的快速、易用且高效的庫。它通過使用最新的服務吞吐量技術、高效的內存管理、連續批處理請求、CUDA/HIP圖快速模型執行、量化技術、優化的CUDA內核等，提供了高性能的推理服務。vLLM支持與流行的HuggingFace模型無縫集成，支持多種解碼算法，包括並行採樣、束搜索等，支持張量並行性，適用於分佈式推理，支持流式輸出，併兼容OpenAI API服務器。此外，vLLM還支持NVIDIA和AMD GPU，以及實驗性的前綴緩存和多lora支持。