# 生成式AI模型

Phi-3 Mini是一款輕量級的最先進的開源大模型,構建於用於Phi-2的合成數據和過濾網站數據之上,致力於提供極高質量、推理密集型的數據。該模型經過了嚴格的增強過程,結合了監督式微調和直接偏好優化,以確保精確遵循指令和強大的安全措施。該倉庫提供了Phi-3 Mini的優化ONNX版本,可通過ONNX Runtime在CPU和GPU上進行加速推理,支持服務器、Windows、Linux、Mac等多種平臺,並針對每個平臺提供最佳精度配置。ONNX Runtime的DirectML支持還可讓開發人員在AMD、英特爾和NVIDIA GPU驅動的Windows設備上實現大規模硬件加速。

LMOps是一個基於LLMs和生成式AI模型的AI產品的基礎研究和技術。它提供了自動提示優化、Promptist、可擴展的提示、通用提示檢索、LLM檢索等功能。此外，還包括結構化提示、可擴展的提示、LLM加速器、LLM定製化和理解上下文學習等基本功能。LMOps的鏈接包括microsoft/unilm和microsoft/torchscale等。它適用於各種場景，如文本到圖像生成、長序列提示消耗和擴展提示等。LMOps是一個開源項目，遵循MIT許可證。