# 混合偏好優化

InternVL2.5-MPO是一個基於InternVL2.5和混合偏好優化（MPO）的多模態大型語言模型系列。它在多模態任務中表現出色，通過整合新近增量預訓練的InternViT與多種預訓練的大型語言模型（LLMs），如InternLM 2.5和Qwen 2.5，使用隨機初始化的MLP投影器。該模型系列在多模態推理偏好數據集MMPR上進行了訓練，包含約300萬個樣本，通過有效的數據構建流程和混合偏好優化技術，提升了模型的推理能力和回答質量。

InternVL2.5-MPO是一個先進的多模態大型語言模型系列，基於InternVL2.5和混合偏好優化（MPO）構建。該系列模型在多模態任務中表現出色，能夠處理圖像、文本和視頻數據，並生成高質量的文本響應。模型採用'ViT-MLP-LLM'範式，通過像素unshuffle操作和動態分辨率策略優化視覺處理能力。此外，模型還引入了多圖像和視頻數據的支持，進一步擴展了其應用場景。InternVL2.5-MPO在多模態能力評估中超越了多個基準模型，證明了其在多模態領域的領先地位。

InternVL2_5-26B-MPO-AWQ 是由 OpenGVLab 開發的多模態大型語言模型，旨在通過混合偏好優化提升模型的推理能力。該模型在多模態任務中表現出色，能夠處理圖像和文本之間的複雜關係。它採用了先進的模型架構和優化技術，使其在多模態數據處理方面具有顯著優勢。該模型適用於需要高效處理和理解多模態數據的場景，如圖像描述生成、多模態問答等。其主要優點包括強大的推理能力和高效的模型架構。

InternVL2_5-26B-MPO是一個多模態大型語言模型（MLLM），它在InternVL2.5的基礎上，通過混合偏好優化（Mixed Preference Optimization, MPO）進一步提升了模型性能。該模型能夠處理包括圖像、文本在內的多模態數據，廣泛應用於圖像描述、視覺問答等場景。它的重要性在於能夠理解和生成與圖像內容緊密相關的文本，推動了多模態人工智能的邊界。產品背景信息包括其在多模態任務中的卓越性能，以及在OpenCompass Learderboard中的評估結果。該模型為研究者和開發者提供了強大的工具，以探索和實現多模態人工智能的潛力。

InternVL2_5-8B-MPO-AWQ是OpenGVLab推出的一款多模態大型語言模型，它基於InternVL2.5系列，並採用混合偏好優化（Mixed Preference Optimization, MPO）技術。該模型在視覺和語言的理解與生成方面展現了卓越的性能，尤其在多模態任務中表現出色。它通過結合視覺部分InternViT和語言部分InternLM或Qwen，使用隨機初始化的MLP投影器進行增量預訓練，實現了對圖像和文本的深入理解與交互。該技術的重要性在於它能夠處理包括單圖像、多圖像以及視頻數據在內的多種數據類型，為多模態人工智能領域提供了新的解決方案。

InternVL2-8B-MPO是一個多模態大語言模型（MLLM），通過引入混合偏好優化（MPO）過程，增強了模型的多模態推理能力。該模型在數據方面設計了自動化的偏好數據構建管線，並構建了MMPR這一大規模多模態推理偏好數據集。在模型方面，InternVL2-8B-MPO基於InternVL2-8B初始化，並使用MMPR數據集進行微調，展現出更強的多模態推理能力，且幻覺現象更少。該模型在MathVista上取得了67.0%的準確率，超越InternVL2-8B 8.7個點，且表現接近於大10倍的InternVL2-76B。