# 指令調優

EXAONE-3.5-32B-Instruct是由LG AI Research開發的一系列指令調優的雙語（英語和韓語）生成模型，包含從2.4B到32B參數的不同模型。這些模型支持長達32K令牌的長上下文處理，並在真實世界用例和長上下文理解方面展現出了最先進的性能，同時在與近期發佈的類似大小模型相比時，在通用領域也保持了競爭力。

EXAONE-3.5-2.4B-Instruct-GGUF是由LG AI Research開發的一系列雙語（英語和韓語）指令調優的生成型模型，參數範圍從2.4B到32B。這些模型支持長達32K令牌的長上下文處理，並在真實世界用例和長上下文理解方面展現出最先進的性能，同時在與近期發佈的類似大小模型相比，在通用領域保持競爭力。該模型的重要性在於其優化了在小型或資源受限設備上的部署，同時提供了強大的性能。

EXAONE-3.5-32B-Instruct-GGUF是LG AI Research開發的一系列指令調優的雙語（英語和韓語）生成模型，包含2.4B至32B參數的不同版本。這些模型支持長達32K令牌的長上下文處理，展現了在真實世界用例和長上下文理解中的最前沿性能，同時在與近期發佈的類似規模模型相比，在通用領域保持競爭力。該模型系列通過技術報告、博客和GitHub提供了詳細信息，並且包含了多種精度的指令調優32B語言模型，具有以下特點：參數數量（不含嵌入）為30.95B，層數為64，注意力頭數為GQA，包含40個Q頭和8個KV頭，詞彙量為102,400，上下文長度為32,768令牌，量化包括Q8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XS等GGUF格式（也包括BF16權重）。

MAmmoTH-VL是一個大規模多模態推理平臺，它通過指令調優技術，顯著提升了多模態大型語言模型（MLLMs）在多模態任務中的表現。該平臺使用開放模型創建了一個包含1200萬指令-響應對的數據集，覆蓋了多樣化的、推理密集型的任務，並提供了詳細且忠實的理由。MAmmoTH-VL在MathVerse、MMMU-Pro和MuirBench等基準測試中取得了最先進的性能，展現了其在教育和研究領域的重要性。

LLaVA-Video是一個專注於視頻指令調優的大型多模態模型（LMMs），通過創建高質量的合成數據集LLaVA-Video-178K來解決從網絡獲取大量高質量原始數據的難題。該數據集包括詳細的視頻描述、開放式問答和多項選擇問答等任務，旨在提高視頻語言模型的理解和推理能力。LLaVA-Video模型在多個視頻基準測試中表現出色，證明了其數據集的有效性。

Llama3.1-70B-Chinese-Chat 是基於 Meta-Llama-3.1-70B-Instruct 模型的指令調優語言模型，專為中英雙語用戶設計，具備角色扮演和工具使用等多樣化能力。該模型通過 ORPO 算法進行微調，顯著減少了中文問題用英文回答以及回答中中英文混合的問題，特別是在角色扮演、功能調用和數學能力方面有顯著提升。

Meta Llama 3 是 Meta 推出的最新大型語言模型，旨在為個人、創作者、研究人員和各類企業解鎖大型語言模型的能力。該模型包含從8B到70B參數的不同規模版本，支持預訓練和指令調優。模型通過 GitHub 倉庫提供，用戶可以通過下載模型權重和分詞器進行本地推理。Meta Llama 3 的發佈標誌著大型語言模型技術的進一步普及和應用，具有廣泛的研究和商業潛力。

Gemma-2-27B-Chinese-Chat是基於google/gemma-2-27b-it的首個指令調優語言模型，專為中英文用戶設計，擁有角色扮演和工具使用等多種能力。該模型通過ORPO算法進行微調，顯著提升了在中英文對話、角色扮演和數學計算等方面的性能。

MG-LLaVA是一個增強模型視覺處理能力的機器學習語言模型（MLLM），通過整合多粒度視覺流程，包括低分辨率、高分辨率和以對象為中心的特徵。提出了一個額外的高分辨率視覺編碼器來捕捉細節，並通過Conv-Gate融合網絡與基礎視覺特徵融合。此外，通過離線檢測器識別的邊界框整合對象級特徵，以進一步細化模型的對象識別能力。MG-LLaVA僅在公開可用的多模態數據上通過指令調優進行訓練，展現出卓越的感知技能。