EXAONE-3.5-2.4B-Instruct
E
EXAONE 3.5 2.4B Instruct
簡介 :
EXAONE-3.5-2.4B-Instruct是LG AI Research開發的一系列雙語(英語和韓語)指令調優的生成模型,參數範圍從2.4B到32B。這些模型支持長達32K令牌的長上下文處理,並在真實世界用例和長上下文理解方面展現出最先進的性能,同時在與最近發佈的類似大小模型相比的通用領域中保持競爭力。該模型特別適合需要處理長文本和多語言需求的場景,如自動翻譯、文本摘要、對話系統等。
需求人群 :
目標受眾為需要處理大量文本數據和多語言對話的開發者和研究人員。由於EXAONE-3.5-2.4B-Instruct支持長上下文處理和雙語能力,它特別適合於需要理解和生成複雜文本內容的應用,如自動翻譯、文本摘要、對話系統等。
總訪問量: 29.7M
佔比最多地區: US(17.94%)
本站瀏覽量 : 49.1K
使用場景
自動翻譯:將英文文本翻譯成韓文,反之亦然。
文本摘要:生成長文章或報告的簡短摘要。
對話系統:創建能夠理解和回應用戶輸入的智能助手。
產品特色
參數數量(不含嵌入層):2.14B
層數:30
注意力頭數:GQA,32個Q頭和8個KV頭
詞彙量:102,400
上下文長度:32,768令牌
詞嵌入綁定:真(與7.8B和32B模型不同)
使用教程
1. 安裝transformers庫v4.43或更高版本。
2. 使用AutoModelForCausalLM和AutoTokenizer從Hugging Face加載模型和分詞器。
3. 選擇或編寫提示(prompt),可以是英文或韓文。
4. 使用tokenizer.apply_chat_template方法將消息和提示轉換為模型可以理解的格式。
5. 使用model.generate方法生成文本。
6. 使用tokenizer.decode方法將生成的令牌轉換回文本。
7. 打印或以其他方式使用生成的文本。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase