EXAONE-3.5-32B-Instruct-GGUF
E
EXAONE 3.5 32B Instruct GGUF
紹介 :
EXAONE-3.5-32B-Instruct-GGUFは、LG AI Researchが開発した、指示調整済みの英語と韓国語に対応する双言語生成モデルシリーズです。2.4Bから32Bパラメータの様々なバージョンがあり、最大32Kトークンの長文コンテキスト処理に対応しています。実世界のユースケースや長文コンテキスト理解において最先端の性能を示し、近頃発表された同規模のモデルと比較しても、汎用領域において競争力を維持しています。このモデルシリーズに関する詳細は、技術レポート、ブログ、GitHubで公開されており、様々な精度レベルの指示調整済み32B言語モデルが含まれています。主な特徴は以下の通りです。パラメータ数(埋め込みを除く)30.95B、層数64、アテンションヘッド数GQA(Qヘッド40個、KVヘッド8個)、語彙数102,400、コンテキスト長32,768トークン、量子化はQ8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XSなどのGGUFフォーマット(BF16ウェイトも含まれる)。
ターゲットユーザー :
高性能な言語モデルを必要とする研究者、開発者、企業、特に大量のデータや長文コンテキスト情報を扱う必要がある場面を対象としています。EXAONE-3.5-32B-Instruct-GGUFは、その強力な性能と多言語対応により、自然言語処理、テキスト生成、機械翻訳などのタスクに適しており、ユーザーの作業効率の向上や複雑な問題解決に役立ちます。
総訪問数: 26.1M
最も高い割合の地域: US(17.94%)
ウェブサイト閲覧数 : 47.2K
使用シナリオ
EXAONE-3.5-32B-Instruct-GGUFを利用して、長文記事の生成や内容理解を行う。
多言語環境において、本モデルを使用して、クロスリンガルのテキスト翻訳や情報検索を行う。
対話システムやチャットボットにおいて、本モデルを適用して、より自然で正確な言語インタラクションを提供する。
製品特徴
最大32Kトークンの長文コンテキスト処理に対応
Q8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XS、BF16など、様々な精度レベルのモデルを用意
2.4Bモデルなど、小型またはリソース制限のあるデバイス向けに最適化されたモデルも提供
AWQと様々な量子化タイプを使用した、事前に量子化されたモデルを提供
TensorRT-LLM、vLLM、SGLang、llama.cpp、Ollamaなど、複数の展開フレームワークに対応
システムプロンプトの使用を考慮したモデルトレーニングにより、対話やインタラクションの効率向上
生成されたテキストはLG AI Researchの見解を反映するものではなく、中立性を確保
使用チュートリアル
1. llama.cppをインストールします。インストール方法については、llama.cppのGitHubリポジトリを参照してください。
2. EXAONE 3.5モデルのGGUF形式ファイルをダウンロードします。
3. (任意)BF16精度を使用する場合は、分割されたファイルを結合する必要がある場合があります。
4. llama.cppを使用してモデルを実行し、対話モードでテストします。
5. 最適なモデル性能を得るために、システムプロンプトの使用に関する推奨事項に従ってください。
おすすめAI製品
DeepMind Gemini
Deepmind Gemini
Geminiは、Google DeepMindが開発した次世代人工知能システムです。テキスト、画像、ビデオ、音声、コード間のシームレスな相互作用をサポートし、マルチモーダル推論を実行できます。言語理解、推論、数学、プログラミングなど、複数の分野において従来のシステムを凌駕し、現在までに開発された最も強力なAIシステムの一つとなっています。エッジコンピューティングからクラウドコンピューティングまで、様々なニーズに対応できる3つの異なる規模のバージョンがあります。Geminiは、クリエイティブデザイン、ライティングアシスタント、質問応答、コード生成など、幅広い分野で活用できます。
AIモデル
11.4M
中国語精選
LiblibAI
Liblibai
LiblibAIは、中国をリードするAI創作プラットフォームです。強力なAI創作能力を提供し、クリエイターの創造性を支援します。プラットフォームは膨大な数の無料AI創作モデルを提供しており、ユーザーは検索してモデルを使用し、画像、テキスト、音声などの創作を行うことができます。また、ユーザーによる独自のAIモデルのトレーニングもサポートしています。幅広いクリエイターユーザーを対象としたプラットフォームとして、創作の機会を平等に提供し、クリエイティブ産業に貢献することで、誰もが創作の喜びを享受できるようにすることを目指しています。
AIモデル
6.9M
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase