

EXAONE 3.5 7.8B Instruct AWQ
紹介 :
EXAONE 3.5は、LG AI Researchが開発した一連のインストラクションチューニング済みのバイリンガル(英語と韓国語)生成モデルであり、パラメータ数は2.4Bから32Bです。これらのモデルは最大32Kトークンのロングコンテキスト処理に対応し、現実世界のユースケースとロングコンテキスト理解において最先端の性能を発揮します。また、最近リリースされた同規模のモデルと比較して、一般的な領域においても競争力を維持しています。EXAONE 3.5モデルには、1)小型またはリソースの限られたデバイスへの展開に最適化された2.4Bモデル、2)前世代モデルと同等のサイズながら性能が向上した7.8Bモデル、3)強力な性能を提供する32Bモデルが含まれています。
ターゲットユーザー :
ロングコンテキスト処理とバイリンガルテキスト生成を必要とする開発者や研究者を対象としています。EXAONE-3.5-7.8B-Instruct-AWQモデルは、その優れた性能とロングコンテキスト理解能力により、機械翻訳、テキスト要約、対話システムなど、大量のデータや多言語コンテンツの処理を必要とする複雑なタスクに特に適しています。
使用シナリオ
EXAONE-3.5-7.8B-Instruct-AWQモデルを使用して、ロングテキストの機械翻訳を行います。
より自然でスムーズな対話体験を提供するために、モデルを使用してマルチターン対話システムを開発します。
大量のテキストデータを処理する際に、モデルを使用してテキスト要約と重要な情報の抽出を行います。
製品特徴
最大32Kトークンのロングコンテキスト処理に対応
現実世界のユースケースとロングコンテキスト理解において最先端の性能を発揮
最近リリースされた同規模のモデルと比較して、一般的な領域において競争力を維持
バイリンガル(英語と韓国語)生成に対応
AWQ量子化ウェイトを提供し、4ビットグループ内ウェイト量子化(W4A16g128)を実現
TensorRT-LLM、vLLM、SGLangなど、複数の展開フレームワークに対応
GGUF形式で提供される、事前に量子化されたEXAONE 3.5モデルを提供
使用チュートリアル
1. transformersやautoawqなど、必要なライブラリをインストールします。
2. Hugging FaceからEXAONE-3.5-7.8B-Instruct-AWQモデルとトークナイザーを読み込みます。
3. 入力テキストを用意します(英語または韓国語)。
4. トークナイザーを使用して入力テキストをエンコードします。
5. エンコードされた入力をモデルに渡して生成を実行します。
6. 必要に応じて、最大新規トークン数、サンプリングの実施など、モデルパラメータを調整します。
7. 生成されたテキストを出力し、トークナイザーを使用してデコードします。
8. 生成されたテキストを分析し、活用してさらなるアプリケーション開発を行います。
おすすめAI製品

Deepmind Gemini
Geminiは、Google DeepMindが開発した次世代人工知能システムです。テキスト、画像、ビデオ、音声、コード間のシームレスな相互作用をサポートし、マルチモーダル推論を実行できます。言語理解、推論、数学、プログラミングなど、複数の分野において従来のシステムを凌駕し、現在までに開発された最も強力なAIシステムの一つとなっています。エッジコンピューティングからクラウドコンピューティングまで、様々なニーズに対応できる3つの異なる規模のバージョンがあります。Geminiは、クリエイティブデザイン、ライティングアシスタント、質問応答、コード生成など、幅広い分野で活用できます。
AIモデル
11.4M
中国語精選

Liblibai
LiblibAIは、中国をリードするAI創作プラットフォームです。強力なAI創作能力を提供し、クリエイターの創造性を支援します。プラットフォームは膨大な数の無料AI創作モデルを提供しており、ユーザーは検索してモデルを使用し、画像、テキスト、音声などの創作を行うことができます。また、ユーザーによる独自のAIモデルのトレーニングもサポートしています。幅広いクリエイターユーザーを対象としたプラットフォームとして、創作の機会を平等に提供し、クリエイティブ産業に貢献することで、誰もが創作の喜びを享受できるようにすることを目指しています。
AIモデル
6.9M