

Slicegpt
紹介 :
SliceGPTは、新たな後トレーニング疎化手法です。各重み行列をより小さい(密な)行列で置き換えることで、ネットワークの埋め込み次元を削減します。数多くの実験を通して、SliceGPTはLLAMA2-70B、OPT 66B、Phi-2モデルのパラメータの最大25%(埋め込みを含む)を削除しながら、ゼロショットタスクのパフォーマンスを99%、99%、90%維持できることを示しました。SliceGPTモデルは、少ないGPUで動作し、追加のコード最適化なしで実行速度が向上します。24GBのコンシューマ向けGPUでは、LLAMA2-70Bの推論総計算量を密なモデルの64%に削減し、40GBのA100 GPUでは66%に削減しました。本研究では、トランスフォーマーネットワークにおける計算不変性という新たな知見を提供しており、これがSliceGPTを可能にしています。この研究が、今後、事前学習済みモデルのメモリと計算コストの削減に向けた新たなアプローチの開発?促進に繋がることを期待しています。
ターゲットユーザー :
SliceGPTは、モデルの計算効率の向上、メモリ使用量の削減が必要な場面で有効です。
使用シナリオ
SliceGPTは、大規模言語モデルのメモリ消費量削減に使用できます。
SliceGPTは、大規模言語モデルの推論速度向上に使用できます。
SliceGPTは、事前学習済みモデルの計算効率向上に使用できます。
製品特徴
後トレーニング疎化
モデルパラメータ圧縮
モデル計算効率の向上
おすすめAI製品

Deepmind Gemini
Geminiは、Google DeepMindが開発した次世代人工知能システムです。テキスト、画像、ビデオ、音声、コード間のシームレスな相互作用をサポートし、マルチモーダル推論を実行できます。言語理解、推論、数学、プログラミングなど、複数の分野において従来のシステムを凌駕し、現在までに開発された最も強力なAIシステムの一つとなっています。エッジコンピューティングからクラウドコンピューティングまで、様々なニーズに対応できる3つの異なる規模のバージョンがあります。Geminiは、クリエイティブデザイン、ライティングアシスタント、質問応答、コード生成など、幅広い分野で活用できます。
AIモデル
11.4M
中国語精選

Liblibai
LiblibAIは、中国をリードするAI創作プラットフォームです。強力なAI創作能力を提供し、クリエイターの創造性を支援します。プラットフォームは膨大な数の無料AI創作モデルを提供しており、ユーザーは検索してモデルを使用し、画像、テキスト、音声などの創作を行うことができます。また、ユーザーによる独自のAIモデルのトレーニングもサポートしています。幅広いクリエイターユーザーを対象としたプラットフォームとして、創作の機会を平等に提供し、クリエイティブ産業に貢献することで、誰もが創作の喜びを享受できるようにすることを目指しています。
AIモデル
6.9M