音声からフォトリアルなアバター生成
音
音声からフォトリアルなアバター生成
紹介 :
音声からフォトリアルなアバター生成は、全身写真級のフォトリアルなアバターを生成するフレームワークです。会話に基づいて、顔、体、手の様々なポーズと動きを動的に生成します。本手法の鍵は、ベクトル量子化によるサンプルの多様性と、拡散モデルによる高周波数のディテールの組み合わせにより、よりダイナミックで表現力豊かな動きを生成することです。高度にリアルなアバターによって視覚化された生成された動きは、ポーズにおける微妙なニュアンス(例えば、嘲笑や傲慢など)を表現できます。この研究分野を促進するために、写真級の再構成を可能にする、初公開となるマルチビュー会話データセットを紹介します。実験により、当モデルは適切かつ多様な動きを生成し、拡散モデルのみやベクトル量子化のみの手法よりも優れた性能を示すことが実証されました。さらに、私たちの知覚評価は、会話を伴うポーズにおける微妙な動作の詳細を正確に評価する上で、写真級のリアリズム(メッシュと比較して)の重要性を浮き彫りにしました。コードとデータセットはオンラインで入手可能です。
ターゲットユーザー :
全身写真級フォトリアルアバター生成フレームワークとして利用可能
総訪問数: 26.1M
最も高い割合の地域: US(17.94%)
ウェブサイト閲覧数 : 50.2K
使用シナリオ
リアルなアバターを生成する音声チャットアプリケーション
リアルなアバターを生成するバーチャルリアリティ環境
リアルなアバターを生成するオンライン教育プラットフォーム
製品特徴
音声データから全身アバターの様々なポーズと動きを生成する
ベクトル量子化と拡散技術を用いて、ダイナミックで表現力豊かな動きを生成する
生成された動きを高精度なフォトリアルなアバターで視覚化する
おすすめAI製品
Sora
Sora
Soraは、大規模データで学習されたテキスト制御型ビデオ生成拡散モデルです。1分間の高解像度ビデオ生成が可能で、幅広い視覚データの種類と解像度に対応します。ビデオと画像の圧縮潜在空間で学習することで、時空間的位置パッチに分解し、スケーラブルなビデオ生成を実現しています。また、三次元の一貫性やインタラクションなど、物理世界とデジタル世界の挙動をある程度シミュレートできる能力を示しており、高性能シミュレータの開発に向けて、ビデオ生成モデルの大規模化が有望であることを示唆しています。
AI動画生成
17.0M
Animate Anyone
Animate Anyone
Animate Anyoneは、駆動信号から静止画像を基にキャラクタビデオを生成することを目指しています。拡散モデルの力を活用し、キャラクタアニメーション用に特化した新しいフレームワークを提案します。参照画像における複雑な外観特徴の一貫性を維持するため、空間的注意機構を用いて詳細な特徴を統合するReferenceNetを設計しました。制御可能性と連続性を確保するため、キャラクタの動作をガイドする効率的なポーズガイド機構を導入し、ビデオフレーム間の滑らかなクロスフェードを実現する効果的な時間モデリング手法を採用しています。トレーニングデータの拡張により、任意のキャラクタのアニメーション作成が可能になり、他の画像からビデオへの変換手法と比較して、キャラクタアニメーションにおいて優れた結果を得ています。さらに、ファッションビデオと人間のダンス合成のベンチマークにおいて最先端の結果を達成しました。
AI動画生成
11.4M
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase