

Lumiere
簡介 :
Lumiere是一個文本到視頻擴散模型,旨在合成展現真實、多樣和連貫運動的視頻,解決視頻合成中的關鍵挑戰。我們引入了一種空時U-Net架構,可以一次性生成整個視頻的時間持續,通過模型的單次傳遞。這與現有的視頻模型形成對比,後者合成遠距離的關鍵幀,然後進行時間超分辨率處理,這種方法本質上使得全局時間一致性難以實現。通過部署空間和(重要的是)時間的下采樣和上採樣,並利用預訓練的文本到圖像擴散模型,我們的模型學會直接生成多個時空尺度下的全幀率、低分辨率視頻。我們展示了最先進的文本到視頻生成結果,並展示了我們的設計輕鬆促進了各種內容創作任務和視頻編輯應用,包括圖像到視頻、視頻修補和風格化生成。
需求人群 :
適用於視頻合成、圖像到視頻、視頻修補、風格化生成等內容創作和視頻編輯應用
使用場景
視頻合成應用場景示例
圖像到視頻應用場景示例
視頻修補應用場景示例
產品特色
合成展現真實、多樣和連貫運動的視頻
一次性生成整個視頻的時間持續
輕鬆促進各種內容創作任務和視頻編輯應用
精選AI產品推薦

Sora
Sora是一個基於大規模訓練的文本控制視頻生成擴散模型。它能夠生成長達1分鐘的高清視頻,涵蓋廣泛的視覺數據類型和分辨率。Sora通過在視頻和圖像的壓縮潛在空間中訓練,將其分解為時空位置補丁,實現了可擴展的視頻生成。Sora還展現出一些模擬物理世界和數字世界的能力,如三維一致性和交互,揭示了繼續擴大視頻生成模型規模來發展高能力模擬器的前景。
AI視頻生成
17.2M

Animate Anyone
Animate Anyone旨在通過驅動信號從靜態圖像生成角色視頻。我們利用擴散模型的力量,提出了一個專為角色動畫量身定製的新框架。為了保持參考圖像中複雜外觀特徵的一致性,我們設計了ReferenceNet來通過空間注意力合併詳細特徵。為了確保可控性和連續性,我們引入了一個高效的姿勢指導器來指導角色的動作,並採用了一種有效的時間建模方法,以確保視頻幀之間的平滑跨幀過渡。通過擴展訓練數據,我們的方法可以為任意角色製作動畫,與其他圖像到視頻方法相比,在角色動畫方面取得了出色的結果。此外,我們在時尚視頻和人類舞蹈合成的基準上評估了我們的方法,取得了最先進的結果。
AI視頻生成
11.8M