

Gamegen X
簡介 :
GameGen-X是專為生成和交互控制開放世界遊戲視頻而設計的擴散變換模型。該模型通過模擬遊戲引擎的多種特性,如創新角色、動態環境、複雜動作和多樣事件,實現了高質量、開放領域的視頻生成。此外,它還提供了交互控制能力,能夠根據當前視頻片段預測和改變未來內容,從而實現遊戲玩法模擬。為了實現這一願景,我們首先從零開始收集並構建了一個開放世界視頻遊戲數據集(OGameData),這是第一個也是最大的開放世界遊戲視頻生成和控制數據集,包含超過150款遊戲的100多萬個多樣化遊戲視頻片段,這些片段都配有GPT-4o的信息性字幕。GameGen-X經歷了兩階段的訓練過程,包括基礎模型預訓練和指令調優。首先,模型通過文本到視頻生成和視頻續集進行預訓練,賦予了其長序列、高質量開放領域遊戲視頻生成的能力。進一步,為了實現交互控制能力,我們設計了InstructNet來整合與遊戲相關的多模態控制信號專家。這使得模型能夠根據用戶輸入調整潛在表示,首次在視頻生成中統一角色交互和場景內容控制。在指令調優期間,只有InstructNet被更新,而預訓練的基礎模型被凍結,使得交互控制能力的整合不會損失生成視頻內容的多樣性和質量。GameGen-X代表了使用生成模型進行開放世界視頻遊戲設計的一次重大飛躍。它展示了生成模型作為傳統渲染技術的輔助工具的潛力,有效地將創造性生成與交互能力結合起來。
需求人群 :
目標受眾為遊戲開發者、AI研究人員和視頻遊戲愛好者。GameGen-X適合他們因為它提供了一個強大的工具,用於生成和控制開放世界遊戲視頻,這可以幫助他們在遊戲設計和開發過程中實現更多的創新和交互性。
使用場景
使用GameGen-X生成一個角色在春天的湖邊行走的視頻。
通過交互控制,讓角色在城市中駕駛汽車並執行特技。
生成一個角色在雪中戰鬥的場景,並根據用戶輸入改變戰鬥動作。
產品特色
- 高質量遊戲生成:能夠生成包括角色、環境、動作和事件在內的高質量遊戲視頻。
- 角色生成:支持生成Geralt of Rivia、Arthur Morgan、Eivor、Jin Sakai等角色。
- 環境生成:能夠模擬春夏秋冬四季以及湖泊、海洋、薰衣草田、金字塔等環境。
- 動作生成:包括摩托車(第一人稱和第三人稱)、駕駛、飛行、航行等多種動作。
- 事件生成:能夠生成下雨、下雪、打雷、日出、開火、沙塵暴、海嘯、龍捲風等事件。
- 開放領域生成:支持生成如中國城漫遊的Cybermonk、站在另一個維度的TimeMaster等開放領域視頻。
- 多模態交互控制:包括結構化指令提示、操作信號和視頻提示,實現對遊戲視頻的交互控制。
使用教程
1. 訪問GameGen-X的GitHub頁面以獲取模型和數據集。
2. 根據文檔說明安裝和配置所需的環境和依賴。
3. 使用OGameData數據集訓練基礎模型,以獲得高質量的遊戲視頻生成能力。
4. 通過InstructNet進行指令調優,以實現交互控制能力。
5. 根據需要生成或控制遊戲視頻,例如生成特定角色或環境,或根據用戶輸入改變遊戲事件。
6. 分析和評估生成的視頻內容,以確保其質量和多樣性。
7. 將GameGen-X集成到遊戲開發流程中,以提高遊戲設計的創新性和交互性。
精選AI產品推薦
國外精選

Pika
Pika是一個視頻製作平臺,用戶可以上傳自己的創意想法,Pika會自動生成相關的視頻。主要功能有:支持多種創意想法轉視頻,視頻效果專業,操作簡單易用。平臺採用免費試用模式,定位面向創意者和視頻愛好者。
視頻生成
18.7M

Haiper
Haiper AI 是構建下一代內容創作的最佳感知基礎模型的使命。它提供以下主要功能:文本轉視頻,圖片動畫,視頻重繪,導演視角。Haiper AI 可以將文字內容和靜態圖片無縫轉化為動態視頻,只需拖放圖像即可使其栩栩如生。使用 Haiper AI 的重繪工具,您可以輕鬆修改視頻的顏色、紋理和元素,以提升視覺內容的品質。通過高級控制工具,您可以像導演一樣調整鏡頭角度、燈光效果、角色姿勢和物體運動。Haiper AI 適用於各種場景,如內容創作、設計、營銷等。定價請參考官方網站。
視頻生成
10.5M