# 视频合成

AIGCPanel是一个简单易用的一站式AI数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。产品背景信息显示，AIGCPanel旨在通过集成多种AI功能，提升数字人素材管理的效率，降低技术门槛，使非专业人士也能轻松管理和使用AI数字人。产品基于AGPL-3.0开源，完全免费，可以直接使用。

AigcPanel是一个简单易用的一站式AI数字人系统，支持视频合成、声音合成、声音克隆等功能，简化本地模型管理、一键导入和使用AI模型。该产品利用最新的人工智能技术，为用户提供高效、便捷的数字人制作解决方案，特别适合需要视频和音频内容制作的专业人士和企业使用。AigcPanel以其易用性、高效性和强大的功能，在数字人制作领域占有一席之地。

StableAnimator是首个端到端身份保留的视频扩散框架，能够在不进行后处理的情况下合成高质量视频。该技术通过参考图像和一系列姿势进行条件合成，确保了身份一致性。其主要优点在于无需依赖第三方工具，适合需要高质量人像动画的用户。

MIMO是一个通用的视频合成模型，能够模仿任何人在复杂动作中与物体互动。它能够根据用户提供的简单输入（如参考图像、姿势序列、场景视频或图像）合成具有可控属性（如角色、动作和场景）的角色视频。MIMO通过将2D视频编码为紧凑的空间代码，并将其分解为三个空间组成部分（主要人物、底层场景和浮动遮挡）来实现这一点。这种方法允许用户灵活控制，空间运动表达以及3D感知合成，适用于交互式真实世界场景。

ViewCrafter 是一种新颖的方法，它利用视频扩散模型的生成能力以及基于点的表示提供的粗略3D线索，从单个或稀疏图像合成通用场景的高保真新视角。该方法通过迭代视图合成策略和相机轨迹规划算法，逐步扩展3D线索和新视角覆盖的区域，从而扩大新视角的生成范围。ViewCrafter 可以促进各种应用，例如通过优化3D-GS表示实现沉浸式体验和实时渲染，以及通过场景级文本到3D生成实现更富有想象力的内容创作。

SF-V是一种基于扩散的视频生成模型，通过对抗训练优化预训练模型，实现了单步生成高质量视频的能力。这种模型在保持视频数据的时间和空间依赖性的同时，显著降低了去噪过程的计算成本，为实时视频合成和编辑铺平了道路。

Align Your Steps 是一种用于优化扩散模型（Diffusion Models, DMs）采样时间表的方法。这种方法利用随机微积分的方法，为不同的求解器、训练有素的DMs和数据集找到特定的最优采样时间表。它通过最小化KLUB项来优化时间离散化，即采样调度，从而在相同的计算预算下提高输出质量。该方法在图像、视频以及2D玩具数据合成基准测试中表现出色，优化的采样时间表在几乎所有实验中都优于之前手工制定的时间表。

Snap视频是一个视频优先的模型,通过延伸EDM框架系统地解决视频生成域中的运动保真度、视觉质量和可扩展性等挑战。该模型利用帧间的冗余信息,提出了一个可伸缩的transformer架构,将空间和时间维度作为一个高度压缩的1D潜在向量,从而有效地进行空间时间联合建模,合成时间连贯性强、运动复杂的视频。这种架构使模型可以高效训练,达到数十亿参数规模,在多项基准测试中取得最优效果。

Boximator是一款由Jiawei Wang、Yuchen Zhang等人开发的智能视频合成工具。它利用先进的深度学习技术，通过添加文本提示和额外的盒子约束，生成丰富且可控制的视频运动。用户可以通过示例或自定义文本来创造独特的视频场景。Boximator与其他方法相比，使用了来自文本提示的附加盒子约束，提供更灵活的运动控制。

Lumiere是一个文本到视频扩散模型，旨在合成展现真实、多样和连贯运动的视频，解决视频合成中的关键挑战。我们引入了一种空时U-Net架构，可以一次性生成整个视频的时间持续，通过模型的单次传递。这与现有的视频模型形成对比，后者合成远距离的关键帧，然后进行时间超分辨率处理，这种方法本质上使得全局时间一致性难以实现。通过部署空间和（重要的是）时间的下采样和上采样，并利用预训练的文本到图像扩散模型，我们的模型学会直接生成多个时空尺度下的全帧率、低分辨率视频。我们展示了最先进的文本到视频生成结果，并展示了我们的设计轻松促进了各种内容创作任务和视频编辑应用，包括图像到视频、视频修补和风格化生成。

FlowVid 是一个光流引导的视频合成模型，通过利用光流的空间和时间信息，实现视频帧之间的时序一致性。它可以与现有的图像合成模型无缝配合，实现多种修改操作，包括风格化、对象交换和局部编辑等。FlowVid 生成速度快，4 秒、30FPS、512×512 分辨率的视频只需 1.5 分钟，比 CoDeF、Rerender 和 TokenFlow 分别快 3.1 倍、7.2 倍和 10.5 倍。用户评估中，FlowVid 的质量得分为 45.7%，明显优于 CoDeF（3.5%）、Rerender（10.2%）和 TokenFlow（40.4%）。

VividTalk是一种一次性音频驱动的头像生成技术，基于3D混合先验。它能够生成具有表情丰富、自然头部姿态和唇同步的逼真说唱视频。该技术采用了两阶段通用框架，支持生成具有上述所有特性的高视觉质量的说唱视频。具体来说，在第一阶段，通过学习两种运动（非刚性表情运动和刚性头部运动），将音频映射到网格。对于表情运动，采用混合形状和顶点作为中间表示，以最大化模型的表征能力。对于自然头部运动，提出了一种新颖的可学习头部姿势码本，并采用两阶段训练机制。在第二阶段，提出了一个双分支运动VAE和一个生成器，将网格转换为密集运动，并逐帧合成高质量视频。大量实验证明，VividTalk能够生成具有唇同步和逼真增强的高视觉质量说唱视频，且在客观和主观比较中优于以往的最先进作品。该技术的代码将在发表后公开发布。