OpenDiT是一個開源項目，提供了一個基於Colossal-AI的Diffusion Transformer(DiT)的高性能實現，專為增強DiT應用（包括文本到視頻生成和文本到圖像生成）的訓練和推理效率而設計。OpenDiT通過以下技術提升性能：在GPU上高達80%的加速和50%的內存減少；包括FlashAttention、Fused AdaLN和Fused layernorm核心優化；包括ZeRO、Gemini和DDP的混合並行方法，還有對ema模型進行分片進一步降低內存成本；FastSeq：一種新穎的序列並行方法，特別適用於DiT等工作負載，其中激活大小較大但參數大小較小；單節點序列並行可以節省高達48%的通信成本；突破單個GPU的內存限制，減少整體訓練和推理時間；通過少量代碼修改獲得巨大性能改進；用戶無需瞭解分佈式訓練的實現細節；完整的文本到圖像和文本到視頻生成流程；研究人員和工程師可以輕鬆使用和調整我們的流程到實際應用中，無需修改並行部分；在ImageNet上進行文本到圖像訓練併發布檢查點。