# 模型擴展

Memory Layers at Scale 是一種創新的內存層實現方式，通過可訓練的鍵值查找機制，在不增加浮點運算次數的情況下為模型增加額外的參數。這種方法在大規模語言模型中尤為重要，因為它能夠在保持計算效率的同時，顯著提升模型的存儲和檢索能力。該技術的主要優點包括高效擴展模型容量、降低計算資源消耗以及提高模型的靈活性和可擴展性。該項目由 Meta Lingua 團隊開發，適用於需要處理大規模數據和複雜模型的場景。

SUPIR是一種開創性的圖像修復方法，利用生成先驗和模型擴展的力量。利用多模態技術和先進的生成先驗，SUPIR在智能和逼真的圖像修復方面取得了重大進展。作為SUPIR內的關鍵催化劑，模型擴展顯著增強了其能力，並展示了圖像修復的新潛力。我們收集了一個包含2000萬高分辨率、高質量圖像的數據集進行模型訓練，每個圖像都附有描述性文本註釋。SUPIR能夠根據文本提示修復圖像，拓寬了其應用範圍和潛力。此外，我們引入了負質量提示以進一步提高感知質量。我們還開發了一種修復引導採樣方法，以抑制生成式修復中遇到的保真度問題。實驗證明了SUPIR出色的修復效果及其通過文本提示操控修復的新能力。