# 移動設備

Lora 是一款為移動設備優化的本地語言模型，通過其 SDK 可以快速集成到移動應用中。它支持 iOS 和 Android 平臺，性能與 GPT-4o-mini 相當，擁有 1.5GB 大小和 24 億參數，專為即時移動推理進行了優化。Lora 的主要優點包括低能耗、輕量化和快速響應，相比其他模型，它在能耗、體積和速度上都有顯著優勢。Lora 由 PeekabooLabs 提供，主要面向開發者和企業客戶，幫助他們快速將先進的語言模型能力集成到移動應用中，提升用戶體驗和應用競爭力。

On-device Sora 是一個開源項目，旨在通過線性比例跳躍（LPL）、時間維度標記合併（TDTM）和動態加載併發推理（CI-DL）等技術，實現在移動設備（如 iPhone 15 Pro）上高效的視頻生成。該項目基於 Open-Sora 模型開發，能夠根據文本輸入生成高質量視頻。其主要優點包括高效性、低功耗和對移動設備的優化。該技術適用於需要在移動設備上快速生成視頻內容的場景，如短視頻創作、廣告製作等。項目目前開源，用戶可以免費使用。

MobileLLM是一種針對移動設備優化的小型語言模型，專注於設計少於十億參數的高質量LLMs，以適應移動部署的實用性。與傳統觀念不同，該研究強調了模型架構在小型LLMs中的重要性。通過深度和薄型架構，結合嵌入共享和分組查詢注意力機制，MobileLLM在準確性上取得了顯著提升，並提出了一種不增加模型大小且延遲開銷小的塊級權重共享方法。此外，MobileLLM模型家族在聊天基準測試中顯示出與之前小型模型相比的顯著改進，並在API調用任務中接近LLaMA-v2 7B的正確性，突出了小型模型在普通設備用例中的能力。

Llama模型是Meta公司推出的大型語言模型，通過量化技術，使得模型體積更小、運行速度更快，同時保持了模型的質量和安全性。這些模型特別適用於移動設備和邊緣部署，能夠在資源受限的設備上提供快速的設備內推理，同時減少內存佔用。量化Llama模型的開發，標誌著在移動AI領域的一個重要進步，使得更多的開發者能夠在不需要大量計算資源的情況下，構建和部署高質量的AI應用。

Mobile-Agent是一款自主多模移動設備代理，利用多模大語言模型（MLLM）技術，首先利用視覺感知工具準確識別和定位應用程序前端界面中的視覺和文字元素。基於感知的視覺環境，它自主規劃和分解複雜操作任務，並通過逐步操作來導航移動應用程序。與之前依賴於應用程序的XML文件或移動系統元數據的解決方案不同，Mobile-Agent以視覺為中心的方式在各種移動操作環境中具有更大的適應性，從而消除了對特定系統定製的必要性。為了評估Mobile-Agent的性能，我們引入了Mobile-Eval，這是一個用於評估移動設備操作的基準。基於Mobile-Eval，我們對Mobile-Agent進行了全面評估。實驗結果表明，Mobile-Agent實現了顯著的準確性和完成率。即使在具有挑戰性的指令下，例如多應用程序操作，Mobile-Agent仍然可以完成要求。