# AI安全

MCP Defender是一款AI防火牆，用於監控和保護MCP通信。它攔截工具調用和響應，並根據安全簽名驗證它們。MCP Defender提供高級的LLM驅動的惡意活動檢測，並允許用戶管理掃描過程中使用的簽名。

grimly.ai是一款旨在保護AI代理免受越獄、注入攻擊和濫用的產品。它為開發人員、安全團隊和企業AI採用者量身打造，提供即時的保護。

AI Infra Guard是一款由騰訊開發的AI基礎設施安全評估工具。它專注於發現和檢測AI系統中的潛在安全風險，支持28種AI框架指紋識別，覆蓋200多個安全漏洞數據庫。該工具輕量級、易於使用，無需複雜配置，具有靈活的匹配語法和跨平臺支持。它為AI基礎設施的安全性提供了高效的評估手段，幫助企業和開發者保護其AI系統免受安全威脅。

Permit.io AI Access Control 是一款專注於AI應用安全與權限管理的解決方案。它通過細粒度的權限控制，確保AI交互的每個階段（從輸入到輸出）都符合安全策略，防止未經授權的輸入、數據洩露和有害輸出。該產品採用框架無關的技術，支持多種AI框架，並提供靈活的集成方式，可逐步擴展到任何AI技術棧中。Permit.io 的定位是為企業提供AI驅動應用的安全保障，幫助企業在享受AI帶來的便利的同時，滿足合規性要求。

Verifiable Compute是由EQTY Lab與Intel和NVIDIA合作推出的AI框架，旨在治理和審計AI工作流程。它代表了確保AI在運行時可解釋、可審計和安全的硬件基礎解決方案的重大進步，為消費者和企業提供了加速AI採用和發展的新信心。Verifiable Compute引入了專利待審的基於硬件的加密AI公證和證書系統，以隔離敏感的AI操作，並用不可篡改的記錄公證每一個在AI訓練和推理中計算的數據對象和代碼。它還提供了即時合規性檢查和執行AI業務政策以及新的主權AI法規，如歐盟AI法案。Verifiable Compute的新信任層直接根植於NVIDIA和Intel的下一代硬件的硅片中，為AI安全和創新樹立了新的標準。

Gecko Security是一個AI驅動的安全工程師，旨在發現並修復代碼庫中的漏洞。它通過自動化黑客直覺，構建下一代安全工具，使尋找0-day漏洞成為可能。Gecko Security通過在安全沙箱中驗證發現，減少誤報，測試代碼像黑客一樣，發現其他工具可能遺漏的邏輯漏洞，並集成到開發環境中，即時捕捉新出現的漏洞。產品背景信息顯示，Gecko Security由一支有安全經驗的團隊開發，致力於提高代碼安全性，同時不減緩開發速度。價格方面，Gecko Security提供免費的Open Beta版本，以及針對企業客戶的定製計劃。

Protect AI是一個專注於AI安全的綜合性平臺，提供從端到端的AI安全風險管理和防護措施。它通過AI安全態勢管理(AI-SPM)整合，幫助企業實現AI應用的安全性，同時保障數據安全和抵禦AI特有的安全威脅。該平臺能夠為AI系統提供全面的可見性、修復和治理，支持企業在AI探索和創新中保持信心。

JailbreakZoo是一個專注於破解大型模型（包括大型語言模型和視覺語言模型）的資源庫。該項目旨在探索這些高級AI模型的漏洞、利用方法和防禦機制，目的是促進對大規模AI系統安全方面的更深入理解和認識。

Frontier Safety Framework是Google DeepMind提出的一套協議，用於主動識別未來AI能力可能導致嚴重傷害的情況，並建立機制來檢測和減輕這些風險。該框架專注於模型層面的強大能力，如卓越的代理能力或複雜的網絡能力。它旨在補充我們的對齊研究，即訓練模型按照人類價值觀和社會目標行事，以及Google現有的AI責任和安全實踐。

PyRIT是由Azure開發的Python風險識別工具，旨在幫助安全專業人員和機器學習工程師主動發現其生成AI系統中的風險。該工具自動化了AI紅隊任務，使操作者能夠專注於更復雜和耗時的任務，同時能夠識別安全和隱私危害。

Lakera Guard通過一行代碼為機器學習模型提供企業級安全保護,防止prompt注入、數據洩露、有害內容生成等安全風險,讓組織輕鬆構建安全可靠的AI應用。

行者AI提供多種工具，包括AI安全、美術、音樂等，賦能行業，讓創作更簡單。其中包括內容風控、遊戲風控、解決方案、智能反灰、產雲短信、信息認證、人工審核、AI繪圖創作、AI模型訓練、二次元轉化、ICON生成、3D減面、2D轉3D、場景切換等功能。產品定位為提供專業內容與業務安全服務，賦能行業，讓藝術創作更簡單。產品定價根據不同功能點而定。

NoPromptInjections是一款用於保護AI應用免受提示注入威脅的產品。它提供簡單的API接口，快速易用。定價透明，根據數據大小計費。適用於各種AI應用場景。