# AI安全

MCP Defender
MCP Defender
MCP Defender是一款AI防火牆,用於監控和保護MCP通信。它攔截工具調用和響應,並根據安全簽名驗證它們。MCP Defender提供高級的LLM驅動的惡意活動檢測,並允許用戶管理掃描過程中使用的簽名。
模型上下文協議
37.3K
grimly.ai
Grimly.ai
grimly.ai是一款旨在保護AI代理免受越獄、注入攻擊和濫用的產品。它為開發人員、安全團隊和企業AI採用者量身打造,提供即時的保護。
安全
40.3K
AI Infra Guard
AI Infra Guard
AI Infra Guard是一款由騰訊開發的AI基礎設施安全評估工具。它專注於發現和檢測AI系統中的潛在安全風險,支持28種AI框架指紋識別,覆蓋200多個安全漏洞數據庫。該工具輕量級、易於使用,無需複雜配置,具有靈活的匹配語法和跨平臺支持。它為AI基礎設施的安全性提供了高效的評估手段,幫助企業和開發者保護其AI系統免受安全威脅。
安全
54.9K
Permit.io AI Access Control
Permit.io AI Access Control
Permit.io AI Access Control 是一款專注於AI應用安全與權限管理的解決方案。它通過細粒度的權限控制,確保AI交互的每個階段(從輸入到輸出)都符合安全策略,防止未經授權的輸入、數據洩露和有害輸出。該產品採用框架無關的技術,支持多種AI框架,並提供靈活的集成方式,可逐步擴展到任何AI技術棧中。Permit.io 的定位是為企業提供AI驅動應用的安全保障,幫助企業在享受AI帶來的便利的同時,滿足合規性要求。
安全
53.8K
Verifiable Compute
Verifiable Compute
Verifiable Compute是由EQTY Lab與Intel和NVIDIA合作推出的AI框架,旨在治理和審計AI工作流程。它代表了確保AI在運行時可解釋、可審計和安全的硬件基礎解決方案的重大進步,為消費者和企業提供了加速AI採用和發展的新信心。Verifiable Compute引入了專利待審的基於硬件的加密AI公證和證書系統,以隔離敏感的AI操作,並用不可篡改的記錄公證每一個在AI訓練和推理中計算的數據對象和代碼。它還提供了即時合規性檢查和執行AI業務政策以及新的主權AI法規,如歐盟AI法案。Verifiable Compute的新信任層直接根植於NVIDIA和Intel的下一代硬件的硅片中,為AI安全和創新樹立了新的標準。
開發與工具
45.5K
Gecko Security
Gecko Security
Gecko Security是一個AI驅動的安全工程師,旨在發現並修復代碼庫中的漏洞。它通過自動化黑客直覺,構建下一代安全工具,使尋找0-day漏洞成為可能。Gecko Security通過在安全沙箱中驗證發現,減少誤報,測試代碼像黑客一樣,發現其他工具可能遺漏的邏輯漏洞,並集成到開發環境中,即時捕捉新出現的漏洞。產品背景信息顯示,Gecko Security由一支有安全經驗的團隊開發,致力於提高代碼安全性,同時不減緩開發速度。價格方面,Gecko Security提供免費的Open Beta版本,以及針對企業客戶的定製計劃。
代碼安全
46.1K
國外精選
Protect AI
Protect AI
Protect AI是一個專注於AI安全的綜合性平臺,提供從端到端的AI安全風險管理和防護措施。它通過AI安全態勢管理(AI-SPM)整合,幫助企業實現AI應用的安全性,同時保障數據安全和抵禦AI特有的安全威脅。該平臺能夠為AI系統提供全面的可見性、修復和治理,支持企業在AI探索和創新中保持信心。
安全
54.9K
JailbreakZoo
Jailbreakzoo
JailbreakZoo是一個專注於破解大型模型(包括大型語言模型和視覺語言模型)的資源庫。該項目旨在探索這些高級AI模型的漏洞、利用方法和防禦機制,目的是促進對大規模AI系統安全方面的更深入理解和認識。
AI安全
46.4K
Frontier Safety Framework
Frontier Safety Framework
Frontier Safety Framework是Google DeepMind提出的一套協議,用於主動識別未來AI能力可能導致嚴重傷害的情況,並建立機制來檢測和減輕這些風險。該框架專注於模型層面的強大能力,如卓越的代理能力或複雜的網絡能力。它旨在補充我們的對齊研究,即訓練模型按照人類價值觀和社會目標行事,以及Google現有的AI責任和安全實踐。
AI安全
48.0K
PyRIT
Pyrit
PyRIT是由Azure開發的Python風險識別工具,旨在幫助安全專業人員和機器學習工程師主動發現其生成AI系統中的風險。該工具自動化了AI紅隊任務,使操作者能夠專注於更復雜和耗時的任務,同時能夠識別安全和隱私危害。
AI安全
57.4K
Lakera Guard
Lakera Guard
Lakera Guard通過一行代碼為機器學習模型提供企業級安全保護,防止prompt注入、數據洩露、有害內容生成等安全風險,讓組織輕鬆構建安全可靠的AI應用。
安全
51.3K
行者AI
行者AI
行者AI提供多種工具,包括AI安全、美術、音樂等,賦能行業,讓創作更簡單。其中包括內容風控、遊戲風控、解決方案、智能反灰、產雲短信、信息認證、人工審核、AI繪圖創作、AI模型訓練、二次元轉化、ICON生成、3D減面、2D轉3D、場景切換等功能。產品定位為提供專業內容與業務安全服務,賦能行業,讓藝術創作更簡單。產品定價根據不同功能點而定。
AI安全
97.7K
NoPromptInjections
Nopromptinjections
NoPromptInjections是一款用於保護AI應用免受提示注入威脅的產品。它提供簡單的API接口,快速易用。定價透明,根據數據大小計費。適用於各種AI應用場景。
安全
43.6K
精選AI產品推薦
中文精選
騰訊混元圖像 2.0
騰訊混元圖像 2.0
騰訊混元圖像 2.0 是騰訊最新發布的 AI 圖像生成模型,顯著提升了生成速度和畫質。通過超高壓縮倍率的編解碼器和全新擴散架構,使得圖像生成速度可達到毫秒級,避免了傳統生成的等待時間。同時,模型通過強化學習算法與人類美學知識的結合,提升了圖像的真實感和細節表現,適合設計師、創作者等專業用戶使用。
圖片生成
80.9K
國外精選
Lovart
Lovart
Lovart 是一款革命性的 AI 設計代理,能夠將創意提示轉化為藝術作品,支持從故事板到品牌視覺的多種設計需求。其重要性在於打破傳統設計流程,節省時間並提升創意靈感。Lovart 當前處於測試階段,用戶可加入等候名單,隨時體驗設計的樂趣。
AI設計工具
64.0K
FastVLM
Fastvlm
FastVLM 是一種高效的視覺編碼模型,專為視覺語言模型設計。它通過創新的 FastViTHD 混合視覺編碼器,減少了高分辨率圖像的編碼時間和輸出的 token 數量,使得模型在速度和精度上表現出色。FastVLM 的主要定位是為開發者提供強大的視覺語言處理能力,適用於各種應用場景,尤其在需要快速響應的移動設備上表現優異。
AI模型
51.1K
KeySync
Keysync
KeySync 是一個針對高分辨率視頻的無洩漏唇同步框架。它解決了傳統唇同步技術中的時間一致性問題,同時通過巧妙的遮罩策略處理表情洩漏和麵部遮擋。KeySync 的優越性體現在其在唇重建和跨同步方面的先進成果,適用於自動配音等實際應用場景。
視頻編輯
48.6K
Manus
Manus
Manus 是由 Monica.im 研發的全球首款真正自主的 AI 代理產品,能夠直接交付完整的任務成果,而不僅僅是提供建議或答案。它採用 Multiple Agent 架構,運行在獨立虛擬機中,能夠通過編寫和執行代碼、瀏覽網頁、操作應用等方式直接完成任務。Manus 在 GAIA 基準測試中取得了 SOTA 表現,展現了強大的任務執行能力。其目標是成為用戶在數字世界的‘代理人’,幫助用戶高效完成各種複雜任務。
個人助理
1.5M
Trae國內版
Trae國內版
Trae是一款專為中文開發場景設計的AI原生IDE,將AI技術深度集成於開發環境中。它通過智能代碼補全、上下文理解等功能,顯著提升開發效率和代碼質量。Trae的出現填補了國內AI集成開發工具的空白,滿足了中文開發者對高效開發工具的需求。其定位為高端開發工具,旨在為專業開發者提供強大的技術支持,目前尚未明確公開價格,但預計會採用付費模式以匹配其高端定位。
開發與工具
138.0K
國外精選
Pika
Pika
Pika是一個視頻製作平臺,用戶可以上傳自己的創意想法,Pika會自動生成相關的視頻。主要功能有:支持多種創意想法轉視頻,視頻效果專業,操作簡單易用。平臺採用免費試用模式,定位面向創意者和視頻愛好者。
視頻生成
18.7M
中文精選
LiblibAI
Liblibai
LiblibAI是一箇中國領先的AI創作平臺,提供強大的AI創作能力,幫助創作者實現創意。平臺提供海量免費AI創作模型,用戶可以搜索使用模型進行圖像、文字、音頻等創作。平臺還支持用戶訓練自己的AI模型。平臺定位於廣大創作者用戶,致力於創造條件普惠,服務創意產業,讓每個人都享有創作的樂趣。
AI模型
8.0M
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase