# AIセキュリティ

AI Infra Guardは、テンセントが開発したAIインフラストラクチャセキュリティ評価ツールです。AIシステムにおける潜在的なセキュリティリスクの発見と検出に重点を置いており、28種類のAIフレームワークフィンガープリント認識に対応し、200以上のセキュリティ脆弱性データベースを網羅しています。このツールは軽量で使いやすく、複雑な設定は不要で、柔軟なマッチング構文とクロスプラットフォームサポートを備えています。AIインフラストラクチャのセキュリティに効率的な評価手段を提供し、企業や開発者がAIシステムをセキュリティ脅威から保護するのに役立ちます。

Permit.io AI Access Controlは、AIアプリケーションのセキュリティと権限管理に特化したソリューションです。きめ細かい権限制御により、AIインタラクションの各段階（入力から出力まで）がセキュリティポリシーに準拠し、不正な入力、データ漏洩、有害な出力を防止します。本製品はフレームワークに依存しない技術を採用し、複数のAIフレームワークをサポートしており、柔軟な統合方法を提供することで、あらゆるAIテクノロジースタックに段階的に拡張できます。Permit.ioは、企業にAI駆動型アプリケーションのセキュリティ保証を提供し、企業がAIの利便性を享受しながら、コンプライアンス要件を満たせるように支援することを目指しています。

Verifiable Computeは、EQTY LabがIntelとNVIDIAと協力して発表したAIフレームワークであり、AIワークフローのガバナンスと監査を目的としています。これは、AIのランタイムにおける可説明性、監査可能性、セキュリティを確保するハードウェアベースの基盤ソリューションにおける大きな進歩を表しており、消費者と企業にAI導入と発展に対する新たな信頼をもたらします。Verifiable Computeは、特許出願中のハードウェアベースの暗号化AI公証および証明書システムを導入し、機密性の高いAI操作を隔離し、改ざん不可能な記録でAIのトレーニングと推論における計算データオブジェクトとコードをすべて公証します。また、リアルタイムのコンプライアンスチェックと、AIビジネスポリシーならびにEU AI法案などの新しい主権AI規制の実施も提供します。Verifiable Computeの新しい信頼層は、NVIDIAとIntelの次世代ハードウェアのシリコンに直接組み込まれており、AIのセキュリティとイノベーションの新たな基準を確立しています。

Gecko Securityは、コードベースの脆弱性を発見し修正することを目的としたAI駆動型セキュリティエンジニアです。自動化されたハッカーの直感を活用し、次世代のセキュリティツールを構築することで、ゼロデイ脆弱性の発見を可能にします。安全なサンドボックス内で発見事項を検証することで誤検知を削減し、ハッカーのようにコードをテストすることで、他のツールでは見逃されがちな論理的な脆弱性を発見し、開発環境に統合して、新たに出現する脆弱性をリアルタイムで捕捉します。Gecko Securityは、セキュリティに関する豊富な経験を持つチームによって開発され、開発速度を低下させることなく、コードのセキュリティ向上に貢献します。価格については、無料のオープンベータ版と、企業向けのカスタマイズプランを提供しています。

Protect AIは、AIセキュリティに特化した包括的なプラットフォームです。エンドツーエンドのAIセキュリティリスク管理と保護対策を提供します。AIセキュリティ態勢管理（AI-SPM）を統合することで、企業はAIアプリケーションのセキュリティを確保し、データセキュリティを保護し、AI特有のセキュリティ脅威に対抗できます。このプラットフォームは、AIシステムに対する包括的な可視性、修復、ガバナンスを提供し、企業がAIの探求とイノベーションを自信を持って推進できるよう支援します。

JailbreakZooは、大規模言語モデル（LLM）と視覚言語モデル（VLM）を含む大規模モデルの脆弱性解明に特化したリポジトリです。本プロジェクトは、これらの高度なAIモデルの脆弱性、攻撃手法、防御メカニズムを探求し、大規模AIシステムのセキュリティに関するより深い理解と認識を促進することを目的としています。

DETECT-2Bは、Resemble AIが開発した最新のディープフェイク検出ソリューションです。200ミリ秒以内に30以上の言語で、94%以上の精度で検出が可能です。当社の高効率かつ多言語対応の技術により、AI生成音声による詐欺行為を効果的に防ぎます。

ZeroTrusted.aiは、生成AIセキュリティ分野をリードする企業です。同社のLLMファイアウォール製品は、言語モデルのトレーニングデータセットに機密情報が含まれている可能性があることによるデータ漏洩や、不正な言語モデルプロバイダーまたは悪意のある行為者による悪用からお客様を保護することを目的としています。この製品は、プロンプトのプライバシー保護のための匿名化機能、ztPolicyServerとztDataPrivacyによるデータの安全とプライバシーの確保、正確性の向上とモデルの幻覚（Hallucinations）防止のためのプロンプトの最適化と結果検証、LangChain、Zapierなどの様々なツールとの統合を提供します。価格体系は、無料版、標準版、ビジネス版、エンタープライズ版など複数のプランがあり、機能とサービスレベルが異なります。ZeroTrusted.aiは、クラウド非依存のゼロトラストソリューションや動的適応型暗号化などの技術を通じて、セキュリティとコンプライアンスの簡素化、アプリケーションとデータの最大限の保護に尽力しています。

PyRITはAzureが開発したPythonベースのリスク識別ツールであり、セキュリティ専門家や機械学習エンジニアが、生成AIシステムにおけるリスクを積極的に発見することを支援します。このツールはAIレッドチームのタスクを自動化し、運用担当者はより複雑で時間のかかるタスクに集中できるようになり、同時にセキュリティとプライバシーの脅威を特定できます。

Lakera Guardは、1行のコードで機械学習モデルにエンタープライズレベルのセキュリティ保護を提供し、プロンプトインジェクション、データ漏洩、有害なコンテンツ生成などのセキュリティリスクを防止することで、組織が安全で信頼性の高いAIアプリケーションを容易に構築できるようにします。

行者AIは、AIセキュリティ、美術、音楽など多様なツールを提供し、業界の活性化と創作の簡素化を実現します。具体的には、コンテンツリスク管理、ゲームリスク管理、ソリューション提供、高度な不正検知、クラウドSMS、情報認証、人的審査、AIによるイラスト制作、AIモデル学習、二次元変換、アイコン生成、3Dポリゴン削減、2Dから3D変換、シーン切り替えなどの機能を提供しています。専門的なコンテンツと業務セキュリティサービスを提供し、業界を支援し、芸術創作をより簡単にすることを目的としています。価格は機能によって異なります。

NoPromptInjectionsは、AIアプリケーションをプロンプトインジェクションの脅威から保護するための製品です。シンプルで使いやすいAPIインターフェースを提供しており、価格設定もデータサイズに応じて透明性が高く、様々なAIアプリケーションシーンに適用可能です。