AutoDAN-Turboは、人的介入なしで自動的に様々な戦略を発見?実行し、大規模言語モデル（LLM）の制限を突破することを目的とした自動化フレームワークです。本フレームワークは、多様な攻撃戦略を自動的に開発し、攻撃成功率を大幅に向上させます。また、既存の人工設計による脱獄戦略を統合できる統一的なフレームワークとしても機能します。AutoDAN-Turboの重要性は、敵対的環境下におけるLLMの安全性と信頼性を向上させ、レッドチーム評価ツールに新たな自動化手法を提供することにあります。

Tomatoは、ssokota氏提供の最小エントロピー結合コードを用いた、ステガノグラフィツールの概念実証です。このツールは、大規模言語モデル（LLM）によって生成されたカバーテキストの確率分布と、隠蔽情報（暗号文）の確率分布を結合することで、情報を隠蔽します。この結合によって結合エントロピーが最小化され、ステガノテキスト（カバーテキストと埋め込まれた情報）が自然言語の統計的特性を維持し、隠蔽情報の検出を困難にします。復号化プロセスでは、LLMがコンテキストを把握した解釈を提供することで補助を行い、その後MECを用いてカバーテキストから隠蔽情報を逆結合します。この手法により、隠蔽情報はテキストにシームレスに統合され、安全かつ正確に後で取得することができ、リスクを最小限に抑えることが可能です。

JailbreakZooは、大規模言語モデル（LLM）と視覚言語モデル（VLM）を含む大規模モデルの脆弱性解明に特化したリポジトリです。本プロジェクトは、これらの高度なAIモデルの脆弱性、攻撃手法、防御メカニズムを探求し、大規模AIシステムのセキュリティに関するより深い理解と認識を促進することを目的としています。

PyRITはAzureが開発したPythonベースのリスク識別ツールであり、セキュリティ専門家や機械学習エンジニアが、生成AIシステムにおけるリスクを積極的に発見することを支援します。このツールはAIレッドチームのタスクを自動化し、運用担当者はより複雑で時間のかかるタスクに集中できるようになり、同時にセキュリティとプライバシーの脅威を特定できます。

AutoDAN-Turboは、人的介入なしで自動的に様々な戦略を発見?実行し、大規模言語モデル（LLM）の制限を突破することを目的とした自動化フレームワークです。本フレームワークは、多様な攻撃戦略を自動的に開発し、攻撃成功率を大幅に向上させます。また、既存の人工設計による脱獄戦略を統合できる統一的なフレームワークとしても機能します。AutoDAN-Turboの重要性は、敵対的環境下におけるLLMの安全性と信頼性を向上させ、レッドチーム評価ツールに新たな自動化手法を提供することにあります。

『人工知能安全ガバナンスフレームワーク』1.0版は、全国ネットワークセキュリティ標準化技術委員会が発行した技術ガイドラインです。人工知能の革新的な発展を促進しつつ、人工知能の安全リスクを効果的に予防?軽減することを目的としています。本フレームワークは、包摂的で慎重なアプローチ、安全の確保、リスク指向とアジャイルなガバナンス、技術と管理の融合による協調的な対応、オープンな協力と共有ガバナンスといった原則を提示しています。人工知能技術の特徴を踏まえ、リスクの発生源と表現形式を分析し、モデルアルゴリズムの安全性、データの安全性、システムの安全性といった内生的安全リスク、およびネットワーク領域、現実領域、認知領域、倫理領域といった運用上の安全リスクに対し、適切な技術的対応と包括的な予防対策を提案しています。

Tomatoは、ssokota氏提供の最小エントロピー結合コードを用いた、ステガノグラフィツールの概念実証です。このツールは、大規模言語モデル（LLM）によって生成されたカバーテキストの確率分布と、隠蔽情報（暗号文）の確率分布を結合することで、情報を隠蔽します。この結合によって結合エントロピーが最小化され、ステガノテキスト（カバーテキストと埋め込まれた情報）が自然言語の統計的特性を維持し、隠蔽情報の検出を困難にします。復号化プロセスでは、LLMがコンテキストを把握した解釈を提供することで補助を行い、その後MECを用いてカバーテキストから隠蔽情報を逆結合します。この手法により、隠蔽情報はテキストにシームレスに統合され、安全かつ正確に後で取得することができ、リスクを最小限に抑えることが可能です。

JailbreakZooは、大規模言語モデル（LLM）と視覚言語モデル（VLM）を含む大規模モデルの脆弱性解明に特化したリポジトリです。本プロジェクトは、これらの高度なAIモデルの脆弱性、攻撃手法、防御メカニズムを探求し、大規模AIシステムのセキュリティに関するより深い理解と認識を促進することを目的としています。

Frontier Safety Frameworkは、Google DeepMindが提案する、将来的なAI能力が深刻な被害をもたらす可能性のある状況を積極的に特定し、それらのリスクを検知?軽減するためのメカニズムを構築するためのプロトコルです。このフレームワークは、優れたエージェント能力や複雑なネットワーク能力など、モデルレベルの強力な能力に焦点を当てています。これは、人間の価値観と社会目標に従ってモデルを訓練するアライメント研究、およびGoogleの既存のAI責任と安全に関する実践を補完することを目的としています。

PyRITはAzureが開発したPythonベースのリスク識別ツールであり、セキュリティ専門家や機械学習エンジニアが、生成AIシステムにおけるリスクを積極的に発見することを支援します。このツールはAIレッドチームのタスクを自動化し、運用担当者はより複雑で時間のかかるタスクに集中できるようになり、同時にセキュリティとプライバシーの脅威を特定できます。

行者AIは、AIセキュリティ、美術、音楽など多様なツールを提供し、業界の活性化と創作の簡素化を実現します。具体的には、コンテンツリスク管理、ゲームリスク管理、ソリューション提供、高度な不正検知、クラウドSMS、情報認証、人的審査、AIによるイラスト制作、AIモデル学習、二次元変換、アイコン生成、3Dポリゴン削減、2Dから3D変換、シーン切り替えなどの機能を提供しています。専門的なコンテンツと業務セキュリティサービスを提供し、業界を支援し、芸術創作をより簡単にすることを目的としています。価格は機能によって異なります。

Safe Kids AIメールは、Gmailアカウントを嫌がらせ、いじめ、ネガティブな言葉遣いから守るためのプラグインです。機械学習を用いて、有害の可能性のあるメールを検出します。さらに、子どもたちが不適切なメールを書こうとした際には、一時停止し、自分の選択を振り返る時間を与え、より良い決断を促します。このプラグインはブラウザ上でローカルに動作するため、プライバシーに影響を与えることはありません。