AutoDAN-Turbo是一个自动化的、无需人为干预的框架，旨在自动发现并实施多种策略，以突破大型语言模型（LLMs）的限制。该框架能够自动开发出多样的攻击策略，显著提高了攻击成功率，并且可以作为一个统一的框架整合现有的人为设计的越狱策略。AutoDAN-Turbo的重要性在于其能够提升LLMs在对抗环境中的安全性和可靠性，为红队评估工具提供了一种新的自动化方法。

Tomato 是一个隐写工具的概念验证，它利用由 ssokota 提供的最小熵耦合码。该工具通过将隐藏信息（密文）的概率分布与由大型语言模型（LLM）生成的封面文本的概率分布合并，实现信息隐藏。这种耦合最小化了联合熵，确保了隐写文本（封面文本与嵌入信息）保留了自然语言的统计特性，使隐藏信息难以被检测。解码过程中，LLM 通过提供上下文感知的解释来辅助，然后使用 MEC 反向解耦封面文本中的隐藏信息。这种方法确保隐藏信息可以无缝集成到文本中，并且可以安全、准确地在以后检索，风险最小。

JailbreakZoo是一个专注于破解大型模型（包括大型语言模型和视觉语言模型）的资源库。该项目旨在探索这些高级AI模型的漏洞、利用方法和防御机制，目的是促进对大规模AI系统安全方面的更深入理解和认识。

PyRIT是由Azure开发的Python风险识别工具，旨在帮助安全专业人员和机器学习工程师主动发现其生成AI系统中的风险。该工具自动化了AI红队任务，使操作者能够专注于更复杂和耗时的任务，同时能够识别安全和隐私危害。

AutoDAN-Turbo是一个自动化的、无需人为干预的框架，旨在自动发现并实施多种策略，以突破大型语言模型（LLMs）的限制。该框架能够自动开发出多样的攻击策略，显著提高了攻击成功率，并且可以作为一个统一的框架整合现有的人为设计的越狱策略。AutoDAN-Turbo的重要性在于其能够提升LLMs在对抗环境中的安全性和可靠性，为红队评估工具提供了一种新的自动化方法。

《人工智能安全治理框架》1.0版是由全国网络安全标准化技术委员会发布的技术指南，旨在鼓励人工智能创新发展的同时，有效防范和化解人工智能安全风险。该框架提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等原则。它结合人工智能技术特性，分析风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险，以及网络域、现实域、认知域、伦理域等应用安全风险，提出了相应的技术应对和综合防治措施。

Tomato 是一个隐写工具的概念验证，它利用由 ssokota 提供的最小熵耦合码。该工具通过将隐藏信息（密文）的概率分布与由大型语言模型（LLM）生成的封面文本的概率分布合并，实现信息隐藏。这种耦合最小化了联合熵，确保了隐写文本（封面文本与嵌入信息）保留了自然语言的统计特性，使隐藏信息难以被检测。解码过程中，LLM 通过提供上下文感知的解释来辅助，然后使用 MEC 反向解耦封面文本中的隐藏信息。这种方法确保隐藏信息可以无缝集成到文本中，并且可以安全、准确地在以后检索，风险最小。

JailbreakZoo是一个专注于破解大型模型（包括大型语言模型和视觉语言模型）的资源库。该项目旨在探索这些高级AI模型的漏洞、利用方法和防御机制，目的是促进对大规模AI系统安全方面的更深入理解和认识。

Frontier Safety Framework是Google DeepMind提出的一套协议，用于主动识别未来AI能力可能导致严重伤害的情况，并建立机制来检测和减轻这些风险。该框架专注于模型层面的强大能力，如卓越的代理能力或复杂的网络能力。它旨在补充我们的对齐研究，即训练模型按照人类价值观和社会目标行事，以及Google现有的AI责任和安全实践。

PyRIT是由Azure开发的Python风险识别工具，旨在帮助安全专业人员和机器学习工程师主动发现其生成AI系统中的风险。该工具自动化了AI红队任务，使操作者能够专注于更复杂和耗时的任务，同时能够识别安全和隐私危害。

行者AI提供多种工具，包括AI安全、美术、音乐等，赋能行业，让创作更简单。其中包括内容风控、游戏风控、解决方案、智能反灰、产云短信、信息认证、人工审核、AI绘图创作、AI模型训练、二次元转化、ICON生成、3D减面、2D转3D、场景切换等功能。产品定位为提供专业内容与业务安全服务，赋能行业，让艺术创作更简单。产品定价根据不同功能点而定。

Safe Kids AI for Email是一款保护Gmail账户免受仇恨、欺凌和负面语言的插件。我们使用机器学习来标记可能有害的邮件。此外，当孩子们写不友善的邮件时，我们会暂停并让他们反思自己的选择，以便他们做出更好的决定。此插件在浏览器上本地运行，不会影响隐私。