llm-security

✨ 为您的应用程序提供开源AI黑客工具 👨🏻‍💻

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

人工智能代理的独立审计。由人类或代理本身运行，以回答人工智能代理经济中最关键的问题。代理人是否做了应该做的事情？借助 iFixAi，您可以在 120 秒内得到答案。

全栈 AI 红队平台通过代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估来保护 AI 生态系统。

秒级沙盒化任何AI代理 - 零设置，零延迟。

A collection of scientific methods, processes, algorithms, and systems to build stories & models.

内核强制的智能体沙箱。基于能力的隔离机制，配备安全密钥管理、原子化回滚以及加密不可变的来源审计链。在零信任环境中运行您的智能体。

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理，已在Uber部署。

一款用于自动化大语言模型模糊测试的强大工具。

用于保护机器学习和 AI 系统的 MLSecOps 工具和资源的精选列表 - 对抗性 ML 防御、LLM 安全、AI 红队、模型扫描、供应链保护和 MLOps 管道安全。

面向 AI 代理基础设施的进攻性安全框架——涵盖 MCP、A2A、网关和 AI 服务的侦察、凭据窃取、模型窃取、投毒及攻击路径分析。面向代理化技术栈的 BloodHound。

大语言模型漏洞扫描器