由于 trendforge.devlive.top 访问受限,请切换到 trendforge.devlive.org 域名

prompt-injection

话题找到数量

NVIDIA/SkillSpector

AI 代理技能的安全扫描器。检测漏洞、恶意模式和安全风险。

17k
1.5k
805
+142
排名 #5
9月18日
查看详情

Tencent/AI-Infra-Guard

全栈 AI 红队平台通过代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估来保护 AI 生态系统。

6.1k
565
594
+1.8k
排名 #15
8月31日
查看详情

CyberAlbSecOP/Awesome_GPT_Super_Prompting

ChatGPT越狱、GPT助手提示泄露、GPTs提示注入、LLM提示安全、超级提示、提示黑客、提示安全、AI提示工程、对抗性机器学习。

4.2k
525
833
+289
排名 #4
5月17日
查看详情

always-further/nono

内核强制的智能体沙箱。基于能力的隔离机制,配备安全密钥管理、原子化回滚以及加密不可变的来源审计链。在零信任环境中运行您的智能体。

2.6k
184
1k
+12
排名 #14
6月11日
查看详情

uber/ADR

ADR通过可观测性、安全基准测试和威胁检测来保护企业AI代理,已在Uber部署。

1.2k
104
601
+289
排名 #5
8月6日
查看详情

RiccardoBiosas/awesome-MLSecOps

用于保护机器学习和 AI 系统的 MLSecOps 工具和资源的精选列表 - 对抗性 ML 防御、LLM 安全、AI 红队、模型扫描、供应链保护和 MLOps 管道安全。

469
112
313
+1
排名 #1
9月17日
查看详情
助手