AI 安全研究 · 防御视角 · 中英双语
小枣信安
- 37 篇文章
- 7 大方向
- 2026-09 最新更新
最新文章
-
MCP安全系列之身份验证和授权问题
身份验证和授权问题大面上就是关于MCP服务权限问题，这里分了以下几个场景：
-
MCP安全系列之意图流颠覆
意图流颠覆相当于模型本来要去做A任务，我们通过注入让其去做B任务，或者是影响A任务的结果，即改变了Agent原本的任务流。我们这里通过一个简单代码审计示例来复现下。
-
MCP安全系列之命令注入
命令注入相当于MCP服务端存在命令注入等相关问题，其执行的恶意命令会有很多来源，比如用户通过提示词给到模型，或者模型通过上下文获取，或者恶意命令存在外部，模型去读取，或者上游下…
-
MCP安全系列之工具中毒
MCP安全中的工具中毒风险，其实是围绕恶意MCP展开的，比如MCP服务端的代码是恶意的，或者MCP工具的描述包含了恶意提示词等，都可归类为MCP工具中毒，所以感觉原理和之前Sk…
-
BlackHat入选工具AIG：开源AI红队平台详细指南
本篇详细记录下如何通过AIG去进行Agent安全扫描、MCP安全扫描、Skill安全扫描、大模型安全扫描、AI应用组件安全扫描等。
-
AI时代下如何提高网络安全意识
AI时代下借助生成式大模型，其欺诈的门槛越来越低，以往的钓鱼邮件可以用AI来生成话术、现在网上的图片和视频也可以用AI来生成，甚至AI换脸以及声音克隆，欺诈形式越来越高级，制作…
-
MCP安全系列之权限过大
该类问题主要指的是MCP工具权限太大，未遵循最小化权限原则，和Skill的过度权限、大模型的过度权限是相似的原理。之前文章可参考：
-
MCP安全系列之信息泄露
MCP的第一个风险点翻译过来实际上叫做Token管理不当和密钥泄露，这里为了方便，就统一叫做信息泄露。
-
MCP安全系列之MCP基础
Agent有一个重要的组成，就是它可以调用外部的很多工具来完成任务，比如让一个Agent规划一下明天从A到B的路线，途中有哪些美食和景点，完事把结果存到数据库，同时把结果整理成…
-
防范恶意Skill：SkillSpector部署与检测
SkillSpector是英伟达开发的一款开源的Skill安全扫描工具，具备以下特征：
-
Skill安全风险之元数据安全
在Skill基础篇中，我们记录了---之间的内容就是Skill元数据，通常定义了关于Skill的名字、描述、作者、风险、权限等各种描述信息，这些信息叫做元数据。
-
Skill安全系列之过度权限
Skill过度权限指的是技能本身的权限过大，例如以下场景：
内容分类
- 大模型安全 20 篇 提示词注入与越狱攻击的原理和防御、OWASP LLM Top 10 逐项拆解、模型供应链与数据投毒风险。
- 智能体安全 1 篇 Agent 的权限边界与过度代理风险、OWASP Agent Top 10、多智能体协作与 A2A 协议安全。
- MCP安全 7 篇 MCP 协议基础、工具投毒、命令注入、权限越界与信息泄露——OWASP MCP Top 10 的逐条原理与防护。
- SKILL安全 7 篇 SKILL 的基础应用、元数据风险与权限过度授予、恶意技能与供应链攻击的识别和检测。
- AI赋能网络安全 2 篇 把 AI 用在防御侧：辅助漏洞挖掘、辅助代码审计、辅助安全运营，以及 AI 时代的全员安全意识建设。
- 机器人安全 筹备中 人形机器人与具身智能的安全问题：通信链路、传感器欺骗、动作权限与物理世界的影响面。
- AI数据安全 筹备中 围绕 AI 数据的隐私与完整性：训练语料、向量库、检索增强与推理链路上的数据泄露和篡改风险。