机器人安全
人形机器人和具身智能正在从实验室走进工厂、仓库和商业场所。它们身上跑着和大模型、智能体同源的那套软件栈,但多了一个软件系统从来不曾拥有的东西:物理执行能力。这决定了它的安全问题不能照搬网络安全的那一套结论。
为什么它和纯软件安全不一样
Section titled “为什么它和纯软件安全不一样”在纯软件系统里,一次越权读取最坏的结果是数据泄露,损失可以评估、可以回滚。机器人不一样:
- 后果不可回滚。一次错误的关节力矩指令可能造成人身伤害或设备损毁,没有「撤销」按钮。
- 传感器是攻击面,不是可信输入。机器人的决策完全建立在感知之上,而摄像头、激光雷达、IMU 都可能被欺骗或重放。
- 实时性使传统防护手段失效。控制回路有硬性时延要求,很多场景下没有余量去跑完整的鉴权与审计链路。
- 安全与功能目标直接冲突。为了响应速度放宽的校验,恰恰就是攻击者利用的缺口。
本分类计划覆盖的方向
Section titled “本分类计划覆盖的方向”- 通信链路安全:ROS / ROS2 的 DDS 通信模型、话题与服务的鉴权机制、中间人攻击与消息重放。
- 感知层欺骗:激光雷达点云注入、视觉对抗样本、IMU 数据伪造对定位与避障的影响。
- 运动控制与动作权限:指令注入、急停链路绕过、工作空间边界失效的成因与防护。
- 具身智能体的权限模型:大模型决策层与物理执行层之间的边界如何划分,什么动作必须要求人工确认。
- 固件与供应链:机器人厂商的固件更新链路、第三方运动库与视觉组件引入的风险。
这个方向的内容还在整理和验证中,写好后会陆续发布在这里。