专场：AI 时代非功能测试与安全新挑战
......
专场出品人：
......
......
柯超
网易智企 易盾Agent产品负责人
拥有网易、字节跳动等头部互联网企业实战背景，兼具扎实的底层数据思维、敏锐的前沿AI视野与严密的安全合规意识。面对当下企业智能化转型的痛点，以高质量且安全可靠的数据平台与治理体系为坚实底座，构筑坚固的大模型安全护栏。全面驱动 AI 相关技术在实际业务场景中的商业化落地，致力于在保障数据隐私与业务安全的前提下，将前沿技术转化为切实可见的商业价值。
待定
待定
企业级 AI Agent 落地安全挑战与实战防御
议题背景：
AI Agent 正从"对话工具"进化为拥有系统权限的"数字员工"，安全问题从"说错话"升级为"做错事"。当前防御体系存在三大盲区：只防输入内容合规、不防 Skill 调用行为；第三方插件供应链审计空白；Agent 决策链路缺乏可追溯的事后审计。本次分享的核心命题：如何在 <50ms 延迟约束下，构建一套面向 Agent 行为边界的全生命周期安全架构——让 Agent 敢"动手"，但不乱"动手"。
AI Agent 正从"对话工具"进化为拥有系统权限的"数字员工"，安全问题从"说错话"升级为"做错事"。当前防御体系存在三大盲区：只防输入内容合规、不防 Skill 调用行为；第三方插件供应链审计空白；Agent 决策链路缺乏可追溯的事后审计。本次分享的核心命题：如何在 <50ms 延迟约束下，构建一套面向 Agent 行为边界的全生命周期安全架构——让 Agent 敢"动手"，但不乱"动手"。
内容大纲：
1. 认知重构（Agent 安全 ≠ 普通 LLM 安全）
1.1 痛点切入：传统 AI 安全的“敏感词过滤”面对自主思考、自动调用 API 的 Agent 完全失效。
1.2 核心论点：Agent 的威力与危险均来自于 Skill（技能/工具/插件）。不加管控的 Skill 调用，会让 Agent 变成企业内部最危险的高权限“黑客”。
1.2 核心论点：Agent 的威力与危险均来自于 Skill（技能/工具/插件）。不加管控的 Skill 调用，会让 Agent 变成企业内部最危险的高权限“黑客”。
2. 深水区探秘（Agent 时代的三大核心威胁）
2.1 威胁一：Skill 供应风险（“手脚”被劫持）
2.2 黑客通过多轮对话洗脑，欺骗 Agent 将合法的 send_email Skill 参数替换，把包含机密数据的报表发给黑客；或诱导触发高权限的 Drop_Table。
2.3 威胁二：RAG 与第三方 Skill 投毒（“大脑”被污染）
2.4 调用的第三方解析插件或外部知识库暗藏后门，返回恶意指令（间接提示注入），反向夺取 Agent 控制权。
2.5 威胁三：被忽视的“影子 AI”供应链风险
2.6 业务团队私自接入带有隐性 AI 模型的第三方 Skill / SaaS，导致数据流向黑盒，合规与审计全线失守。
2.2 黑客通过多轮对话洗脑，欺骗 Agent 将合法的 send_email Skill 参数替换，把包含机密数据的报表发给黑客；或诱导触发高权限的 Drop_Table。
2.3 威胁二：RAG 与第三方 Skill 投毒（“大脑”被污染）
2.4 调用的第三方解析插件或外部知识库暗藏后门，返回恶意指令（间接提示注入），反向夺取 Agent 控制权。
2.5 威胁三：被忽视的“影子 AI”供应链风险
2.6 业务团队私自接入带有隐性 AI 模型的第三方 Skill / SaaS，导致数据流向黑盒，合规与审计全线失守。
3. 破局之道（核心秀场：我们的 Skill 全链路扫描检测架构）
3.1 面对上述挑战，我们不能让 Agent 变“智障”，更不能让它“裸奔”。我们构建了一套“非侵入式、毫秒级”的 Agent全生命周期防护引擎：
3.2 事前（静态入库审计）：Skill 资产探活与准入扫描
3.3 在 Skill 注册阶段，自动解析 OpenAPI 规范/代码逻辑，扫描越权漏洞、高危 API 指纹，识别并阻断潜藏的“影子 AI”及供应链后门，生成 Skill 白名单。
3.4 事中（运行时行为风控）：意图校验与参数级扫描 (Runtime Security)
3.5 上下文意图防偏离：在 Agent 决定调用 Skill 的瞬间，扫描其思维链，一旦发现偏离原生业务逻辑立刻熔断。
3.6 参数级动态清洗：拦截伪造参数。例如扫描 SQL_Query Skill 的参数是否包含注入指令；扫描外发 Skill 的参数是否触发 DLP（数据防泄漏）规则。
3.7 事后（返回结果双向验证）：防反向投毒
3.8 Skill 执行完毕后，对返回给 Agent 的数据进行二次扫描清洗，切断第三方插件通过恶意 Payload “反向洗脑” Agent 的链路。
3.2 事前（静态入库审计）：Skill 资产探活与准入扫描
3.3 在 Skill 注册阶段，自动解析 OpenAPI 规范/代码逻辑，扫描越权漏洞、高危 API 指纹，识别并阻断潜藏的“影子 AI”及供应链后门，生成 Skill 白名单。
3.4 事中（运行时行为风控）：意图校验与参数级扫描 (Runtime Security)
3.5 上下文意图防偏离：在 Agent 决定调用 Skill 的瞬间，扫描其思维链，一旦发现偏离原生业务逻辑立刻熔断。
3.6 参数级动态清洗：拦截伪造参数。例如扫描 SQL_Query Skill 的参数是否包含注入指令；扫描外发 Skill 的参数是否触发 DLP（数据防泄漏）规则。
3.7 事后（返回结果双向验证）：防反向投毒
3.8 Skill 执行完毕后，对返回给 Agent 的数据进行二次扫描清洗，切断第三方插件通过恶意 Payload “反向洗脑” Agent 的链路。
听众收益：
1. 思维换代：抛弃传统 WAF 和纯文本过滤思维，建立以 Skill 调用和行为边界 为核心的 Agent 安全新认知。
2. 避坑指南：认清第三方“影子 AI”和外部插件投毒的供应链黑盒风险。
3. 落地架构：带走一套可落地的 “事前准入+事中参数风控+事后清洗”的全链路 Skill 检测架构标准，直接指导企业下一步的安全建设规划。
1. 思维换代：抛弃传统 WAF 和纯文本过滤思维，建立以 Skill 调用和行为边界 为核心的 Agent 安全新认知。
2. 避坑指南：认清第三方“影子 AI”和外部插件投毒的供应链黑盒风险。
3. 落地架构：带走一套可落地的 “事前准入+事中参数风控+事后清洗”的全链路 Skill 检测架构标准，直接指导企业下一步的安全建设规划。
敬请期待
......
.....
待定
待定
敬请期待
....
关注QECon公众号
议题投稿
speaker@qecon.com.cn
商务合作
151-2264-3988 木子
票务联系
135-2067-8913 媛媛
媒体合作
135-1619-6409 皮皮
添加QECon小助手，获取
会议最新资讯
购票咨询
13520678913 媛媛
