安全检测引擎矩阵与驱动体系

在企业级大模型应用落地中，安全与合规是大模型接入的生命线。无论是防范外部恶意提示词攻击，还是杜绝内部敏感数据与源码凭据外泄，企业都需要一套统一、灵活且高可用的安全调度底座。

OmniCortex 安全围栏基于可插拔驱动架构 (Driver SPI) 构建，将安全检测能力从具体的特定服务商或专有算法中彻底解耦。系统将业界主流的合规检测能力抽象为统一的能力矩阵，支持输入实时拦截、输出动态脱敏、全流程合规审计以及跨引擎协同防御，为企业大模型落地构筑坚不可摧的纵深防御网。

---

一、 企业大模型安全治理的核心挑战与防御中枢

1. 企业大模型面临的四大外在安全风险

• 提示词注入与对抗式越狱 (Prompt Injection & Jailbreak)：恶意攻击者或外部用户通过“角色扮演”、“忽略前序规则”等对抗性 Prompt 诱导模型突破伦理规范与安全约束，窃取系统提示词或执行违规操作；
• 核心知识产权与代码凭据泄露 (Secrets Leakage)：员工或开发者在对话、代码审查场景下，无意中向大模型发送包含 API 密钥、数据库连接串、私钥证书或内部系统 Token 等敏感凭据，造成商业机密外泄；
• 个人隐私合规底线失守 (PII Exposure)：业务系统与客服对话中高频流转的居民身份证、手机号、银行卡号、个人住址等个人身份信息 (PII)，若未经脱敏直接发送至外部模型，将面临严峻的合规与法律风险；
• 传统安全方案的厂商锁定与业务冲突：传统网关往往硬编码绑定某一家商业安全 API，遇到外部接口抖动容易导致业务全线宕机；且缺乏对大模型“思考链 (Thinking)”与“正文 (Text)”的通道感知，粗暴拦截极易破坏前端打字机交互体验。

2. 可插拔安全驱动架构与三层解耦设计

为了同时兼顾防护严密性与业务连续性，OmniCortex 构建了三层解耦的开放安全治理体系：

1. 底层能力矩阵层 (Driver Engines)：将正则规则、凭据扫描、隐私脱敏、语义注入防御、大模型裁判等异构能力抽象为标准驱动，支持随时热插拔与灵活替换；
2. 中间策略资产层 (Capabilities & Policy Packages)：统一纳管内置规则与自定义规则库，并将规则聚合组装为场景化策略包，按需裁决处置动作（阻断 / 脱敏 / 旁路检测）；
3. 上层业务风控层 (Profiles & Traffic Assignments)：通过可视化防线工作台将多引擎策略串联为有序流水线，并结合表达式引擎为不同业务部门、特定虚拟密钥或指定模型动态分流。

3. 端到端双向安全驱动调度流水线

OmniCortex 端到端双向安全驱动调度流水线

双向门控 · 增量流式感知

阶段 1 · 输入侧前置门控 (Pre-Call)

Prompt 语义安全与合规清洗

• 越狱与注入拦截：识别直接/间接越狱对抗攻击
• 敏感凭据扫描：拦截代码及上下文中的 API 密钥
• 自定义敏感词过滤：过滤企业预置黑名单词库

阶段 2 · 网关内核调度 (Execution)

上游异构算力推理与长连接穿透

• 多通道流式分发：独立分离思考链与正文输出
• 增量缓冲状态机：跨分包边界滑动窗口检测
• 高可用逃生自愈：检测故障时根据策略安全放行

阶段 3 · 输出侧后置门控 (Post-Call)

敏感隐私脱敏与合规兜底

• PII 智能掩码：身份证、手机号动态自动打码
• 输出合规清洗：过滤模型幻觉输出或涉敏内容

---

二、 全景安全检测引擎能力矩阵

OmniCortex 不绑定任何单一商业厂商，而是将各类检测能力统一建模为标准驱动。企业可根据自身业务诉求、网络环境与合规等级自由选用或组合搭配。

1. 核心安全能力矩阵

规则正则匹配引擎regex

针对企业敏感词、广告违禁标语与固定格式标识执行毫秒级清洗，从根源杜绝正则回溯失控。

企业黑名单违规标语零网络延迟

支持目标：LLM 对话 ｜ 时机：双向

支持动作：阻断 · 脱敏 · 仅检测

敏感凭据扫描引擎secrets

深度扫描代码与对话中的 API Key、私钥证书及数据库凭据，结合信息熵与 SHA-256 白名单精准降噪。

API Key 防泄露代码私钥指纹白名单

支持目标：LLM 对话 ｜ 时机：双向

支持动作：阻断 · 脱敏 · 仅检测

隐私数据分析引擎presidio

私有化实体识别器，精准识别多国身份证、手机号、银行卡及个人姓名，支持动态掩码遮蔽合规。

身份识别 (PII)动态掩码打码多国实体支持

支持目标：LLM 对话 ｜ 时机：双向

支持动作：阻断 · 脱敏 · 仅检测

提示词语义安全引擎lakera_guard

基于深度语义分类模型，在前置拦截直接/间接提示词注入、对抗性越狱破解与系统角色窥探。

Prompt 注入防御越狱攻击识别前置毫秒仲裁

支持目标：LLM 对话 ｜ 时机：仅输入阶段

支持动作：严格阻断 · 静默仅检测

2. 四大企业级外在核心防护特性

① 全生命周期双向纵深防护 (Pre-Call & Post-Call)

• 输入侧前置清洗：全面覆盖客户端 Prompt 与多轮历史上下文，在请求抵达模型前掐断越狱攻击与凭据外泄；
• 输出侧动态兜底：实时审查大模型生成的内容，防止模型吐露敏感隐私或合规违禁信息。

② 刚性阻断与柔性脱敏的高效协同 (Enforcement Modes)

• 高危行为毫秒早阻断：对恶意越狱、注入攻击等高危请求，在网关层直接阻断并返回标准安全响应，防止违规内容污染模型会话；
• 隐私数据智能掩码：对包含手机号、身份证等个人隐私的数据执行实时动态替换（如自动替换为 [PHONE_NUMBER]），在严守合规底线的同时保障正常业务问答。

③ 深度思考链与正文差分脱敏 (Thinking-Aware Stream)

• 面对新一代推理大模型的流式输出，系统智能分离深度思考通道 (Thinking) 与 正文通道 (Text)；
• 在输出脱敏时，仅对用户可见的正文通道执行动态改写，绝不修改或截断思考链协议块，既确保合规，又保持前端打字机的丝滑交互。

④ 流式断句检测与即时冲刷释放 (Sentence-Boundary Flush & Sliding Buffer)

• 攻克流式两难陷阱：在流式生成中，敏感词极易被切割在相邻 Chunk（单包纯转发展示必导致跨包漏检），而等待全文生成完毕再检测又会导致前端长久转圈卡死；
• 自然语言断句送检：基于自然语言语义与断句边界执行动态暂扣并成句送检，从根源消除碎片化漏拦截；
• 毫秒即时冲刷释放：成句审查合规后即刻触发“冲刷释放 (Flush)”，将积攒的数据包无缝投递给客户端，保障打字机视觉的连续丝滑；
• 滑动窗口与防卡死兜底：面对超长无断句文本或特殊代码块，底层内置跨分包滑动缓冲与强制超时冲刷机制，兼顾高安全性与高吞吐可用性。

---

三、 企业控制台资产中心与统一态势

控制台将系统已接入的所有安全检测能力集中纳管在「检测能力库」视窗中，为管理员提供透明的资产全景与健康状态呈现。

管理入口：「安全围栏」➔「检测能力库」 (/security/guardrails/capabilities)。

📸 截图替换指引（图 1：安全检测引擎资产全景）

• 需截图内容：登录控制台，点击左侧导航栏「安全围栏」→「检测能力库」，展开左侧已注册引擎侧栏并选中首个驱动（如 regex）。
• 关键画面要素：
  1. 左侧已注册引擎列表 (EngineSidebar)：完整展示 regex、secrets、presidio、lakera_guard 驱动卡片、引擎专属图标盒及右侧常绿的健康状态指示灯；
  2. 顶部 Hero 概览区：展示当前选定驱动的大图标、驱动名称、英文标识徽标（如 SECRETS）、健康状态 Tag（运行正常）以及驱动能力属性（如 目标: LLM · 阶段: 双向检测）；
  3. 视图分段控制器：呈现贴合主体的三大选项卡按钮（「防护策略包」、「规则库」、「引擎配置」）；
  4. 右侧主操作区：右上角醒目的紫色渐变「运行时沙盒」操作按钮。
• 推荐保存路径：
  • 中文版：Documentation/docs/public/images/guardrails/zh/engine-matrix-overview.png
  • 英文版：Documentation/docs/public/images/guardrails/en/engine-matrix-overview.png

• 左侧驱动资产导航：直观展示已注册的引擎清单与实时探活指示灯（绿色表示正常，黄色表示降级，红色表示异常）；
• 动态配置视图：支持在可视化表单与原始代码模式之间一键切换，灵活调节检测参数；
• 全功能能力沙盒：支持在控制台直接输入样本文本，即时诊断各引擎的匹配事实与改写效果。

---

四、 开放生态：企业专属安全引擎集成与扩展能力

除了开箱即用的内置能力，OmniCortex 支持企业将自研的内容审查算法、内部风控系统或第三方商业安全接口无缝挂载至安全围栏中。

1. 灵活多样的集成部署形态

• 轻量进程内规则：企业自定义的 RE2 正则词库直接在网关内存中高效编译执行，具备极高的并发吞吐能力；
• 私有化容器微服务：企业内网独立部署的开源合规模型（如 Presidio、LLM Guard）通过内网 HTTP/gRPC 端点集成，兼顾数据不出内网与独立扩缩容；
• 云端专线安全接口：通过企业专线或互联网调用成熟的第三方云端内容安全服务，借助其海量更新的攻防语义库保障安全。

2. 企业敏感凭证全程安全脱敏

当对接外部专线安全服务时，涉及的 API Key 或内部认证 Token 统一纳入网关凭证池统一托管。控制台展示与数据存储全程采用 [REDACTED] 掩码保护，杜绝安全配置本身的泄露隐患。

---

五、 生产运行健康与异常排查自愈指南

故障现象 / 状态	业务影响分析	标准排查与自愈 SOP
引擎健康灯变红 (UNHEALTHY)	外部依赖服务中断或鉴权失效，可能影响该步骤的正常检测	1. 进入控制台「检测能力库」➔ 选中该引擎 ➔ 切换至「引擎配置」； 2. 点击「健康检查」获取对端返回的具体错误信息； 3. 检查网络专线与端点状态；若认证 Token 失效，更新凭据后保存即可恢复。
流式输出时偶发敏感词漏拦截	流式分包时敏感词被切分在相邻 Chunk 之间，或未触发自然语义断句	1. 确认该引擎支持输出侧检测能力； 2. 系统原生支持「自然语言断句缓冲与冲刷释放」与「跨包滑动窗口」双重机制； 3. 检查规则是否开启断句暂扣放行；若模型生成内容属于超长无断句文本导致提前释放，可结合业务场景合理调优滑动窗口分片缓冲与断句判定规则。
高并发下外部安全检测响应变慢	外部安全接口网络拥塞，可能拖慢整体对话响应速度	1. 进入「防线工作台」，定位包含该引擎的业务防线； 2. 将该步骤的超时上限（Timeout Ms）调整为合理区间； 3. 开启异常逃生模式为 FAIL_OPEN（旁路放行），在外部服务拥堵时自动保障业务主链路通畅。