产品功能

Agent 网关是 AI 调用的主路径与控制平面,Agent 安全运行时是网关上一处下发的策略引擎

Agent 网关

Agent Gateway

Agent 流量的统一入口,兼容 OpenAI 接口,统一接入百余种模型,提供路由、限流、配额、审计与故障切换。

查看开源代码 →

Agent 安全运行时

护栏 · 网关上的策略引擎

为 Agent 运行阶段提供安全防护:提示词攻击检测、内容合规、数据防泄漏,基于 LLM 具备上下文感知。

Agent 网关 · 流量统一入口

企业级多模型代理,把所有 Agent 流量收敛到一处治理

多模型统一接入

兼容 OpenAI Chat Completions / Embeddings 接口,100+ 上游模型即插即用

  • OpenAI / Anthropic / Gemini / 通义千问 / DeepSeek 等主流模型
  • 统一的 API 形态,业务代码无需感知上游差异
  • 同时支持公有云、私有部署模型与本地推理
  • 兼容 streaming、tool calling、JSON mode

Agent 流量编排

智能路由与故障切换,按业务策略选择最合适的模型

  • 基于成本、延迟、能力的智能路由
  • 故障自动切换,避免单点失败
  • 请求级别的负载均衡与重试
  • 灰度发布与影子流量对比

配额、限流与计费

多租户场景下的资源治理

  • 按 API Key / 用户 / 应用维度配额管理
  • Token / 请求级别精细限流
  • 统一计费口径,跨上游模型成本归一
  • 消费明细审计与导出

深度集成护栏

网关层透传请求时自动调用运行时护栏

  • 在网关一处配置,全部请求自动安全防护
  • 输入 / 输出双向检测
  • 可按租户、按应用差异化策略
  • 审计日志与运行时联动

Agent 安全运行时 · 护栏

又称大模型安全护栏、大模型防火墙,限制 Agent 输入输出内容或行为,防止重要数据泄露、提示词注入攻击,以及生成违法和不良信息

大模型安全护栏应用示意图

🔍 输入安全检测

对用户输入进行安全检测,识别和拦截提示词注入攻击、越狱攻击、敏感有害提问等风险内容

🛡️ 安全护栏核心

基于 LLM 大模型的智能分析引擎,具备上下文感知能力,提供语义级安全检测和策略执行

📤 输出内容过滤

对大模型输出进行过滤拦截,脱敏敏感内容,代答违规问题,确保输出内容合规安全

🎭 多模态安全检测

支持文本、图像、音频、视频、文件多模态内容识别

文本识别

图像识别

音频识别

视频识别

文件识别

输入 + 输出双重防护

运行时提供输入风险识别管控和输出风险识别管控双重保障

输入风险识别管控

全面检测和拦截对大模型的各类攻击和有害输入

  • 对抗攻击检测 - 提示词注入、越狱、资源消耗等对抗性指令
  • 语义级分析 - 自动识别违法和不良信息,包含多模态隐晦违规
  • 上下文关联 - 超长会话连贯性分析,基于角色识别越权提问
  • 敏感内容识别 - 自动识别个人信息,支持自定义关键词规则

输出风险识别管控

过滤拦截输出内容中的违法和不良信息、敏感内容

  • 敏感内容脱敏 - 配置规则后对生成的敏感内容自动脱敏
  • 违法不良信息过滤 - 限制输出或代答、拒答等多种处置
  • 代答拒答 - 风险提问与标准回复映射,对用户正向引导
  • 自定义策略 - 代答、拒答规则支持扩展,可按需更新

12 维度安全检测

基于《GB/T45654—2025》标准的安全风险分类检测

高风险
4
个检测维度
  • 敏感政治话题
  • 损害国家形象
  • 暴力犯罪
  • 提示词攻击
中风险
4
个检测维度
  • 一般政治话题
  • 伤害未成年人
  • 违法犯罪
  • 色情内容
低风险
4
个检测维度
  • 歧视内容
  • 辱骂攻击
  • 侵犯隐私
  • 商业违规

企业级配套能力

日志审计、性能监控、灵活配置——网关与运行时共享的完整能力

日志留存与审计

全面记录系统行为和用户行为,支持多维度查询统计分析

  • 行为主体、事件类型、事件时间记录
  • 系统行为和用户行为详细日志
  • 基于时间范围、请求用户等多维度查询
  • 定期审计日志记录支持

灵活配置管理

支持黑白名单、代答库等个性化配置

  • 自定义关键词库管理
  • 多级代答策略配置
  • 实时配置生效
  • 批量导入导出功能

智能分析报告

提供详细的检测分析和可视化展示

  • 实时检测统计
  • 风险趋势分析
  • 检测效果评估
  • 自定义报表生成

数据安全保护

完全私有化部署,数据安全可控

  • 本地化部署方案
  • 数据加密存储
  • 访问权限控制
  • 审计日志记录

高性能处理

毫秒级响应,支持大规模并发访问

  • 异步处理架构
  • 智能缓存机制
  • 负载均衡支持
  • 弹性扩容能力

实时监控告警

全方位监控系统状态和安全事件

  • 实时性能监控
  • 异常行为检测
  • 多渠道告警通知
  • 自动化响应机制

用网关 + 运行时守护企业 Agent

满足金融、医疗、政务行业监管要求,支持完全私有化部署