内容安全防护

让文字与图片先过安检,为大模型对话、内容生成和实时回复提供检测拦截能力。

对话安检文本
转写检测图片文字
视觉检测图片内容

核心能力

检测策略

覆盖提示词攻击防护、内容合规检测、敏感信息识别和图片视觉审核。各策略独立判定、并行执行,单项命中不短路其余检查。

文本与图片

支持文本输入,以及图片的 OCR 文字检测与视觉内容检测。图中文字转写后进入文本审核链路;画面内容单独做视觉分类。

流式与非流式

整段文本支持一次性同步检测,生成中的文字支持流式增量检测。流式判定只覆盖当前检测窗口,不构成全文放行。图片以整图一次性检测。

自定义词库

支持业务自定义字面量词库,对文本及 OCR 转写结果做关键词命中阻断。视觉内容检测不接入词库。

网页、OpenAPI 与 MCP

可从接入指南直接体验,也可通过 OpenAPI 或 MCP 接入对话、内容生成和实时回复流程。

代答库(正在建设中)

规划在风险命中后返回预置安全代答,而不只输出拦截判定。该能力正在建设中。

适用场景

智能客服

覆盖提示词攻击中的身份与情景操纵、规避与混淆、指令与逻辑注入,以及利用模型固有弱点。用于识别改写系统角色、绕过业务规则和注入额外指令的输入。

咨询受理

覆盖敏感信息识别。手机号、身份证号、邮箱等个人信息归入侵犯他人合法权益;实体识别开启后,还可覆盖姓名、地址和机构。

会话图片

图片文字转写后进入文本策略,可命中指令与逻辑注入、敏感信息和自定义关键词。画面本身单独做视觉审核,拦截违反社会主义核心价值观、歧视性内容、商业违法或不合规活动,以及侵犯他人合法权益。

企业内部助手

覆盖自定义词库。未公开的项目代号、客户名单和内部口径按字面量命中后阻断,分类为自定义关键词。它加严内置规则,不替代敏感信息识别。

常见问题

一次会话里好几项都命中,对外按哪一条处理?

每一项都会留下自己的结果。对外展示的类别,取执行顺序里第一条阻断,不是只报最后一条。

检测服务超时或不可用,这次算通过吗?

不算。模型超时、不可达或结果无法解析,都按检测失败返回,不会当成放行。失败的模型调用不计费。

回复已经开始显示,后半段才被拦住,前面那半句算通过吗?

不算全文通过。流式结果只覆盖当前检测窗口里还留着的文字,被丢掉的开头不能据此放行。

图里没有字,是检测失败吗?

不是。没有读到文字是正常结果,文字检测为放行。画面是否拦截,要另看视觉审核。

文字被拦了,这张图和这一轮对话要不要一起停?

文字和图片各自给出结论,服务不会替你把整轮合成一个结果。任一项阻断后,整轮是否停止由调用方决定。