内容实时审核-AI版

接口标识: sensitivefilter_ai 价格: 0.0005 元/次 VIP免费同步响应

接口介绍
接口文档
在线测试

接口简介

内容实时审核-AI版接口对一段文本做发布前的合规判断，单次最多 3000 字符，通读全文做语义级审核，不依赖固定词库，能识别变体写法与隐喻表述。可发现广告推广、辱骂攻击、低俗内容与违法信息等违规片段，返回是否违规、整体风险等级（无、低、中、高四档）、疑似违规片段数量、每个片段的原文与类别、置信度与判定理由，以及一句话审核总结。适合社区评论、UGC 内容与文章投稿的发布前审核。

详细介绍

![内容实时审核-AI版接口封面](https://fujian.phpwc.com/pyapi/uploads/site/20261109/apiops_sensitivefilter_ai__1794169409_179c79030558.png)

把一段文本交给大模型通读，做一次语义级审核：识别广告推广、辱骂攻击、低俗内容、违法信息等违规片段，同步返回风险等级、置信度明细与一句话审核总结，适合社区评论、用户投稿等 UGC 内容发布前把关。

## 接口概述

内容实时审核-AI 版接口基于大语言模型做全文语义审核：传入待审核文本，模型结合上下文判断是否存在违规内容，平台将模型输出归一化为结构化审核结果实时返回。本接口为同步接口：一次调用向大模型服务发起一次请求，无需任务轮询。content 必传，单次最多 3000 字符，超限或为空直接返回参数错误。审核类别覆盖五大类：ad（广告推广）、insult（辱骂攻击）、vulgar（低俗内容）、illegal（违法信息）、other（其他），模型返回的中文类别名会自动归一为英文代码，无效类别记为 other。整体风险等级分 none/low/medium/high 四档；每条违规片段明细含文本、类别、置信度（0.0-1.0，越高越确定）与判定理由；summary 给出一句话审核总结；has_violation 在存在违规明细时即为 true；from_cache 标示本次结果是否命中缓存。审核结果为模型的语义判断，供机器复审与人工复核参考，重要场景建议结合人工复核或自有词库过滤组成两级审核流程。若模型返回无法解析，接口返回 AI 调用失败错误（code 50201）。

## 核心能力

1. **语义级审核**：大模型通读全文、结合上下文判断，不依赖固定词库，能识别谐音、变体、隐喻等绕过关键词过滤的表述。
2. **五大违规类别**：ad（广告推广）、insult（辱骂攻击）、vulgar（低俗内容）、illegal（违法信息）、other（其他），类别名自动归一为英文代码。
3. **四档风险等级**：risk_level 输出 none/low/medium/high，直接给出整体判断，便于分级处置。
4. **结构化明细**：每条违规片段含文本、类别、置信度与判定理由，机器可判、人工可核。
5. **一句话总结**：summary 给出可读的审核结论，方便直接展示给复核人员。
6. **同步实时返回**：一次请求即出结果，无需提交任务再轮询。
7. **归一化兜底**：模型输出异常字段由平台归一化处理，无效类别记为 other，风险等级给出兜底值，结果结构稳定。

## 产品优势

- **不靠词库**：语义判断为主，新话术、变体词不需要等词库更新。
- **结果即用**：结构化 JSON 输出，是否违规、等级、明细、理由一次拿全，接入复审流程成本低。
- **校验严格**：空文本、超 3000 字符在请求阶段直接返回参数错误，不产生无效调用。
- **可组合使用**：与自有敏感词过滤配合，组成「词库快筛 + AI 深审」的两级审核流程。

## 效果展示

一句话理解：它就像请一位内容安全编辑把文本通读一遍——不只圈出违规句子，还告诉你属于哪一类、有多确定、为什么这么判。

以一次典型调用为例，你要传的参数：

| 参数 | 本次示例值 | 说明 |
|------|-----------|------|
| content | 加微信好友领取内部资料，低价代办各种证件 | 必传，待审核文本，单次最多 3000 字符 |

你会拿到的结果：

| 返回内容 | 本次示例值 | 对应字段 |
|---------|-----------|---------|
| 是否违规 | true | `has_violation` |
| 整体风险等级 | medium | `risk_level`，none/low/medium/high |
| 违规片段数 | 1 | `violation_count` |
| 违规明细 | 片段列表（含文本、类别、置信度与理由） | `items` |
| 审核总结 | 文本含引导添加联系方式的推广信息，判定为广告类违规 | `summary` |
| 是否命中缓存 | false | `from_cache` |

API请求示例：

```
POST /api/v1/sensitivefilter_ai
content=加微信好友领取内部资料，低价代办各种证件
```

API响应示例：

```json
{
  "code": 0,
  "desc": "成功",
  "data": {
    "has_violation": true,
    "risk_level": "medium",
    "violation_count": 1,
    "items": [
      {
        "text": "加微信好友领取内部资料，低价代办各种证件",
        "category": "ad",
        "confidence": 0.93,
        "reason": "引导添加私人联系方式并推广代办服务，属广告推广类违规"
      }
    ],
    "summary": "文本含引导添加联系方式的推广信息，判定为广告类违规",
    "from_cache": false
  }
}
```

置信度介于 0.0 与 1.0 之间，越高表示模型对该片段越确定；建议按风险等级分级处置（如 high 拦截、medium/low 进入人工复审），并以明细中的 reason 辅助复核。模型返回无法解析时接口返回 code 50201「AI 调用失败」。

## 应用场景

- **社区评论审核**：用户评论发布前实时检测，拦截广告与攻击性内容
- **UGC 投稿把关**：论坛帖子、问答回答、作品投稿发布前自动初审
- **聊天消息过滤**：即时通讯消息发送前的内容合规检测
- **直播弹幕审核**：对弹幕文本做违规类别识别与分级处置
- **电商评价管理**：商品评价中的广告引流、恶意内容识别

## 应用案例

- **某内容社区**：用户投稿发布前经本接口初审，high 等级直接拦截，medium 与 low 进入人工复审队列，明细中的判定理由帮助审核员快速定位问题句。
- **某电商平台**：商品评价批量送审，识别广告引流与恶意评价，按置信度排序优先复核高分片段，申诉处理时回看审核总结与理由。
- **某在线教育平台**：课程问答区消息送审，与自有词库过滤组成两级审核流程，词库先行快筛、AI 版对存疑内容做深度语义审核。

常见问题

Q：返回结果包含哪些信息？

A：返回是否违规（has_violation）、整体风险等级（risk_level，none/low/medium/high）、违规片段数量（violation_count）、违规明细列表（items，每条含文本、类别、置信度与判定理由）、一句话审核总结（summary）与是否命中缓存（from_cache）。

Q：支持哪些违规类别？

A：支持 ad（广告推广）、insult（辱骂攻击）、vulgar（低俗内容）、illegal（违法信息）、other（其他）五大类。模型返回的中文类别名会自动归一为英文代码，无效类别记为 other。

Q：支持多长的文本？

A：单次请求最多 3000 字符，content 为空或超限直接返回参数错误。更长的文本建议分段送审。

Q：与纯敏感词类接口有什么区别？

A：敏感词类方案基于关键词匹配，依赖词库覆盖度；本接口由大模型通读全文做语义判断，可识别谐音、变体、隐喻等绕过关键词过滤的表述。两者可配合使用：词库做快速过滤，AI 版做深度审核。

Q：审核结果一定能作为处置依据吗？

A：审核结果是模型的语义判断，供机器复审与人工复核参考。建议按风险等级分级处置，并结合置信度与判定理由安排人工复核；模型返回无法解析时接口返回 AI 调用失败错误。

内容审核语义审核违规检测内容安全 UGC过滤

接口地址： https://www.phpwc.cn/api/sensitivefilter_ai

请求方式： POST

业务请求参数

参数名	类型	必填	默认值	说明
`content`	string	必填	-	待审核文本内容，最多 3000 个字符

查看签名算法查看调用示例

响应参数

字段名	类型	说明
`code`	int	状态码，0=成功
`desc`	string	状态描述
`data`−	object	业务数据（成功时返回）
`has_violation`	boolean	是否包含违规内容（true=包含，false=不包含）
`risk_level`	string	整体风险等级：none=无风险，low=低风险，medium=中风险，high=高风险
`violation_count`	int	疑似违规片段数量
`items`−	array	违规片段明细列表
`text`	string	疑似违规的文本片段
`category`	string	违规类别：ad（广告推广）、insult（辱骂攻击）、vulgar（低俗内容）、illegal（违法信息）、other（其他）
`confidence`	float	置信度，0.0-1.0 之间，越高表示越确定
`reason`	string	AI 给出的判定理由
`summary`	string	一句话审核总结
`from_cache`	boolean	本次结果是否命中缓存（相同文本短期内重复审核时返回缓存结果）
`request_id`	string	请求追踪ID

JSON 示例：

调用成功：

{
  "code": 0,
  "desc": "success",
  "data": { ... },
  "request_id": "abc123..."
}

调用失败：

{
  "code": 999,
  "desc": "错误描述",
  "request_id": "abc123..."
}

请先登录后使用在线测试