凯发k8国际娱乐官网入口-k8凯发> 内容审核 moderation> > > > 图像内容审核（v2）

更新时间：2023-10-09 gmt 08:00

图像内容审核（v2）-凯发k8国际娱乐官网入口

功能介绍

分析并识别用户上传的图像内容是否有敏感内容（如涉及暴恐元素、涉黄内容等），并将识别结果返回给用户。

推荐使用。
文本内容审核默认api调用最大并发为10，如需调整更高并发限制请联系华为专业工程师为您服务。
您可以进行审核规则配置，根据配置的审核规则，对涉暴、涉黄内容进行不同场景的检测，详情请参见。

调试

您可以在中调试该接口，支持自动认证鉴权。api explorer可以自动生成sdk代码示例，并提供sdk代码示例调试功能。

uri

post /v2/{project_id}/moderation/image

表1 路径参数
参数	是否必选	参数类型	描述
project_id	是	string	项目id。获取方法请参见。

请求参数

表2 请求header参数
参数	是否必选	参数类型	描述
x-auth-token	是	string	用户token。用于获取操作api的权限。获取方法请参见，响应消息头中x-subject-token的值即为token。

表3 请求body参数
参数	是否必选	参数类型	描述
url	否	string	与image二选一。图片的url路径，目前支持：公网http/https url 华为云obs提供的url，使用obs数据需要进行授权。包括对服务授权、临时授权、匿名公开授权。详请参见。说明：接口响应时间依赖图片的下载时间，如果图片下载时间过长，会返回接口调用失败。请保证被检测图片所在的存储服务稳定可靠，建议您使用华为云obs存储。
image	否	string	与url二选一。图片文件base64编码字符串。要求base64编码后大小不超过10m。支持jpeg/png/bmp/webp/gif格式。
moderation_rule	否	string	图像审核规则名称，默认使用default规则。说明：审核规则的创建和使用请参见。
categories	否	array of strings	检测场景。可添加的检测场景如下： terrorism：暴恐元素的检测。 porn：涉黄内容元素的检测。 ad：广告图文的检测。 all：terrorism和porn等场景的检测，当选择all时，无法再添加其他场景，否则会报错。可通过配置上述场景，来完对应场景元素的检测。为空或无此参数表示terrorism检测，但不包含porn场景。说明：每个检测场景的检测次数会分类统计。
ad_categories	否	array of strings	图文审核检测场景。当categories包含ad时，该参数生效。当前支持的场景有系统场景和用户自定义场景：系统场景为： qr_code：二维码 porn：涉黄 ad：广告 abuse：辱骂 contraband：违禁品用户自定义场景为：自定义黑名单词库。说明：自定义词库的创建和使用请参见。
threshold	否	float	结果过滤门限，只有置信度不低于此门限的结果才会呈现在detail的列表中，取值范围 0-1，当未设置此值时各个检测场景会使用各自的默认值。 terrorism检测场景的默认值为0。 ad检测场景的默认值为0。无特殊需求直接不传此参数或像示例中一样值设为空字符串即可。说明：如果检测场景中的最高置信度也未达到threshold，则结果列表为空；反之threshold过小，则会使结果列表中内容过多。 threshold参数不支持porn场景筛选。 threshold参数不会对响应中的suggestion产生影响。
show_ocr_text	否	boolean	是否返回ocr识别结果，默认值为false。

响应参数

状态码： 200

表4 响应body参数
参数	参数类型	描述
result	imagedetectionresultbody object	调用成功时表示调用结果。调用失败时无此字段。

表5 imagedetectionresultbody
参数	参数类型	描述
detail	imagedetectionresultdetail object	针对选定的每个检测场景列出结果列表，terrorism为暴恐检测结果，porn为涉黄检测结果。如果检测场景中的最高置信度也未达到threshold则结果列表为空。
suggestion	string	审核结果是否通过。 block：包含敏感信息，不通过 pass：不包含敏感信息，通过 review：需要人工复检说明：当同时检测多个场景时，suggestion的值以最可能包含敏感信息的场景为准。即任一场景出现了block则总的suggestion为block，所有场景都pass时suggestion为pass，这两种情况之外则一定有场景需要review，此时suggestion为review。目前本服务不会保存客户的调用结果（如block的历史信息），因为涉及到客户的数据隐私问题，建议您保留接口调用结果的日志信息。
category_suggestions	map	每个场景的检测结果。 block：包含敏感信息，不通过 pass：不包含敏感信息，通过 review：需要人工复检说明：目前本服务不会保存客户的调用结果。

表6 imagedetectionresultdetail
参数	参数类型	描述
porn	array of imagedetectionresultsimpledetail objects	涉黄检测结果。
terrorism	array of imagedetectionresultsimpledetail objects	暴恐检测结果。
ad	array of imagedetectionresultaddetail objects	广告检测结果。

表7 face_detail
参数	参数类型	描述
h	integer	人脸区域高度。
w	integer	人脸区域宽度。
x	integer	人脸区域左上角到y轴距离。
y	integer	人脸区域左上角到x轴距离。

表8 imagedetectionresultsimpledetail
参数	参数类型	描述
confidence	float	置信度，取值范围 0-1。
label	string	每个检测结果的标签化说明。 terrorism：label为对应的暴恐元素信息。暴恐场景当前支持label列表如下： normal：正常（表示您上传的图像不涉及暴恐场景） knife：刀 gun：枪 fire：火灾 bloody ：血腥 terrorist：暴恐组织及标志 fascist：法西斯组织及标志 cult：邪教组织及标志 special_characters ：特殊文字 kidnap：绑架 corpse：尸体 riot：暴乱事件 parade ：游行示威 sensitive_landmarks：敏感地标 military_weapon：军事武器 army：警察部队 crowd：人群聚集 porn：label为对应的涉黄分类（涉黄、性感等）信息。鉴黄场景当前支持label列表如下： normal：正常（表示您上传的图像内容不涉黄） porn：色情 sexy：性感 ad：label为对应的广告识别结果信息。广告场景当前支持label列表如下： normal：正常（表示您上传的图像不涉及广告内容） ad：广告图文审核场景当前支持label列表如下： normal：正常 qr_code：二维码 porn：涉黄 ad：广告 abuse：辱骂 contraband：违禁品其他自定义黑名单词库名称

表9 imagedetectionresultaddetail
参数	参数类型	描述
confidence	float	置信度，取值范围 0-1。
label	string	ad：label为对应的广告识别结果信息。广告场景当前支持label列表如下： normal：正常（表示您上传的图像不涉及广告内容） ad：广告图文审核场景当前支持label列表如下： normal：正常 qr_code：二维码 porn：涉黄 ad：广告 abuse：辱骂 contraband：违禁品其他自定义黑名单词库名称
hit_contexts	array of strings	图文审核场景命中的文本列表。

状态码： 400

**表10** 响应body参数
参数	参数类型	描述
error_code	string	调用失败时的错误码，具体请参见。调用成功时无此字段。
error_msg	string	调用失败时的错误信息。调用成功时无此字段。
fail_category	string	当包含多个场景时，调用失败的场景。

请求示例

“endpoint”即调用api的请求地址，不同服务不同区域的endpoint不同，具体请参见。

例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求url为“https://moderation.cn-north-4.myhuaweicloud.com/v2/{project_id}/moderation/image”，“project_id”为项目id，获取方法请参见。

方式一：使用图片的base64编码，识别用户上传的图像内容是否有敏感内容，检测场景为涉黄，暴恐，图像审核规则为默认规则。

post https://{endpoint}/v2/{project_id}/moderation/image
{
  "categories" : [ "porn", "terrorism" ],
  "moderation_rule" : "default",
  "url" : "",
  "image" : "/9j/4aaqskzjrgabageasabiaad/4rfzrxhpzgaatu0akgaaaagabwesaamaaaabaaeaaaeaaauaaaabaaaaygebaauaaaabaaaa...",
  "threshold" : ""
}

方式二：使用图片的url，识别用户上传的图像内容是否有敏感内容，检测场景为涉黄，暴恐，图像审核规则为默认规则。

post https://{endpoint}/v2/{project_id}/moderation/image
{
  "categories" : [ "porn", "terrorism" ],
  "moderation_rule" : "default",
  "url" : "https://bucketname.obs.myhuaweicloud.com/objectname",
  "image" : "",
  "threshold" : ""
}

响应示例

状态码： 200

成功响应示例

{
  "result" : {
    "detail" : {
      "terrorism" : [ {
        "confidence" : 0.7315528178215026,
        "label" : "xxx"
      }, {
        "confidence" : 0.26844718217849733,
        "label" : "yyy"
      } ]
    },
    "suggestion" : "block",
    "category_suggestions" : {
      "terrorism" : "review"
    }
  }
}

状态码： 400

失败响应示例

{
  "error_code" : "ais.0402",
  "error_msg" : "the image format is not supported."
}

状态码

状态码	描述
200	成功响应示例。
400	失败响应示例。

错误码

请参见。

父主题：

意见反馈

文档内容是否对您有帮助？

提交成功！非常感谢您的反馈，我们会继续努力做到更好！您可在查看反馈及问题处理状态。

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨