鉴黄、认脸、看字,小程序内容审核的新“帮手”来了
时间:2018-05-25 13:26 作者: zxc 来源: 39度
小程序因为内容违规被下线?想审核识别违规内容却不知如何入手?上周,我们上线了内容安全接口,用这个“神器”帮助大家解决困扰。今天,我们来详细了解一下这个“神器”,帮助大家更好地解决上述的各种问题。...

小程序因为内容违规被下线?想审核识别违规内容却不知如何入手?

上周,我们上线了内容安全接口,用这个“神器”帮助大家解决困扰。

今天,我们来详细了解一下这个“神器”,帮助大家更好地解决上述的各种问题。

这个帮手帮你做内容审核

用户通过小程序发布的内容,数量大、种类多,逐个校验几无可能。

小程序内容安全接口能够辅助开发者精准快速地校验小程序的文本、图片内容是否含有淫秽色情、涉违法犯罪、涉政有害等内容,抵御不良信息混入,维护小程序内容健康。

温馨提醒,开发者就算有了内容安全接口这个称心的“好帮手”,也不能对违规内容掉以轻心。

三大能力,快速发现并处理违规内容

能成为“好帮手”,当然是有“超能力”。小程序内容安全接口提供三大能力,从图片到文本,精准识别违规内容。

图片智能鉴黄

无论是用户通过拍照上传的内容、自定义头像,还是文章评论的图片,图片智能鉴黄接口都能够进行主动识别及获取色情量化程度信息,实现精准快速的色情倾向判断。

智能人脸识别

绝不“眼盲”的面部识别能力能够提取图中的人脸信息,进行相似度判断,包括重要政治人物、公众人物等图片人脸识别,帮助开发者避免业务的违规和侵权风险。

恶意文本检测

文本包含着很多潜在违法元素,内容安全接口提供了更高级智能的恶意文本检测能力,39度发现能够精准识别文本内容中的违规文字信息,辅助发现违规和恶意内容。

这些场景已经能实际使用了

目前,内容安全接口已经能够运用在小程序的文本、图片等内容校验中。

用户的个人资料、媒体类用户发表的文章及评论、游戏类用户编辑上传的素材等,开发者都能借助内容安全接口进行文字检测。

此外,内容安全接口还能对用户拍照上传、电商类商品上架图片、用户头像、媒体类用户文章配图、社交类用户上传的图片进行检测。

更多你关注的Q&A

了解完小程序内容安全接口的基础信息,也许你还会有一些疑问:这个接口到底适合谁?有什么效果?Q&A了解一下:

Q1: 开放内容安全接口能为开发者带来什么好处?

A:我们注意到,近年来,由于产品中存在违规内容而被处罚,甚至关停下架的事情时有发生,开发者的内容审核工作刻不容缓。因此,我们推出了内容安全接口,希望帮助开发者及时发现并处理图片、文本内容里的违规信息,让开发者能够将精力更集中于高质量的小程序开发当中。

Q2: 哪些小程序可以使用内容安全接口,有使用要求吗?

A:目前,内容安全接口面向所有的小程序开发者,免费提供一定额度的接口调用量,主要为小程序内容审核工作提供帮助,平台不会留存小程序开发者提交的检测数据。如果调用量需求超出上限,开发者可以通过业务逻辑优化、自行开发内容审核手段、调用其他第三方内容审核接口等方式开展内容审核。

Q3: 有了内容安全接口,开发者是不是就能省略内容审核工作?

A:目前,内容安全接口只提供内容审核的基础能力,辅助开发者发现有害内容,但对于内容的检测结果,以及其他违法违规内容(如暴力、恐怖、血腥),开发者仍然需要履行好管理职责,自行开展审核并对有害内容进行删除等处理,并不能忽视内容审核工作。

合作媒体