不使用“珊瑚文本内容安全和珊瑚图片内容安全”,使用其他内容安全检测,行不行?
发布于 5 年前 作者 weizou 8857 次浏览 来自 问答

尊敬的小程序官方您好。

我公司的小程序的类型是问答,类似于 知乎。非常可能出现,用户发布 色情 垃圾 涉政 涉恐 广告 等违规信息。小程序官方多次通过“通知中心”提醒我们:“请你完善内容审核机制,如调用小程序内容安全API,或使用其他技术、人工审核手段,过滤色情、违法等有害信息,保障发布内容的安全”,如下面截图:

我们收到官方的通知之后,使用了 小程序官方推荐的 珊瑚文本内容安全和珊瑚图片内容安全 检测,如下图

上图的文字内容检测接口(珊瑚文本内容安全检测) 和 图片内容检测接口(珊瑚图片内容安全检测) 的文档说明如下:

https://developers.weixin.qq.com/doc/oplatform/Third-party_Platforms/Mini_Programs/Content_Security_API.html


问题:我们在使用珊瑚文本内容安全检测 和 珊瑚图片内容安全检测 的过程中,发现准确率很低,很多违规的文本和违规的图片 无法被检测出来,带来内容安全隐患,如 用户发布了 色情 垃圾 涉政 涉恐 广告 等违规信息。

为了解决上面的问题,我公司小程序 决定放弃使用 小程序官方推荐的珊瑚文本内容安全检测 和 珊瑚图片内容安全检测。我们将使用 文本内容安全检测和图片内容安全检测 准确率比较高的方案—网易易盾的文本安全检测和图片检测。这样可以吗?会不会 触犯小程序官方的方案?

网易易盾的文本安全检测和图片检测 的介绍如下:https://dun.163.com/trial/text

2 回复

你好,小程序内容安全过滤检测可使用不同的方法,但具体是否违规以审核排查有害内容是否存在为依据,建议开发者自查并完善(包括但不限于接入官方内容安全接口)内容安全过滤机制。

如上面的问题:

这样可以吗?会不会 触犯小程序官方的规定?

回到顶部