基础接口可以轻松绕过检测?
发布于 7 年前 作者 tao91 6279 次浏览 来自 官方Issues

一些具有敏感词汇的关键字可以通过添加一些简单的特殊字符通过检测。

例如,测试文本为“激情少妇”时,检测出不合法内容,这个是ok的

但是,我把测试文本修改为“激情少á妇”,就可以通过检测

我是直接使用postman进行测接口测试。

我在看《内容安全》这部分文档时,并未在宣传中找到提及增强接口比基础接口有更强更智能的检测能力,仅提到了增加并发和总数,提供内容分析。

所以横向对比了还包括但不限于,百度AI和网易易盾等平台的文本审核功能。

我从他们的体验页面上,选取了一些测试用例,使用基础接口进行测试,基本每个都中招了,全能通过测试。

为了让我的帖子能发出来,这些测试用例我暂时不贴了。

总之基础接口的安全系数真的值得商榷,增强接口是否有对这部分进行“增加”?

1 回复

绕过的方法太多了,估计很难百分百精准检测,官方接口只是能过滤掉大多数,人工审核机制还是少不了,人工抽检、巡检得安排。

回到顶部