野火专业版,独立敏感词过滤服务的两种实现方式,请问具体应该怎样实现,又是怎样对图片/语言进行敏感过滤的原理是怎样的?

001 17天前 75

野火专业版,独立敏感词过滤服务的两种实现方式(消息内容审查服务/消息转发功能),请问具体要怎样实现,又是怎样对图片/语言进行敏感过滤的原理是怎样的?

最新回复 (3)
  • HeavyRain 17天前
    引用 2
    敏感词审核有2种,一种是野火内置的,这种只能文字过滤消息的_searchable_data字段,常见的就是文本消息,其他常见类型的比如图片和视频就不能实现。

    另外一种是 采用外置的审核服务,野火IM服务把内容转发出来,发给这个外置服务审核,审核结束后,返回是否敏感的结果,IM服务根据审核结果来做后续处理。开启方法请查看IM服务配置文件中关于敏感词的部分。我们不能提供这个审核服务,需要你们自己实现或者寻找其他第三方的服务
  • 001 17天前
    引用 3
    采用外置的审核服务,请问自己实现这个审核服务的标准是怎样的?每次发送一条消息,野火IM都会实时调用审核服务进行审核吗?如果是图片或者语言消息,是否有推荐第三方服务。
  • HeavyRain 17天前
    引用 4
    只需要按照配置文件中的说明返回数据就行了,我记得是如果没有问题返回200,内容为空;如果替换,返回200,内容为替换后的内容;如果失败,返回403。
    配置中有个配置项,可以设定哪些类型的消息需要去审核,需要审核的消息都会发送到指定的地址来审核
    我们没有这方面的知识,没有办法给你们推荐,请你们自己来找一下吧
返回