野火IM 接入内容安全审核功能

clg0118 28天前 119

有个问题请教一下,我们现在使用的野火Im 想接入内容安全审核功能,包含 文本、图片、视频、文件这些消息,我们现在接了你们的敏感词功能,如果我们想接入三方的这些内容安全api,需要如何处理?

最新回复 (4)
  • HeavyRain 28天前
    引用 2
    在IM服务配置文件中,有如下配置项:

    ```
    ## 如果内置敏感词库无法满足您的需求,可以开发部署独立敏感词审核服务。配置如下地址和消息类型,IM服务会把指定消息类型的消息回调到指定地址,内置的敏感词审核和敏感词转发功能就不再起作用了。
    ## 审核服务返回状态码200表示继续发送,如果需要替换内容,返回状态码200并且内容为替换后的内容,如果没有修改内容请返回空(注意没有替换内容时不要返回原内容!!!)。返回403表示不允许发送。其它错误继续发送。
    ## 独立审核服务地址,IM服务会post SendMessageData。如果需要修改消息内容,返回 MessagePayload。请参考应用服务中 "/message/censor" Mapping.
    #sensitive.remote_server_url http://192.168.3.202:8888/message/censor
    ## 需要进行敏感词审核的消息类型,当有多个时以英文逗号分割
    #sensitive.remote_sensitive_message_type 1,2,3
    ## 如果远程审核服务返回403,返回给发送端发送失败还是成功?实际上这个值影响发送响应是否等待审核结果,当为false时,消息发送给审核服务就立即返回
    ## 成功给客户端。当为true时,消息发送给审核服务,等待审核结果,如果结果为继续发送就返回给客户端为成功,结果为禁止发送就返回失败给客户端。
    ## 客户端操作的超时一般为10s左右,且考虑到复杂的网络情况,建议处理时间不要超过3s。建议这个值为false。
    #sensitive.remote_fail_when_matched true
    ```

    可以打开此配置,所有或者指定消息类型会发到配置的地址进行审核。
  • HeavyRain 28天前
    引用 3
    需要有个服务接收到审核的请求,然后这个服务再调用第三方的审核服务进行审核。接收到的数据格式和返回格式,请参考应用服务中的censorMessage 方法。
  • HeavyRain 28天前
    引用 4
    有个问题是可能审核会比较花时间,IM服务的请求会被卡住,而且也有超时(一般是10秒),所以可以先返回成功继续发送,等审核出如果有问题再进行撤回
  • clg0118 28天前
    引用 5
    谢谢
返回