Server
首页
Server
Android
iOS
PC
Web
Flutter
Uniapp
交流
搜索
登录
Server
野火IM 接入内容安全审核功能
野火IM 接入内容安全审核功能
clg0118
28天前
119
有个问题请教一下,我们现在使用的野火Im 想接入内容安全审核功能,包含 文本、图片、视频、文件这些消息,我们现在接了你们的敏感词功能,如果我们想接入三方的这些内容安全api,需要如何处理?
最新回复
(
4
)
HeavyRain
28天前
引用
2
楼
在IM服务配置文件中,有如下配置项:
```
## 如果内置敏感词库无法满足您的需求,可以开发部署独立敏感词审核服务。配置如下地址和消息类型,IM服务会把指定消息类型的消息回调到指定地址,内置的敏感词审核和敏感词转发功能就不再起作用了。
## 审核服务返回状态码200表示继续发送,如果需要替换内容,返回状态码200并且内容为替换后的内容,如果没有修改内容请返回空(注意没有替换内容时不要返回原内容!!!)。返回403表示不允许发送。其它错误继续发送。
## 独立审核服务地址,IM服务会post SendMessageData。如果需要修改消息内容,返回 MessagePayload。请参考应用服务中 "/message/censor" Mapping.
#sensitive.remote_server_url http://192.168.3.202:8888/message/censor
## 需要进行敏感词审核的消息类型,当有多个时以英文逗号分割
#sensitive.remote_sensitive_message_type 1,2,3
## 如果远程审核服务返回403,返回给发送端发送失败还是成功?实际上这个值影响发送响应是否等待审核结果,当为false时,消息发送给审核服务就立即返回
## 成功给客户端。当为true时,消息发送给审核服务,等待审核结果,如果结果为继续发送就返回给客户端为成功,结果为禁止发送就返回失败给客户端。
## 客户端操作的超时一般为10s左右,且考虑到复杂的网络情况,建议处理时间不要超过3s。建议这个值为false。
#sensitive.remote_fail_when_matched true
```
可以打开此配置,所有或者指定消息类型会发到配置的地址进行审核。
HeavyRain
28天前
引用
3
楼
需要有个服务接收到审核的请求,然后这个服务再调用第三方的审核服务进行审核。接收到的数据格式和返回格式,请参考应用服务中的censorMessage 方法。
HeavyRain
28天前
引用
4
楼
有个问题是可能审核会比较花时间,IM服务的请求会被卡住,而且也有超时(一般是10秒),所以可以先返回成功继续发送,等审核出如果有问题再进行撤回
clg0118
28天前
引用
5
楼
谢谢
返回
clg0118
创作新主题
搜索