2. Server
  3. 应对反诈的相关功能

应对反诈的相关功能

卡拉米 13小时前 15

我在gitee的提交记录里找了敏感词相关的内容，我看最新的是添加配置敏感词检查用户昵称/群组名/群备注等信息，请问应对敏感词和反诈现在咱们除了敏感词列表命中转发和这个是否还有其他的处理呢，是否有最新的应对手段 这个检查用户昵称/群组名/群备注等信息现在都覆盖了哪些 改名称备注的时候直接返回失败，昵称等含有敏感词的发消息按照 内置文本敏感词过滤处理方法会拦截么

最新回复 (2)
  • HeavyRain 8小时前
    引用 2楼
    现在默认只有这个敏感词审查，包括文本消息内容，修改用户昵称/群组名/群备注，当命中敏感词后，消息有失败/吞掉/仅记录等几种处理方式，其他的信息修改会失败。修改检查仅限于修改时，如果先设定名称，再设置敏感词，会无效。所以可以用AI写个代码检查一下数据里现有的这些数据
  • HeavyRain 8小时前
    引用 3楼
    如果这些审查还不够，比如想要审核图片和视频。有2种办法，一种是先发后审，利用消息转发功能，把消息转发到审核服务上，审核服务检查后，发现违规，再调用server api来撤回或者删除消息。另外一种是先审后发功能，IM服务配置文件关于敏感词部分有敏感词审核服务地址，会调用这个地址进行审核，当返回OK后才发送。一般建议先发后审
返回