2. Server
  3. 应对反诈的相关功能

应对反诈的相关功能

卡拉米 20天前 155

我在gitee的提交记录里找了敏感词相关的内容，我看最新的是添加配置敏感词检查用户昵称/群组名/群备注等信息，请问应对敏感词和反诈现在咱们除了敏感词列表命中转发和这个是否还有其他的处理呢，是否有最新的应对手段 这个检查用户昵称/群组名/群备注等信息现在都覆盖了哪些 改名称备注的时候直接返回失败，昵称等含有敏感词的发消息按照 内置文本敏感词过滤处理方法会拦截么

最新回复 (6)
  • HeavyRain 20天前
    引用 2楼
    现在默认只有这个敏感词审查，包括文本消息内容，修改用户昵称/群组名/群备注，当命中敏感词后，消息有失败/吞掉/仅记录等几种处理方式，其他的信息修改会失败。修改检查仅限于修改时，如果先设定名称，再设置敏感词，会无效。所以可以用AI写个代码检查一下数据里现有的这些数据
  • HeavyRain 20天前
    引用 3楼
    如果这些审查还不够，比如想要审核图片和视频。有2种办法，一种是先发后审，利用消息转发功能，把消息转发到审核服务上，审核服务检查后，发现违规，再调用server api来撤回或者删除消息。另外一种是先审后发功能，IM服务配置文件关于敏感词部分有敏感词审核服务地址，会调用这个地址进行审核，当返回OK后才发送。一般建议先发后审
  • 卡拉米 20天前
    引用 4楼
    现在敏感词审查这个是已经实现的么，需要我们自己开发么？ 审查服务是一个新的服务么？ 这个是开源免费的么
  • x86 20天前
    引用 5楼
    https://gitee.com/wfchat/anti-fraud
  • 卡拉米 20天前
    引用 6楼

    这个访问不了啊 辛苦看一下 我之前看这个反诈的服务就是转发 提示诈骗 现在加了审核么 那请问这个有前端么 在哪里审核呢

  • HeavyRain 19天前
    引用 7楼
    这个服务很简单，就是当收到那个敏感词命中的回调后，在会话中发送反诈提示。没有别的功能。这个服务之前是私有的，现在放开了，你们可以看到了
返回