随着互联网、智能设备及各种新生业务的快速发展，互联网数据呈指数式增长，其中也充斥着诸如低俗内容、垃圾广告等各种不可控的风险因素。尤其是在即时通信场景，海量聊天、弹幕、评论等即时通信消息中更是潜藏着大量不安全、不适宜的内容，需要平台去识别处理。对于集成了即时通信系统的应用来说，稳定、可靠、高效的内容审核能力已经成为保障产品体验及业务安全的基石。因此，腾讯云即时通信IM进一步优化升级了自身内容审核能力，在服务端内容回调的基础上补齐客户端能力，为广大用户提供客户端本地文本检测即本地审核功能，为您的产品体验及业务安全保驾护航。
本地审核功能通过在客户端本地完成敏感词的拦截或者替换，实现过滤敏感词的效果，可用于拦截/替换在发送文本消息、修改昵称/备注/群公告等操作中产生的、不希望被发送的文本敏感词。本地审核词库由开发者在控制台配置，分为拦截词库和替换词库。IMSDK 在发送文本内容时，如果文本内容命中了拦截词库的敏感词，则该文本不会发送至服务端；如果命中了替换词库的敏感词，则会把文本中的敏感词替换成控制台配置的指定字符再发送至服务端。
本地审核功能的优势
1. 本地处理，高效便捷：本地审核没有网络延迟相关问题影响，检测操作发生在客户端本地，稳定可控。命中拦截词库的文本内容可在本地直接过滤，不再发送至服务端，通过客户端和服务端两道安全屏障，既能够提升客户内容审核精度，降低业务风险，又能够节约客户审核成本，增加检测效率。
2. 即刻生效，配置简单：客户开启即时通信IM 本地审核服务后，只需在控制台设置词库即可直接使用本地审核功能，无需额外开发，购买即生效。词库可随时根据业务实际需求在控制台进行更新，更新后IM SDK重新登录即可生效。
3. 场景丰富，策略灵活：本地审核支持单聊文本消息、单聊自定义消息、群聊文本消息、群聊自定义消息以及用户资料、关系链资料、群成员资料、群组资料等场景，全面覆盖各类文本内容。开发者可在IM控制台根据自身业务特点灵活配置拦截词库和替换词库，且检测支持关键词和正则表达式两种方式，高可自定义。本地审核功能还可配合云端的内容回调能力同时使用，实现更为精准、多维度的内容安全策略。在客服、电销等场景中，本地审核功能还可被用于规范员工话术、规避营销风险，例如屏蔽“最佳”、“行业第一”等存在风险的词汇。
效果演示
文本内容命中拦截词库中词条“ 拦截住 ”，则该文本不会发送至服务端：
文本内容命中替换词库中词条“ 想骂人 ”，则该文本中的敏感词会被替换成“ * ”后被发送至服务端：
接入指引
步骤1：在控制台进行词库配置
开通本地审核功能后，请您根据实际业务需求在IM控制台进行词库配置，分别添加拦截词词条和替换词词条。
关键词格式的词条，可以通过手动输入或者文件上传的方式添加。手动输入，单次最多添加50个词；文件上传仅支持 .txt 格式的文本，不限制单次添加个数，但添加词条总数应小于词库上限，否则添加失败。正则表达式格式的词条，仅支持手动输入。
替换词词库配置与拦截词词库配置操作相同，但需要额外填写要替换为的内容，默认是“ * ”，支持自定义。
词库可根据业务实际需要随时调整，支持搜索、逐个删除、批量删除拦截词词库或者替换词词库中的词条。
步骤2：配置审核场景
完成词库配置后，您还需对审核场景进行配置。默认为全部勾选，您可通过单击编辑在审核场景配置弹窗中进行选择。
步骤3：重新登录IM SDK
词库添加完成之后，IMSDK 需要重新登录才能更新词库。
如果您对本方案感兴趣，欢迎点击文末「阅读原文」前往腾讯云官网了解更多详细产品信息。您也可以扫码添加「音视频小姐姐」微信，直接与我们的产研团队沟通交流，咨询更多内容。
腾讯云音视频在音视频领域已有超过21年的技术积累，持续支持国内90%的音视频客户实现云上创新，独家具备 RT-ONE™ 全球网络，在此基础上，构建了业界最完整的 PaaS 产品家族，并通过腾讯云视立方 RT-Cube™ 提供All in One 的终端SDK，助力客户一键获取众多腾讯云音视频能力。腾讯云音视频为全真互联时代，提供坚实的数字化助力。
