关键词库-怎样给内容审核提供依据
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /fe06e34b44b1.html
📄
关键词库-怎样给内容审核提供依据
给内容审核提供依据，核心是把关键词库从“词表”变成“可执行的判断规则”：每个词或词组都要带上用途、匹配方式、处理动作和复核人。审核时不再凭感觉判断一篇内容该不该发、该不该改，而是对照关键词库逐项打勾，得到可追溯的结论。
先明确关键词库要支撑哪几类审核动作
同一个词库如果既想管敏感词，又想管选题覆盖，还想管广告合规，最后往往谁都管不好。先给每个词条分配一个明确用途，审核动作才不会互相打架。常见用途可以分成四类。
- 禁止类：出现即拦截或必须删除，例如违法违规表述。
- 警示类：出现后需要人工复核，例如绝对化用语、医疗功效暗示。
- 覆盖类：用于判断内容是否讲到某个主题，缺失时不拦截，只提示补充。
- 关联类：用于推荐或内链，出现时不改变审核结论，只影响后续运营动作。
如果词条没有标注用途，审核员看到“投资”这个词就无法判断：它是禁止、警示，还是仅仅表示这篇内容属于财经选题。用途缺失是词库无法作为审核依据的第一大原因。
逐项检查关键词库能否直接支撑审核
下面这份清单可以直接拿去核对现有词库。每一项都写清楚查什么、怎么查、结果说明什么。
1. 查词条是否带有匹配方式
怎么查：随机抽取20个词条，看每个词条旁边是否标明“完全匹配”“包含匹配”还是“正则匹配”。 结果说明：如果只写词、不写匹配方式，审核员无法判断“苹果”是否会误伤“苹果手机”或“苹果醋”。缺少匹配方式的词条，不能作为自动拦截依据，只能作为人工提示。
2. 查是否区分大小写与全半角
怎么查：用同一词条的英文大小写变体、全角半角变体各测一次，看系统是否能命中同一条规则。 结果说明：如果命中的结果不一致，说明词库没有做归一化处理。审核依据应当明确：英文默认不区分大小写，数字和标点统一转半角后再比对。否则同一篇内容换一种写法就能绕过审核。
3. 查每个词条是否有处理动作
怎么查：查看词条字段中是否存在“拦截”“转人工”“仅提示”“忽略”等动作值。 结果说明：没有动作值的词条只是参考信息，不是审核依据。审核员需要知道命中之后做什么，而不是只知道“这个词出现了”。
4. 查是否有例外词和豁免规则
怎么查：找出容易误伤的词，检查词库中是否记录了允许出现的上下文或白名单。 结果说明：例如“杀”在“杀菌”中是正常表述，在“杀价”中可能涉及不当竞争。如果词库没有例外规则，审核结果会大量误报，最终审核员会放弃使用词库。
5. 查词条来源和更新记录
怎么查：任选5个词条，追溯它来自哪条法规、哪次投诉、哪份内部规范，以及最近一次修改时间。 结果说明：来源清晰的词条，审核争议时可以拿出来解释；来源不明的词条，只能作为临时提示，不能作为处罚或下架的依据。更新记录缺失时，无法判断某条规则是否仍然适用。
6. 查是否与页面实际内容范围匹配
怎么查：从待审核页面中抽取标题、正文、图片说明、评论区、推荐位五个位置，分别跑一遍词库，看命中结果是否被区分记录。 结果说明：如果所有位置混在一起命中，审核员无法判断问题出在正文还是用户评论。不同位置的处理动作可能不同，词库需要支持按位置分别输出结果。
把词库变成审核依据的最小可用结构
不需要复杂系统，一张表就能起步。每个词条至少包含以下字段：词条、用途、匹配方式、处理动作、例外说明、来源、更新日期、复核人。审核时按页面位置分别跑一遍，输出命中清单，再对照处理动作执行。
假设某页面正文出现“最佳”一词，词库中该词用途为警示类，匹配方式为包含匹配，处理动作为转人工，例外说明为“引用第三方原文并标注来源时可放行”。审核员看到命中结果后，先确认是否为引用，再决定放行或修改。这个判断过程就是词库提供的依据。假设示例仅用于说明字段如何配合，不代表任何真实项目结论。
审核结果如何反哺词库
每次人工复核后，把“误报”“漏报”“新增变体”三类结果记回词库。误报多的词条，补充例外说明或调整匹配方式；漏报的词条，补充同义写法或变体；新增变体来自实际页面，比凭空罗列更贴近审核需要。这样词库会逐步从参考表变成真正可用的审核依据。
下一步可以选一个已有页面，按上面的六项清单逐条核对现有词库，先补齐“匹配方式”和“处理动作”两个字段，再跑一遍该页面，记录命中结果与人工判断是否一致。
