“匹配度 87%”看似比“推荐”更精确，却没有回答招聘人员真正关心的问题：候选人的哪段经历满足了哪条要求？缺少的是硬性条件还是模型没有识别到证据？如果把某项技能更正，排名会不会变化？
一个没有单位、没有校准、没有证据的百分数，容易制造客观性的错觉。人岗匹配需要解释，不是为了让界面显得更智能，而是让使用者能够核验、纠错并承担决定责任。
三种“解释”回答不同问题
第一类是模型归因：哪些输入特征推动或压低了分数。第二类是证据解释：职位要求与简历原文如何对应。第三类是反事实解释：什么最小变化会改变结果。它们不能互相替代。
LIME 在单个样本附近扰动输入，用一个可解释模型近似黑盒的局部行为；SHAP 用博弈论中的 Shapley value 统一一类特征归因方法。二者能帮助模型团队诊断“模型依赖了什么”，但局部近似和特征贡献并不自动等于业务理由。
例如模型因为“5 年”提高分数，归因方法可以显示数字特征重要；业务解释还需说明这 5 年属于相关岗位而不是总工龄。若原始解析把实习与全职相加，归因是忠实的，结论仍然错误。
最先展示的应该是原文证据
招聘匹配的输入本身是可读文本，因此最实用的解释常不是复杂图表，而是要求—证据对齐：JD 写“主导数据治理”，简历中对应“负责数据标准、血缘与质量规则建设”；系统同时标明来源页、经历时间和映射的标准技能。
证据必须区分三种状态：明确满足、相关但不足、未找到证据。“未找到”不应被写成“候选人不具备”，因为简历没有穷尽个人能力。标准化推断也要与原文提及分开，避免把模型猜测包装成候选人陈述。
反事实解释适合暴露决策边界
Wachter 等人的反事实解释 关注“输入如何最小变化才能得到不同结果”，无需完整公开模型内部结构。推荐系统研究也开始使用反事实说明哪些项目属性变化会逆转推荐，如 CountER。
在人岗匹配中，合理的反事实可以是：“若将地点约束改为可远程，该候选人进入前 20”；或“如果确认其有两年以上生产环境经验，核心要求将由证据不足变为满足”。这能帮助招聘人员检查规则是否合理，也能形成面试确认题。
但反事实不能变成对候选人的机械建议，更不能涉及年龄、性别等不应使用的属性。“改变年龄即可提高排名”即使忠实揭示模型，也说明系统本身需要整改，而不是应该展示给用户。
忠实与易懂常常冲突
解释可能非常易懂，却不是模型真正使用的原因；也可能数学上忠实，却让招聘人员无法行动。应分别评估忠实度、稳定性、可理解性和业务有效性。
忠实度可通过删除高贡献证据后预测变化来测试；稳定性检查相似输入是否得到剧烈不同的解释；可理解性需要真实使用者测试，而不是由模型团队猜测；业务有效性则观察解释能否提高错误发现率、减少无依据判断，并帮助形成一致的复核记录。
还要防止解释泄露敏感信息或诱导“照着模型招人”。解释界面应明确它是辅助证据，允许查看原文、更正解析结果和调整岗位条件，高影响决定仍由明确责任人完成。
从可解释的数据模型开始
如果系统只保存整份简历向量和一个最终分数，事后很难补出可信解释。可解释性应从数据层设计：职位拆成独立要求，简历拆成带日期和位置的证据，每次标准化保留原值、词表版本和置信度，评分按要求维度保存中间结果。
最终输出不必是一串复杂参数。它可以很朴素：满足哪些要求、证据在哪里、哪些只是推断、哪些需要确认、哪些条件阻止了推荐。这样的解释既帮助招聘人员，也让候选人数据纠错和模型审计成为可能。
人岗匹配的目标不是证明模型为什么给出 87%，而是让人知道这个结果是否值得相信、哪里可能错、下一步该核实什么。