生成式 AI 可以把一份职位描述改得流畅，可以概括候选人经历，也能根据面试记录生成摘要。于是一个诱人的推论出现了：既然模型能读写招聘文本，是否也能筛选、邀约甚至决定录用？
这里最容易混淆的是“生成一段合理文本”和“作出一个可靠决定”。招聘不是开放式写作比赛。它涉及个人机会、企业责任和不完整证据，错误代价远高于一封措辞普通的邮件。
能力增长没有消除可靠性问题
GPT-4 技术报告 展示了模型在多种专业和学术基准上的提升，同时明确指出模型仍可能产生事实错误、推理错误，并受提示方式影响。随附的 GPT-4 System Card 讨论了虚假信息、偏见、隐私和过度依赖等风险。
对招聘而言，这意味着模型可以理解更多非标准表达，却仍可能把“参与项目”概括成“主导项目”，把未注明的技能补进摘要，或因姓名、学校等无关线索改变评价。流畅输出会让这类错误比空字段更难被发现。
适合从低影响、可核验任务开始
生成式 AI 适合帮助人处理文本，而不是替人决定个人机会。较低风险任务包括：把已确认的职位要求改写成多个渠道文案；从简历中生成带原文引用的摘要草稿；将面试笔记整理成统一结构；为招聘人员生成搜索词扩展或面试问题候选。
这些任务有共同特征：输出可在发送或入库前审阅，错误容易撤销，模型没有最终决定权。系统仍应限制数据范围、屏蔽不必要个人信息，并明确标识内容为草稿。
风险明显更高的任务包括自动淘汰候选人、依据面试文本推断人格、生成未有证据的能力结论，以及在无人确认时发送录用或拒绝通知。即使模型平均表现不错，个体错误也可能造成不可逆影响。
提示词不是控制面
“请勿歧视”“只根据证据回答”是有用指令，却不能替代权限与工作流。模型仍可能忽略要求、受到输入内容诱导，或在证据不足时补全答案。
真正的控制应在模型外部：只提供任务必需字段；输出使用固定 Schema；每个结论必须返回证据位置；敏感属性在入口隔离；对外发送和高影响状态变更需要明确审批；所有调用保存模型、提示模板、数据版本和人工修改。
用风险管理框架组织上线过程
NIST AI RMF 1.0 于 2023 年 1 月发布，以 Govern、Map、Measure、Manage 四类功能组织 AI 风险管理。它不是招聘专用法规，却提供了比“先试用看看”更完整的实施视角。
治理阶段明确负责人、禁止场景和风险容忍度；映射阶段描述具体任务、受影响人群、数据流和失败后果；测量阶段测试事实支持、差异表现、隐私泄露、提示攻击和人工依赖；管理阶段设置回退、监控、申诉和停用条件。
关键是评估真实工作流，而不是只测模型问答。摘要准确率高，不代表招聘人员不会因措辞自信而忽略原文；邮件草稿合格，不代表系统可以自动发送。
为每类输出建立专门测试
摘要任务应检查每个陈述是否被原文支持、是否遗漏关键限制、是否错误提升责任程度。职位文案应检查必要条件是否被改写丢失、是否加入原文没有的要求。搜索词扩展要测召回提升与无关扩展。任何面向候选人的文本都要测个人信息泄露和不当内容。
测试集应覆盖不同岗位、语言、资历、简历格式和边界案例，并记录模型版本变化。还需要“拒答测试”：资料不足时，模型是否明确说不知道，而不是生成最可能的答案。
生成式 AI 会成为招聘工具的一部分，但适合它的角色首先是可监督的写作与理解助手。判断一项工作能否交给模型，应该看影响、证据、可逆性和责任，而不是看演示是否惊艳。