治理、安全与责任边界

技术上线不能替代责任分配。企业在扩大试点范围前，需要先把数据、知识、模型、工具和人员同时管起来。

建议建立的八项机制

机制	要回答的问题
场景清单	哪些任务允许用 AI，哪些明确禁止
数据分级	哪些数据可以进入提示词，哪些必须脱敏或隔离
权限矩阵	谁能发起任务、谁能查看数据、谁能批准写入
模型与工具清单	用了哪些模型、连接器和外部 API，各自由谁负责
调用日志	每次调用的输入摘要、输出、工具和结果是否可追溯
审批规则	哪些动作必须人工确认后才能执行
异常升级	出错、幻觉或越权时，谁在多少时间内响应
退出机制	某个场景或工具在什么时候会被停用

把外部内容当作不可信数据

外部网页、邮件、知识库文本和工具返回值，都可能包含错误或提示注入。

系统应当：

• 把外部内容视为不可信数据，而不是指令。
• 限制工具权限，只授予当前任务必需的能力。
• 在关键动作（写入系统、发送外部消息、付款、发布）前要求人工确认。

责任设计五问

1. 谁能发起任务：是所有人，还是特定岗位？
2. 谁能查看数据：结果和数据对谁可见？
3. 谁能批准写入：系统写入前由谁确认？
4. 谁处理异常：出错时第一响应人是谁？
5. 谁承担最终业务责任：出问题时，业务责任归属于谁？

这五个问题没有标准答案，但必须有明确答案。否则一旦出错，会出现"系统做的"和"人批的"互相推诿。

高风险场景的硬边界

以下类型的事项，AI 只应负责材料准备、检索、解释、建议和流程编排，决定必须由有权限的人做出：

录用与晋升 · 付款与报价 · 处方与诊疗 · 信贷审批 · 核保与拒赔 · 行政许可 · 对外承诺与法律意见

检查你的治理成熟度

• [ ] 有明确的场景清单，且员工知道边界在哪
• [ ] 数据分级已经做完，敏感数据不进入提示词
• [ ] 系统写入有权限、确认、日志和回滚
• [ ] 外部内容按不可信数据处理，关键动作有人工确认
• [ ] 异常有升级路径和响应时限
• [ ] 有停用某个场景或工具的条件和流程

更多细节见试点验收清单与企业实施路线。

---

内容来源

本节内容整理自《WorkBuddy 企业岗位应用全景白皮书》（曾俊｜北京硅基行动科技有限公司，2026 研究版），由皮皮未来在本地站点中拆解、结构化后呈现。涉及 WorkBuddy 当前版本能力、企业版配置、价格与部署方式时，请以官方最新资料为准。