事实与证据
模型可能生成不存在的出处、数字或关系。
控制方式要求来源、逐项核验、材料不足时拒答
RISK, EVALUATION & GOVERNANCE
能力越强，越需要明确权限、评估与责任
治理不是阻止使用 AI，而是让适合的系统在适合的任务中，以可控方式创造价值，并在失败时能够被发现和接管。
SIX RISK SURFACES
从“会不会答错”扩展到完整风险面
隐私与数据
输入内容可能包含个人信息、商业秘密或受限资料。
控制方式数据分类、最小化输入、明确存储与训练政策
偏见与公平
训练数据与评价标准可能对特定群体不利。
控制方式分群体评估、人工复核、申诉与纠正机制
版权与归属
训练、输入和生成内容涉及不同权利与平台条款。
控制方式保留来源、核查许可、避免模仿可识别作品
安全与越权
连接工具后，错误输出可能变成真实动作。
控制方式最小权限、沙箱、动作确认、速率和金额限制
过度依赖
人可能因为输出流畅而停止独立判断。
控制方式显示不确定性、保留专业角色、定期无 AI 演练
RISK TIERS
不是所有 AI 使用都需要同样严格的控制
构思与个人辅助
内容可轻易撤回，不影响他人权利或重要决定。
基本核验 + 不输入敏感信息对外内容与业务建议
错误会影响组织声誉、客户判断或工作质量。
来源核验 + 审批 + 留痕医疗、法律、金融、录用与评价
可能影响安全、权利、机会或重大资源分配。
专业人员负责 + 严格验证 + 可申诉系统自动执行真实动作
涉及付款、删除、发布、权限变更或对外发送。
最小权限 + 人工确认 + 可回滚EVALUATION STACK
评估一个 AI 应用，至少看六组指标
正确、完整、格式与专业标准
稳定性、边界情况和拒答表现
注入、泄露、越权和有害输出
延迟、成本、人工复核与吞吐量
不同群体和语言环境下的差异
是否改善用户或业务最终目标
HUMAN IN THE LOOP
人工接管必须提前设计，而不是出错后再想
触发条件系统行为人的责任
资料不足或相互冲突说明缺口，停止下结论补充材料或重新界定任务
高风险判断只整理证据，不给最终决定由合格人员审查与签署
准备执行外部动作展示动作、对象和影响确认、修改或取消
异常、超时或成本过高安全停止并保留状态决定重试、降级或人工完成