免费资源
AI 工具安全与治理清单：权限、数据、供应商和账号生命周期
AI 工具越多，团队越容易失去对数据、权限和账号的控制。本文给出一份适合小团队的 AI 工具治理清单，覆盖工具盘点、数据分级、供应商审查、权限管理和离职回收。
AI 工具治理不是把所有工具都禁掉，也不是发一份‘禁止上传机密资料’的通知就结束。真正的问题是：团队到底用了哪些 AI 工具，它们接触了什么数据，谁有权限，供应商如何处理数据，以及员工离开后账号和资料能不能收回。
这篇文章面向创业团队、SaaS 运营者、IT 管理者和内容团队负责人。你可以把它当成一次季度检查表，也可以在采购新工具前逐项提问。
一、先建立 AI 工具清单
不要从账单开始，因为很多工具是员工自行注册的。先从浏览器扩展、团队聊天、文档协作、客服、设计、写作、代码和自动化平台反向盘点。每个工具至少记录：
- 工具名称、用途和实际使用团队；
- 注册邮箱、登录方式和管理员；
- 是否连接了云盘、CRM、客服系统或代码仓库；
- 可以读取、写入或导出的数据类型；
- 订阅费用、续费日期和合同归属；
- 停用、导出和删除账号的方式。
盘点的目标不是得到一张漂亮的表，而是找到‘没人负责但一直在用’的工具。没有负责人、没有登录回收方式、又连接了业务数据的工具，应先被列为高风险。
二、用数据分级决定能不能输入
给团队一张简单的输入规则，比泛泛讲安全更容易执行。可以先分四级：
| 数据级别 | 示例 | 默认规则 |
|---|---|---|
| 公开 | 官网文案、公开帮助文档 | 可使用已批准工具 |
| 内部 | 未发布的选题、流程、内部会议记录 | 仅使用团队批准的工作区 |
| 敏感 | 客户邮箱、合同、销售线索、财务信息 | 脱敏后使用，限制导出 |
| 高风险 | 密码、Token、身份证件、付款信息、未公开密钥 | 禁止输入公共 AI 工具 |
规则要写清楚‘哪些字段必须删除’，而不是只写‘注意隐私’。例如客户邮箱要替换成编号，代码中的密钥要先撤销再提交，合同中的姓名和金额要使用占位符。
NIST 的 AI 风险管理框架强调要根据组织目标和风险承受能力管理 AI 风险；它的生成式 AI Profile 可以作为进一步建立责任、测量和治理流程的参考：NIST AI Risk Management Framework。
三、供应商评估要问什么
供应商问卷不应只问‘是否安全’。至少追问以下问题：
- 输入和输出是否用于训练或产品改进，默认设置是什么？
- 数据存储在哪里，保留多久，删除后多久生效？
- 是否支持单点登录、强制多因素认证和角色权限？
- 管理员能否查看登录、导出、连接器和敏感操作日志？
- 是否可以限制第三方插件、浏览器扩展和外部共享？
- 发生数据泄露、供应商变更或服务停止时，通知和导出流程是什么？
- 合同结束后，工作区、备份和子处理者的数据如何处理？
无法回答的问题不一定说明供应商不合格，但应该作为采购风险记录下来。不要把营销页面上的‘企业级’当成审查结果。
四、权限设计：按任务给最小权限
AI 工具的权限可以拆成三层：
- 只读：搜索文档、读取日历、查找订单状态；
- 低风险写入：生成草稿、添加标签、创建待审核任务；
- 高风险动作：发送外部邮件、修改客户资料、退款、删除记录、部署代码。
默认从只读开始。低风险写入要有审批或草稿状态，高风险动作必须要求人工确认、身份校验和可回滚记录。尤其要避免‘为了方便，把整个云盘或 CRM 全部授权给 Agent’。
OWASP 的 LLM 应用风险清单把提示注入、不安全输出处理、敏感信息泄露和过度代理等列为重要风险，适合用来补充团队的威胁模型：OWASP Top 10 for LLM Applications。
五、账号生命周期不能只管入职
至少为每个工具定义四个节点：申请、批准、变更和退出。
- 申请：记录用途、数据类型和负责人；
- 批准：确认供应商、套餐、权限和预算；
- 变更：连接新数据源或增加权限时重新评估；
- 退出：导出需要保留的资料，撤销 Token，移交管理员，删除个人账号。
离职回收尤其容易漏掉 API 密钥、自动化 Webhook、个人邮箱注册的订阅和共享链接。把它们纳入离职清单，比事后追查更便宜。
六、每季度做一次小型审计
不需要一开始就建立复杂的 GRC 系统。每季度抽查：工具是否仍在使用、管理员是否仍在团队、权限是否超过工作需要、连接器是否仍然必要、合同和账单是否匹配、敏感数据是否进入错误的工作区。
审计结果分成三类：保留、整改、停用。整改必须有负责人和截止时间，否则审计只会变成存档。
一页式治理清单
如果你只想先做最小版本，按下面顺序执行：
- 列出所有正在使用的 AI 工具；
- 给每个工具指定业务负责人和管理员；
- 标注可接触的数据级别；
- 撤销不必要的共享链接、连接器和 Token；
- 为高风险动作增加人工审批；
- 记录供应商的数据保留和删除承诺；
- 把离职回收加入 IT 清单；
- 三个月后重新检查。
FAQ
小团队没有专职安全人员，也需要做 AI 治理吗？
需要，但可以从工具清单、数据分级和账号回收开始。治理的第一目标是知道风险在哪里，而不是一次性建立复杂制度。
可以允许员工使用个人 AI 账号吗？
应根据数据级别决定。公开资料可以使用，但内部和敏感资料应进入团队批准的工作区，并保留管理员、付款和退出控制。
AI 治理会不会拖慢团队效率？
好的治理会把高风险动作加上审批，把低风险任务保持顺畅。最有效的做法不是所有事情都审批，而是按数据和动作风险分层。
结语
AI 工具治理的核心不是追求零风险，而是让每个工具、每类数据和每个高风险动作都有负责人、有边界、有记录、能退出。先完成盘点和分级，再逐步补供应商审查与自动化审计，通常比等到发生泄露后再补制度更可行。