AI 可接受使用政策是一份正式的组织文件,定义了员工被允许使用哪些 AI 工具、可以通过这些工具处理哪些数据,以及在工作环境中使用 AI 时禁止哪些行为。如果没有这样的政策,企业实际上是在没有规则的情况下运营 AI 部署,任由敏感数据、法律责任和声誉风险得不到管理。

过去两年中,大多数采用 AI 工具的组织都比其治理框架能够跟上的速度更快地这样做了。个别团队开始使用 AI 写作助手、代码生成工具、客户服务聊天机器人和数据分析平台,因为它们有效,而且因为没有人说他们不可以。结果是一个庞大的 AI 足迹,安全、法律和合规团队现在正试图回溯性地绘制其图谱。AI 可接受使用政策是将该足迹纳入有意治理的文件,为员工明确期望,为滥用创建问责制,并保护组织免受未受管理的 AI 采用带来的下游后果。本指南解释了一个强有力的政策应涵盖什么、如何构建一个真正会被遵循的政策,以及大多数组织在此过程中哪里出错。

为什么每个组织现在都需要一个 AI 可接受使用政策

AI 采用与 AI 治理之间的差距

几乎在每一个没有将治理作为有意优先事项的组织中,工作场所中 AI 工具的采用都已超过了政策的制定。这种模式在各行各业中是一致的。一些员工发现了一个有用的 AI 工具,生产力提高了,消息传开了,几个月之内,相当一部分员工就在使用 IT 从未评估过、法律从未审查过、安全从未评估过的 AI 系统。

这种差距的后果并非理论上的。员工将机密的客户数据粘贴到公共 AI 工具中以生成摘要。开发人员将专有源代码输入 AI 助手以获得调试帮助。HR 人员通过从未审查过偏见或就业法合规性的 AI 筛选工具运行候选人评估。每一种情况都代表了真实的风险,这些风险本可以通过一份精心构建的 AI 可接受使用政策来防止或显著降低。

政策不需要限制性就能有效。目标不是阻止 AI 的使用,而是将其引导到组织已经评估和批准的工具与做法上。理解什么被允许以及为什么的员工往往比那些收到与日常工作流程现实相冲突的全面禁令的员工更一致地遵守规则。

没有政策会发生什么

没有 AI 可接受使用政策的组织面临一系列特定的复合风险,这些风险往往只在事件已经发生之后才变得可见。

数据泄露是最直接的风险。当员工在消费级 AI 平台上使用个人账户处理工作任务时,这些数据会通过组织没有合同、无法看到、也无法恢复的基础设施传输。提交给未经授权的 AI 工具的客户列表、财务预测或收购备忘录草稿可能会被保留、记录或以组织无法控制甚至无法发现的方式被使用。

法律责任紧随其后。如果员工使用 AI 工具生成侵犯版权的内容,产生用于招聘决策的歧视性输出,或对竞争对手提出虚假声明,无论 AI 工具是否得到官方批准,组织都要承担该输出的责任。缺乏政策不构成法律辩护。它通常会使责任更加严重,因为它表明了治理的失败。

监管风险使两者复杂化。GDPR、HIPAA、SOC 2 框架和特定行业法规都要求组织管理个人和敏感数据的处理方式。不受控制地使用 AI 工具使这种管理在结构上不可能。

理解 AI security 治理如何与可接受使用政策设计相互作用,有助于组织建立基于实际风险态势的政策,而不是员工会忽视的通用合规语言。

一个强有力的 AI 可接受使用政策实际包含什么

每个政策都需要的核心组成部分

存在但不被阅读或遵循的政策与根本没有政策相比没有显著的优势。在起草 AI 可接受使用政策时所做的结构性决定决定了它将成为一份活的治理文件还是一份放在没有人访问的内部网上的 PDF。

范围和定义放在首位。该政策需要明确什么符合该政策意义上的 AI 工具的定义。这比看起来更重要。员工通常对 AI 有一个直观的理解,围绕聊天机器人和生成式工具展开,但排除了他们已经使用的工具中嵌入的 AI 驱动功能,例如电子邮件中的智能撰写、自动化日程助手或 AI 驱动的分析仪表板。政策范围需要在明确理由的情况下,选择包含或刻意排除这些嵌入功能。

接下来是批准和禁止的工具类别。与其试图单独列出每个批准的工具(这会立即过时),有效的政策定义了批准工具的类别及其可使用的条件,同时定义了不受工具影响的禁止使用类别。

数据分类规则是运营上最重要的元素之一。员工需要明确的指导,了解哪些组织数据类别可以通过哪些类别的 AI 工具处理。将数据敏感度级别映射到允许处理环境的分层框架,为员工提供了一个实用的决策规则,他们可以将其应用于新情况,而无需每次都查阅政策文件。

数据分类	示例	允许的 AI 处理
公开	营销文案、已发布的报告、一般信息	任何经批准的 AI 工具
内部	内部备忘录、一般业务通讯、员工目录	具有数据处理协议的经批准企业 AI 工具
机密	客户数据、财务预测、战略计划	仅限具有明确安全控制的本地或企业 AI
受限	个人健康信息、法律特权内容、受监管的财务数据	仅限具有特定合规认证的经批准工具
绝密	机密信息、收购目标、未发布的 IP	不允许使用任何外部 AI 工具

输出验证要求解决了 AI 工具使用的最重要实际方面之一,而许多政策完全跳过了这一点。AI 系统产生听起来合理的内容,但有时在事实上是错误的、有偏见的或在法律上有问题的。允许使用 AI 但未指明员工在采取行动之前负责验证输出的政策,创造了一种环境,在这种环境中,AI 错误会变成组织错误,中间没有任何问责检查点。

归属和披露规则明确员工何时必须披露其工作中的 AI 参与,无论是向内部利益相关者、外部客户还是在正式提交中。一些客户合同禁止 AI 生成的交付物。一些监管环境要求披露 AI 在决策中的参与。该政策需要明确处理这些情况,而不是让个别员工在信息不完整的情况下做出判断。

审查企业工具中的 AI features 如何处理数据处理和日志记录,有助于政策作者编写技术上准确的指导,而不是与已批准工具实际运作方式相冲突的政策语言。

定义可接受和不可接受的 AI 使用

可接受使用在实践中是什么样子

组织环境中可接受的 AI 使用通常涵盖 AI 协助任务但人类判断仍在决策回路中的生产力应用。起草通讯、总结文档、生成代码以供审查、研究主题以及创建内容初稿都是 AI 作为人类工作加速器而非人类判断替代品的使用。

定义可接受使用的关键特征是员工对输出仍然负责,处理的数据适合所使用的工具,工具本身在批准列表上,以及目的与合法的业务活动一致。

可接受使用还包括适当地将 AI 用于内部工具和自动化,前提是这些工具的开发和部署遵循组织更广泛的 AI 治理框架,而不是绕过它。

界限在哪里

无论行业或组织类型如何,禁止使用往往集中在一组一致的风险领域。大多数全面的 AI 可接受使用政策都涉及以下几类禁止行为。

通过未经授权的工具处理受限数据是最常见的禁令。员工不应将客户个人信息、机密财务数据、特权法律内容或受监管的健康信息粘贴到未经专门批准和签约用于该数据类别的 AI 工具中。

使用 AI 生成意图欺骗的内容在几乎每一个涉及该主题的政策中都被禁止。这包括为歪曲真实人物而创建的合成媒体、为冒充他人而设计的 AI 生成通讯,以及作为事实性组织产出呈现的捏造信息。

通过个人账户绕过 AI 治理是一种直接针对影子 IT 模式的行为禁令。因为组织账户需要批准而使用个人 ChatGPT 账户进行工作任务,无论底层工具在其他情况下是否可接受,都构成政策违规。

在没有人工审查的情况下在高风险环境中进行自动化决策,在认真对待监管风险的政策中是被禁止的。仅基于 AI 输出而没有记录的人工审查所做出的就业决定、信贷决定、医疗保健分诊和法律裁定,根据行业不同,会产生 GDPR 第 22 条风险、潜在的歧视责任以及专业伦理问题。

使用类别	可接受	不可接受
内容创作	由员工审查和编辑的 AI 辅助草稿	未经审查或归属而提交的 AI 生成内容
数据分析	分析匿名化或公开数据以获取洞察	通过未经授权的工具运行个人客户数据
代码生成	由开发人员审查和测试的 AI 建议代码	未经安全审查部署 AI 生成的代码
决策支持	由合格人员在采取行动前审查的 AI 建议	具有法律效力且无人工审查的自动化决策
客户工作	在合同要求时披露的 AI 协助	当客户合同禁止时的 AI 生成交付物
研究	具有来源验证的 AI 辅助研究	未经验证将 AI 输出作为主要来源引用

理解不同 AI 部署模型背后的 AI architecture,有助于政策作者编写技术上精确的规则,而不是宽泛到毫无意义或狭窄到产生变通方法的规则。

如何构建一个真正会被遵循的政策

大多数组织陷入的实施差距

编写政策很简单。让组织实际遵循它才是更困难的问题,这也是大多数 AI 治理工作停滞的地方。在入职期间通过电子邮件分发的、再也没有被引用过的冗长 PDF 文档形式的政策,基本上没有行为效果。

有效的政策将治理决策嵌入运营工作流程,而不是完全依赖员工记住并应用他们曾经读过一次的文件中的规则。整合到公司软件采购流程中的批准工具列表意味着员工在收购的时刻就遇到治理,而不是在他们已经开始使用某物之后。应用于文档和系统的数据分类标签会在分享时为员工提供提示,而不是要求他们独立记住分类规则。

培训比大多数组织投资的更重要。入职时完成的一小时强制性培训只涵盖一次政策。基于场景的培训呈现现实情况(例如客户要求您使用 AI 来生成涉及其数据的提案,或经理要求您使用 AI 来筛选简历),并要求员工识别符合政策的回应,这建立了政策旨在产生的判断力。

执行需要适度且一致。零星或选择性执行的政策很快就会失去其权威。政策推出后的最初几次执行行动确立了组织对政策被认真对待程度的理解。将早期违规视为带有明确纠正措施的学习机会,而不是忽略它们或反应过度,可以创造一种可持续的合规文化。

关于政策实施的结构良好的 AI guide,可以帮助组织从文件创建转向真正的行为变革,而不是将出版视为治理工作的终点。

需要知道的事项

关于 AI 可接受使用政策,组织经常在政策已经生效后才发现的一些重要细节:

政策需要从一开始就内置更新周期。AI 工具领域变化足够快,以至于今天编写的政策如果不积极维护,十二个月内就会有显著差距。建立一个计划好的审查周期(至少每年一次),以及针对主要新工具类别基于触发的审查流程,可以防止政策的过时速度超过其更新速度。

政策需要明确处理个人拥有的设备。许多员工使用个人电话和笔记本电脑进行工作任务。如果政策对个人设备的使用保持沉默,员工合理地认为它在那些情境下不适用于他们。

需要涵盖承包商和第三方员工。AI 可接受使用义务适用于任何访问组织数据或系统的人,而不仅仅是直接员工。通过合同要求将政策覆盖范围扩展到承包商、供应商和合作伙伴,可以防止出现一种治理差距,即最严格的规则适用于访问权限最少的人。

针对特定部门的附录通常比试图让单一政策适用于每个职能更有用。软件开发团队的可接受使用考虑因素与客户服务团队或财务部门的考虑因素有显著差异。核心原则可以是普遍的,而运营指导是针对职能的。

NIST AI 风险管理框架为构建超越可接受使用、扩展到风险评估、衡量和管理的 AI 治理计划的组织提供了有用的结构性参考。该框架的四个核心功能——治理、映射、衡量和管理——很好地映射到全面的 AI 政策计划的各个组成部分。

AI 的 30% 规则为思考自动化边界的政策作者提供了一个实用的启发式方法。AI 应该处理给定工作流程的大约 30%,人类判断和问责制覆盖剩余的 70%。这种框架有助于将关于人类监督的抽象政策原则转化为员工可以真正应用于日常工作的运营指导。

在发布之前进行法律审查不是可选的。AI 可接受使用政策创造了组织义务,并可能在纪律程序、监管调查或诉讼中被引用。让法律顾问在文件生效之前审查它,比在事件发生后向监管者解释政策差距要便宜得多。

构建适合您组织的 AI 可接受使用政策

最有效地处理 AI 治理的组织采用一致的方法。他们将 AI 可接受使用政策视为活的运营文件,而不是合规工件,他们投资于建立判断力而不仅仅是意识的培训,他们定期重新审视政策,而不是假设去年的版本仍然适合今年的 AI 环境。

精心构建的 AI 可接受使用政策不是阻碍生产性 AI 采用的障碍。它是使自信的 AI 采用成为可能的治理基础。当员工知道什么被允许及其原因,当数据处理规则清晰且嵌入运营时,当批准的工具集得到适当评估时,组织就可以在 AI 上快速发展,而不会积累未受管理的采用所产生的隐性风险。

构建政策的工作比管理没有政策的后果要便宜得多。对大多数组织来说,问题不在于 AI 可接受使用政策是否值得投入。而是缺少这样的政策多快会成为一个他们希望早点解决的问题。

常见问题

什么是 AI 使用政策?

AI 使用政策是一份组织文件,定义了员工被允许出于工作目的使用哪些 AI 工具、可以通过这些工具处理哪些数据,以及在专业环境中使用 AI 时禁止哪些行为。 它创建了治理框架,使组织能够受益于 AI 生产力提升,同时管理数据安全、法律责任和监管合规风险。

5 种常见的可接受使用政策是什么?

组织中最常见的五种可接受使用政策涵盖互联网和网络使用、软件和应用使用、数据处理和分类、通讯和电子邮件使用,以及设备和端点安全。 AI 可接受使用政策要么作为专门的第六个政策存在,要么集成到现有框架的软件和数据处理类别中,这取决于组织如何构建其治理文档。

什么是可接受的 AI 使用?

可接受的 AI 使用是指使用经批准的平台将 AI 工具应用于合法的业务任务、仅处理适当分类的数据、对 AI 输出保持人工审查和问责制,并在组织治理政策定义的范围内运作。 所有可接受使用场景的共同点是人类判断和问责制仍在循环中,而不是完全委托给 AI 系统。

什么是 NIST AI 使用政策?

NIST AI 风险管理框架是国家标准与技术研究院发布的自愿性指导文件,帮助组织识别、评估和管理与 AI 系统相关的风险,涵盖四项核心功能:治理、映射、衡量和管理。 虽然它本身不是使用政策,但它提供了许多组织用作构建自己的 AI 治理和可接受使用框架基础的结构性参考。

AI 的 30% 规则是什么?

AI 的 30% 规则描述了 AI 应自动化或协助约 30% 工作流程的原则,而人类则保留对需要判断、问责和情境推理的剩余 70% 的责任。 在可接受使用政策的背景下,这一原则有助于定义 AI 在重要业务决策中参与的适当界限,有意义地保持人类监督,而不是将 AI 输出视为最终答案。