企业使用AI需要关注哪些合规风险？

访问量 0 发布于 最近 更新于 最近 25~32 分钟 阅读

本文仅供学习和信息参考，不构成法律、合规或安全处置建议。文中的公司、客户和业务均为便于说明而虚构；涉及具体规则时请以现行文本为准，并在需要时咨询法务、合规或安全团队。

从一个客服自动回复讲起

一家公司的客服团队想省点力气，先拿公开的AI工具试了试：把常见问题贴进去，让它草拟回复，人工改两句再发出去。效果不错，团队很快有了更大的想法——能不能把历史工单喂给它，让回复更贴合本公司的情况；能不能连上客户资料，让它认得出老客户；再往后，能不能干脆让它把回复直接发出去，省掉人工那一步。

每往真实业务里迈一步，需要操心的东西就多一样。

一开始它只是个打字工具，你担心的顶多是它答得对不对；

当历史工单、客户资料进来时，问题变成了"这些数据能不能给它、给了会去哪"；

当它开始替公司对外发声、甚至自动执行时，问题又变成了"这内容能不能直接用、出了事谁负责"。

所以企业用AI的合规风险，很少是上线前拿出一张清单一次性对完的；它是随着项目一步步推进、在不同节点上陆续冒出来的。与其到最后临门一脚去找一张"万能清单"，不如从一开始就顺着项目的走向，在每个节点问清楚该问的问题。

先搞清楚AI在业务里扮演什么角色

在讨论任何一条具体规则之前，有个前提必须先定下来：在这个具体场景里，你的公司到底是什么身份。同样一套AI能力，身份不同，适用的规则和要担的责任差别很大。

如果只是员工内部用AI辅助写写材料、查查资料，不对外提供服务，这更接近一个普通使用者——但内部使用不等于没有义务，个人信息保护、数据安全、商业秘密这些底线一个都不会少。

如果公司把某个模型能力封装进自己的产品、部署给自己的用户使用，就更接近一个部署者，要为怎么用、给谁用、用出什么后果负责。

如果这套服务开始向境内公众提供生成式AI功能，公司的身份就可能变成服务提供者，需要面对的专项规则会明显增多。

而如果公司自己训练或提供基础模型给别人用，那是模型提供者，又是另一层责任。

除了这条"内部—部署—对公众—做模型"的线，还要看两件事：这个用例会不会影响到个人的权益（比如筛选、评分、定价），以及它是否进入了特定行业（比如金融、医疗、招聘）——这两点会显著抬高监督的强度。

判断顺序也不是平铺开来一次看完的，而是随项目往前走逐段展开的。下面这张图，把从用例、角色一路到上线运营的检查节点串成了一条路径。

图里要读出两层意思。

一是这些检查有先后：先定清楚用例和角色，后面数据、供应商、输出、运营的判断才有依据，顺序反了很容易白做。

二是底部那行字——一项检查通过，只说明这个用例在当前条件下可以继续，不代表永久合规；一旦业务、模型、法规或供应商发生变化，就要顺着那条虚线回到起点重新过一遍。

这张图是一条通用的检查路径，帮团队理清"先问什么、再问什么"，它不是某个行业的义务全表，具体到你的场景，还得结合现行规则和专业意见来填。

数据进模型前，先问能不能、该不该、会到哪里

角色定清楚，项目就走到了第一个真正吃数据的节点：要把历史工单、客户资料交给AI。数据一旦动起来，几部基础法律就同时在场了。

《中华人民共和国个人信息保护法》（简称个人信息保护法，2021年11月1日施行）关心的是：

这里面有没有个人信息、是不是身份证号或健康信息这类敏感个人信息、处理它的目的是否正当、是不是完成任务必要的最小范围、以及个人的相关权利有没有保障。要提醒一句，很多人把"取得同意"当成唯一的合法依据，但同意只是其中一种基础，具体到某项处理该以什么为依据，需要结合场景专业判断，不能一概而论。

《中华人民共和国数据安全法》（简称数据安全法，2021年9月1日施行）要求对数据分类分级——注意，这不等于公司所有数据都是"重要数据"，重要数据有其特定含义，别自己吓自己、也别随意拔高。

《网络数据安全管理条例》（2025年1月1日施行）进一步细化了网络数据处理者的安全义务和事件处置要求。

这些之上，还有《中华人民共和国网络安全法》（简称网络安全法，2025年修改、2026年1月1日施行现行版本）作为基础，其修订后对人工智能相关的发展、伦理与安全监管也有了新的表述。

所以在数据进模型之前，团队该沿着一张客户工单走一遍：它从哪上传、经过哪些处理、日志里会留下什么、备份到哪、供应商会不会拿去训练。尤其要盯住最后一环——如果模型或接口在境外，数据就可能触发出境的判断。是否需要做安全评估、签标准合同、过认证，还是适用豁免，取决于数据的类型、涉及的主体和数量等具体条件，《促进和规范数据跨境流动规定》（2024年3月22日施行）和主管部门后续的政策问答给了判断的框架。但这里的数量门槛和口径会调整，本文不替你下结论，真要跨境，必须在推进当天打开现行文本核对，并请数据合规的同事一起看。

买到一个接口，也接进了一条供应链

数据的去向，很大程度上不由公司单方面决定，而是取决于选了哪家供应商、签了什么条款。采购了一种AI服务接口，接进来的不只是一个功能，还有它背后的一整条供应链。

所以评估供应商时，功能好不好用只是表层。更该问清楚的是：模型和接口部署在什么地域、有没有分包给第三方、你的数据它保留多久、会不会用于模型训练、内部谁能访问、出了安全事件多久通知你、能不能提供审计所需的证据、版本变更怎么告知、以及最容易被忽略的——合作终止后，你的数据能不能被彻底删除、怎么导出退出。这些不是靠一张采购评分表打勾就能定的，而是要沿着一次真实的询价和评审，一项项问出来、写进合同、留下记录。

要强调的是，供应商在合同里作了承诺，不等于公司自己的义务就转移出去了。数据是不是合法拿来的、能不能给到这家供应商、对外用起来合不合规，责任主体仍然是公司自己。

这里可以借供应链的思路来理解：你对最终产品负责，就得对上游用了什么料心里有数，不能因为供应商说"没问题"就不再过问——但这只是理解责任分布的一个角度，具体每一项义务落在谁头上，还是要回到现行规则和合同条款去看。

模型能生成，不等于企业能直接采用

供应商和数据这两关过了，项目走到输出环节。一个常见的误区是：输入端合规了，输出就能放心用了。

其实模型生成得出来，和公司能不能直接拿去用，是两回事。

首先是事实。模型会生成看起来很专业、实则未必准确的内容，凡是要对外发布或用于决策的，都得有人核过再用。

其次是对个人权益的影响。如果这套AI被用来做筛选、评分这类高影响的判断，就要格外当心歧视性结果，并且保留人工审核和可追溯的记录——影响越大，复核越要重。

再就是版权与素材。用来生成的素材有没有授权、生成结果会不会和已有作品构成实质性相似，都要分别判断。关于AI生成内容能不能受著作权保护，目前只能结合个案看：有的案子里，简单的提示词和有限的投入被认为没达到作品要求的独创性；也有案子强调要具体审查人的独创性智力投入。它们并存，恰恰说明这类问题没有统一答案，得看具体事实，《中华人民共和国著作权法》（简称著作权法）是判断的法律基础，但结论不能脱离个案。

还有一项容易漏掉的是生成内容的标识。当AI生成或合成的内容要公开传播时，《人工智能生成合成内容标识办法》（简称标识办法，2025年9月1日施行）以及配套的强制性国家标准 GB 45438-2025，对相关服务提供者、内容传播平台和用户，在适用场景下规定了不同的显式或隐式标识责任。要注意两点：一是标识办法是部门规章、GB 45438-2025是强制性国家标准，两者层级不同、表述要分开；二是这不意味着"所有沾了AI的内容都统一打同一种水印"，具体加不加、加什么，要按主体、场景和内容类型来定。

从内部试用变成公众服务，规则会再变一次

回到文章开头的这个示例。只要这套客服助手还在内部、辅助人工使用，前面这些主要是数据、供应商和输出的通用判断。可一旦它对外了——比如把知识问答助手直接开放给公众用——公司的身份就从"使用者/部署者"变成了"向公众提供服务"，一批专项规则的适用前提这时才被触发。

先看适用范围。

《生成式人工智能服务管理暂行办法》（简称生成式AI办法，2023年8月15日施行）适用于向境内公众提供生成式AI服务；它第二条也讲清楚了，未向境内公众提供服务的组织，其内部研发或应用不适用本办法。这条边界很关键：它意味着内部用和对公众提供，落在完全不同的规则里，不能混着说。当身份转为面向公众的服务，接下来才需要判断是否涉及备案或应用登记、是否要做安全评估——比如具有舆论属性或社会动员能力的算法推荐服务，《互联网信息服务算法推荐管理规定》（2022年3月1日施行）有相应要求；涉及深度合成的，《互联网信息服务深度合成管理规定》（2023年1月10日施行）对服务提供者、技术支持者和使用者规定了不同义务。这里必须避免"一接AI就要备案"这种想当然的概括——是否触发，取决于服务的属性和场景，得逐个判断。

还有一类要单独看：如果公司做的是向境内公众提供的、持续性拟人化情感互动服务，《人工智能拟人化互动服务管理暂行办法》（简称拟人化互动服务办法，2026年7月15日施行）会进入视野。但按其适用范围，智能客服、知识问答这类非持续情感互动，通常不在它的适用范围内——所以本文这家公司的客服场景，大概率不触发这部办法，但把它拎出来，是为了说明"看清自己到底做的是哪种服务"有多重要。

上线后的问题，要有人发现、解释和叫停

就算上线前每一关都过了，合规也不是签一次字就结束的事。

项目转入运营，重点从"能不能上"变成"上了以后，出问题时有没有人能发现、能解释、能叫停"。

这要求几件事落到具体的人和流程上：

  • 有明确的责任人，知道这套AI谁在管；

  • 按影响做风险分级，高影响的用例配更强的监控和更频繁的复核；

  • 上线前该测的对抗场景要测过；

  • 运行中要能监控异常，比如输出频繁出错、某类投诉集中出现；

  • 面向个人的高影响结果，要留人工接管和申诉的口子，让人能质疑、能纠正；

  • 有事件响应的预案，知道怎么处置、按要求怎么上报；

  • 模型换版本、供应商改条款、业务扩到新场景，都要触发一次重新复核；

  • 必要时，还得能果断停用或退出。

把这套持续治理搭起来，AI项目才算是被当成一项要长期运营的业务在管，而不是一次买完就不管的采购。

总结

简单总结下，给大家留一个更实用的东西，而不是一句口号式的总结，简单来说就是一张"用例卡"。每上一个AI用例，就在卡上记清楚八件事：

  • 目的（要解决什么）

  • 角色（内部、部署还是对公众）

  • 数据（用到什么、敏不敏感、跨不跨境）

  • 供应商（谁在处理、条款怎么定）

  • 输出（怎么用、谁来核）

  • 影响（会不会影响个人权益）

  • 人类复核（哪一步必须有人把关）

  • 证据（留了什么记录）。

这张卡填下来，这个用例当前的风险轮廓就清楚了。

要清醒的是，这张卡和本文讲的顺序，是一条帮你不漏项的思考路径，不能替代针对具体场景的专业判断。

本文给的是中国现行规则下的一条通用基线：真正落地时，个人信息、数据出境、版权、标识、备案和安全评估的适用前提，都要回到现行文本去确认。如果业务涉及跨境，欧盟等目标市场按主体和风险设置的义务另有一套，且仍处在实施与调整的关键阶段，必须在推进当天就目标市场的规则单独复核，不能套用一张会很快过时的全球对照表。碰到拿不准的地方——尤其是涉及个人权益、跨境和特定行业的——请把法务、合规和安全的同事拉进来一起判断。

接下来可以顺着具体风险深入：内容标识怎么落地、AI与版权、数据跨境、生成式AI备案与应用登记、拟人化AI新规解读，都是这条路径上值得单独展开的下一站。

资料核验日期：2026-07-22。文中法规的状态、适用范围、数量门槛和司法个案进展可能变化；跨境相关规则尤其如此。正式发布当天必须重新核验相关一手来源，涉及跨境业务时另就目标市场规则复核。

参考资源（中国现行规则，节选）

主要参考来源（中国现行规则，节选）

跨境业务补充核验

法规和标准
入门 原创 产品经理 开发者
分享协议:  CC BY 4.0

©2026 AI全书. 保留部分权利

    备案号: 浙ICP备06043869号-8