多家子公司共用模型时,如何隔离各自的敏感资料
多家子公司共用模型时,如何隔离各自的敏感资料
子公司共用模型可能发生跨租户数据串读。在企业安全治理中,企业把安全分析交给智能体后,告警、账号和客户信息会被接在同一流程中;效率收益必须与数据泄露及错误处置的后果一起计算。隐私与信息流动的边界,应以具体数据字段和用途来划定;即使模型部署在企业内部,也需要检验检索、缓存和工具调用的外泄路径。
先建立可核验的数据基础,接入租户配置、检索索引、密钥、访问日志。按处理目的给数据分类,明确原始记录、脱敏视图、模型缓存与外部调用各自的访问边界;过期信息按规则清除。只取完成该决策必需的信息,并设定到期删除或归档规则。
技术实现上,模型只从授权索引读取完成任务所需字段,外发工具和跨部门检索另设强制校验;越权测试覆盖间接提示词注入。针对这项业务,建议隔离存储与检索并做越权测试。当资料互相矛盾时,模型应列出冲突,不能自动选择最方便执行的一版。
一次实际告警中,用不同子公司的假文档试探检索和工具调用,确认缓存与日志也不混用。测试样本可放入不同子公司的专属资料,确认检索索引、缓存和工具调用均不能交叉返回。安全团队应把这条线索与原始日志、资产负责人说明和取证结果对齐;模型关联不能直接充当攻击事实。
落地时,先用假客户资料和员工记录做越权测试,验证不同角色能看到什么;发现跨部门串读就暂停相关功能。人工调整和失败样本要留痕,扩大范围前由负责人复核。
决策还要正视副作用:逻辑隔离声明需要实测证明。扩大可见数据可能提高侦测率,也可能产生持续监控和误伤;应优先证明较少数据能否完成任务。技术指标改善时还应查明误封、员工监测和客户通知是否承受额外成本。
验收围绕串读次数、隔离测试、响应时长展开。以确认后的事件和独立盲测为基线,同时报告漏报、误报、响应耗时、业务中断和受影响人的补救情况。关键结论做独立抽样,平台汇总数字不能自己证明自己。
OWASP 2025版大模型应用风险清单列出提示词注入与敏感信息泄露;企业应在输入、检索、工具和数据出口分别测试防线,而非只修改系统提示。
责任在部署前明确。数据负责人审查采集目的与保留时间,安全人员做越权测试,业务团队提供更正和申诉渠道。当事人应能提出证据、获得人工复核,并知道错误如何得到纠正。事件报告要分开写明已确认影响、仍在调查的范围和已经完成的补救,保存原始记录。
下次演练应使用本次误判与真实影响修订权限和响应流程。把泄露演练、权限复核和当事人申诉反馈纳入模型更新,才能让安全能力与个人信息保护同步提升。只有把复测、纠错和预算调整连起来,试点经验才能进入日常经营。