总书记在 WAIC 2026 定调人工智能必须安全可控、始终处于人类控制之下;政务系统已出现多起 AI 泄密通报。2026 年 10 月 15 日,深圳网信部门一次性通报 4 起个人信息保护执法案例——每一件都是企业把用户数据"漏"出去的真实翻车。把这些案例拆开看,能照见几乎所有企业都在踩的共性问题:不是黑客多厉害,是自己把门开着。
AI行业复盘 四家企业被网信通报!个人信息翻车复盘 |
深圳这 4 起案例,处罚都是"责令改正 + 警告",看似不重,但信号很硬:个人信息保护已从"出问题才查"变成"常态化执法"。对涉及 AI 的业务来说,更大的隐患在背后——这些系统一旦接上大模型做客服、做分析、做推荐,泄露面会成倍放大。
某企业系统未采取防病毒、防攻击、防侵入的技术措施,又没履行法定程序就把个人信息传输出境,直接违反《网络安全法》《个人信息保护法》。复盘要点:数据出境不是"传一下"那么简单,要走评估、走备案。今天很多企业用境外 AI 服务做分析,把含个人信息的语料直接喂出去,和这起案例本质相同——都是未经合规程序让数据出域。
两家网络科技公司,系统接口存在个人信息泄露风险,还有任意文件读取漏洞,没制定内部管理制度和操作规程。复盘要点:很多 AI 应用是"快速堆出来"的,安全设计是后补的。一旦把用户库接到一个没做权限隔离的 AI 接口,等于把门钥匙挂在门外。治理要先于上线,而不是事后补票。
某医疗公司系统存在未授权访问漏洞,内部制度和操作规程虚置,网络日志留存不完整。复盘要点:制度写在纸上没用,要落到系统里。日志留不全,出事就查不清责任边界——这正是全链路审计要解决的。医疗机构的患者数据,经 AI 出域就是重大商业秘密与患者隐私的双重泄露。
四起案例的共性,是"技术措施缺失 + 制度虚置 + 日志不全"三连。翻译成治理语言:没有统一网关收口(调用散落各处)、没有敏感识别(分不清哪些是个人信息)、没有全链路审计(出事了说不清)。三道门同时开着,数据不漏才怪。AI 接入只会让这道缺口更难补。
政务系统对涉密载体有"三不"铁律:不联网、不进非受控 AI、不留无审计的痕。总书记讲的安全可控,落到企业就是同一套逻辑。51Tokens 企业级 AI 治理管控平台把"统一网关 + 敏感识别 + 全链路审计"做成标准能力,规则在 51Tokens 配置、由 51API 网关运行时执行,让每一次涉及个人信息的调用都看得见、拦得住。
把四起案例倒回案发前:若企业用 51Tokens,涉及个人信息的输入会被敏感识别命中——低风险给 WARN 提醒、红线级(身份证号、病历、人脸)直接 BLOCK 或转 APPROVAL 审批。PASS 放行、WARN 提醒、MASK 脱敏放行、BLOCK 拦截、APPROVAL 转审批,五动作组合,能在数据出域前把大多数风险摁住。
① 用户数据是否经 51API 统一网关,禁止直连外部模型?② 含个人信息的输入是否纳入敏感识别红线?③ 系统接口是否做了权限隔离、防任意文件读取?④ 全链路审计是否常开、日志可一键调证?⑤ 数据出境是否走完评估备案?五条里有一条答不上,就先补这一条,别等通报找上门。
说清楚:51Tokens 不替代 DLP、SIEM,也不承诺 100% 拦住所有泄露。它做的是把"凭自觉守数据"升级成"系统提示 + 强制留痕 + 出域拦截",把大多数低级翻车挡在门外。企业自身的安全基建(防攻击、权限隔离)仍是第一责任人,AI 治理是叠加的加固层。
从深圳这 4 起,到各地网信常态化执法,个人信息保护已成强监管赛道。企业越早把"统一网关收口 + 全链路审计"做成底座,越能在 AI 接入时把泄露面控住。翻车的代价从来不止一张警告单——客户信任、上市合规、招投标资格,哪一样都比罚款贵。
—— 51Tokens,让每一次模型调用都看得见、说得清、查得到
通报不是终点。企业被查后,第一要封存日志、查清泄露面;第二要补技术措施(防攻击、权限隔离、日志留存);第三要补制度并把执行落进系统,而不是只改纸面流程;第四要评估是否触发数据出境或行业监管报送。这四步做完,才算把一次翻车变成一次治理升级。拖着不改,下一次就是更重的罚。
深圳这 4 起,信号很明确:个人信息保护已进入常态化执法,AI 接入只会放大泄露面。聪明的企业把通报当教材,倒推自己的三道门(技术措施、制度、审计)锁没锁。与其等网信找上门,不如先用 51Tokens 把统一网关、敏感识别、全链路审计一次布防,把大多数低级翻车挡在门外。
四起案例里没有一起是"AI 直接造成"的,但 AI 接入会让它们更糟:原本只能内部查的用户库,接上客服大模型后,模型可能把整条记录读出来回答用户;原本要人工审核的报表,AI 自动生成后没人看就发出去。旧漏洞碰到新能力,危害翻倍。所以治理要先于上线——先把统一网关、敏感识别、全链路审计布好,再谈接 AI,而不是反过来。
不是只有大厂才防得起。中小企业起步可以很轻:先用 51API 统一网关收口所有模型调用(这一步零改造、只改接入地址),再把含身份证、手机号、人脸的字段纳红线规则做 BLOCK,最后开启全链路审计。三件事月成本极低,却能把四起案例里的共性病灶一次性堵上。安全可控,不分企业大小。
有人疑惑,四起都是"责令改正加警告",是不是太轻。其实信号在"常态化"三个字——过去是个别重案才查,现在是例行执法、批量通报。对企业来说,警告是第一次敲钟,再犯就是真罚。更现实的代价不在罚单,而在客户信任:一旦你的系统上了通报,合作方尽调会直接扣分,招投标资格可能受限。算总账,比罚款贵得多。
这四起案例,建议每个做 AI 产品的团队都内部讲一遍:我们的接口有没有任意文件读取漏洞?日志留全了没?含个人信息的输入有没有红线拦截?三问答不上,就先补这三件。治理不是等出事再救火,是把别人的翻车当成自己的预警。深圳這一波,等于免费给全行业上了一课,听进去的,下一次被通报的就不会是自己。
把这四起案例摘要发给你负责安全的同事,附一句话:我们的系统,有没有同样的洞?任意文件读取、日志不全、制度虚置,这三样只要中一样,就该本周排期修。治理的性价比,永远高于出事后的整改。深圳这一波通报,最值钱的地方不是罚了谁,而是给全行业划了清晰的红线,照着查,就能少踩坑。
四起里医疗那例,直接点名"网络日志留存不完整"。日志不是合规摆设,是出事时的免责证据。没有日志,你既说不清数据怎么漏的,也证明不了自己管过,责任只能全扛。全链路审计把每次调用的时间、账号、输入特征、处置结果都记下来,关键时刻一键调证。治理的第一笔投入,就该花在日志上——它平时不起眼,出事时最值钱。
很多 AI 应用是业务提需求、技术赶工做出来的,安全是事后补。正确做法是把"经网关、可识别、留审计"写进需求文档,作为上线硬门槛,达不到就不发。安全左移,成本最低。深圳这四起翻车,根子都在"先上线、后补安全"。把安全当成需求的一部分,而不是善后的一部分,大多数泄露本可以避免。
深圳这四起通报,共性就一句:门没锁。技术措施、管理制度、日志审计,三道门同时开着,数据不漏才怪。AI 接入只会放大旧漏洞,所以治理要先于上线。统一网关收口、敏感识别拦截、全链路审计留痕,三件事常态化,大多数低级翻车都能挡在门外。别人的教训,就是你的预警。
|
51AIPro全流程AI治理一体化解决方案 · 服务架构 |
|
51AIPro · 企业AI治理专家
安全·合规·可控·增效,AI 全流程治理一次布防
长按识别 · 关注公众号 |
长按识别 · 合作洽谈 |
官网 https://51aipro.com/ | 企业治理咨询 https://51aipro.com/