在AI快速发展的背景下,基于AI大模型应用提供服务已成常态,常见应用场景包括对内办公类应用和对外服务类应用。对内办公提供资料检索、文案生成、文稿校对、数据分析等服务;对外提供智能问答、信息检索、业务导办等服务。虽然AI大模型应用给我们带来了诸多便利和正向价值,但也伴随着提示词注入、数据窃取、敏感数据泄露等风险问题。针对AI大模型应用场景,北信源数据安全防泄露(XDLP)产品提供了大模型“保密护栏”能力,全面保障大模型应用数据安全。
近期密集发布的政务大模型应用相关指导文件,安全成为焦点。2025年9月25日发布的《政务大模型应用安全规范》中提出政务部门在大模型应用中可能会出现数据安全风险、系统安全风险和内容安全风险,应在大模型的选用、部署、运行、停运的整个生命周期中遵守安全防护规范,保障大模型应用安全。2025年10月10日两部联合发布的《政务领域人工智能大模型部署应用指引》中指出政务部门在模型训练、部署应用等过程中应加强数据安全保密和个人信息保护,坚持底线思维,严格落实“涉密不上网、上网不涉密”等保密纪律要求,采取加装保密“护栏”等措施,防止国家秘密、工作秘密和敏感信息等输入非涉密人工智能大模型,防范敏感数据汇聚、关联引发的泄密风险。
针对指导文件提出的数据安全问题,北信源XDLP产品推出在终端用户和大模型应用之间构建“安全护栏”的防护方案。产品对终端用户和大模型之间的数据会话进行监控,对传输数据内容敏感信息进行精准识别,对敏感数据传输行为进行审计、告警和拦截处理,保障大模型应用数据安全。
本产品内置包含国家秘密、工作秘密、个人信息在内的多种敏感内容识别规则,开箱即用。提供覆盖多模态数据的安全防护体系,能够精准识别与处理语音、文本、图像等交互内容。
本产品面向大模型各类应用终端(包括Web端、私有化客户端以及CHATBOX、CLOSECHART等通用客户端),提供体系化的数据安全防护能力,覆盖KIMI、DEEPSEEK、阿里通义千问、百度文心一言、字节豆包、腾讯混元、讯飞星火、ChatGPT等国内外主流大模型。技术实现上,通过在终端部署安全防护代理,实时感知并解析大模型会话流量,基于对多种通信协议的深度解析,构建起对混合模态数据的内容识别与风险感知能力。系统终端主体综合风险评估结果和数据敏感等级等上下文信息对敏感数据外发事件提供审计、提醒、拦截、审批等多种响应处置手段。
北信源XDLP产品以数据资产为核心,构建识别、防护、监测、响应、溯源的主动防御体系。依托NLP、OCR、语音识别等多模态AI技术,自动识别、分类、定级政企结构化与非结构化数据,动态生成数据资产地图,实现资产可知可视。基于分类分级结果与终端主体的实时风险评估,实现自适应、精细化的终端全外发通道的动态防护策略。同时提供图片、完整文档、片段等多形式的溯源手段,全面提升企业溯源分析能力。
本产品已在政府、能源、金融(银行/证券)及大型企业等多个关键行业实现规模化落地应用,具备广泛的行业适配性与实战验证能力。典型案例如某能源企业统建项目,累计部署终端几十万台,充分验证了产品在超大规模终端环境下的稳定防护与集中管控能力。在某金融行业项目中,本产品与终端安全管理、云文档协作及应用系统深度集成的多维联动方案,成功实现复杂业务场景下的系统化整合与安全闭环。