当AI学会“说谎”：深度伪造时代保密防线如何重构

从AlphaGo到ChatGPT再到DeepSeek，人工智能正掀起一场前所未有的变革，其核心优势在于强大的数据处理与分析能力，推动安全保密工作迈向智能化。然而，人工智能的广泛应用也带来了新的风险，必须高度重视安全保密问题，让人工智能这把“双刃剑”在安全可控的轨道上稳健运行。

人工智能背后的“超级大脑”

深度学习：从模仿到创造

人工智能的核心技术是深度学习，它模仿人脑神经网络结构，构建由多层“神经元”组成的网络来处理信息。深度学习模型通过接收大量数据，并利用算法不断调整权重，逐渐学会执行特定任务，如图像识别或语言理解。

神经网络：从听课到解题

如果深度学习是构建智慧的基石，神经网络就是学生从听课到解题的学习过程。这一过程中，学生先用“感官”（输入层）接受知识，传入“大脑”（隐藏层），“大脑”中多个“思考小组”（节点）基于已有经验（权重）分析讨论。最后面对问题，学生通过“大脑”的“输出口”（输出层）给出答案。

数据驱动：喂养人工智能的“食物”

深度学习模型就像一个嗷嗷待哺的婴儿，需要大量的“食物”才能茁壮成长。这些“食物”就是各种各样的数据，数据越多、越优质，模型就能学到越多的知识，变得越聪明。

安全保密的新威胁

数据泄密风险

人工智能的应用离不开海量数据支撑，数据采集、清洗、标注等环节都可能成为安全保密短板。以金融行业数据为例，信贷审批流程中，金融机构收集大量企业的财务报表用于评估贷款风险，即便对原始数据采用加密措施，模型参数也可能通过记忆机制存储数据特征，一旦被捕捉并存储，可能会在一次不经意的“提问”中将敏感信息“回答”出来，成为泄密“定时炸弹”。

内容生成风险

人工智能强大的文本生成能力，赋予其创造的“魔力”，一旦失控，就可能生成虚假信息。实际操作中，模型生成内容优先保证语义通顺，为保持叙述流畅性，人工智能工具会自动补全未经核实的内容，这就为别有用心者编造虚假新闻、伪造文件，或炮制违背社会价值观、危害社会稳定的内容提供了条件和土壤。

（图片采用生成式AI技术制作）

代码开源风险

人工智能模型的开源，如同将其“大脑”暴露于光天化日之下，攻击者可利用其公开架构、参数等进行模型反推、逆向攻击，还原敏感信息。人工智能模型的“黑箱”特性，可能导致决策过程不可解释、潜在偏见难以追溯。

安全风险应对措施

1.完善数据安全制度。制定严格的数据分类与分级标准，确定哪些数据可用于大模型训练，明确不同级别数据的处理流程与权限。建立规范的脱敏技术标准，确保所有输入人工智能大模型的数据都经过严格的处理。建立全面的人工智能安全审查流程，明确审查标准、方法与责任，建立数据关联分析机制，评估数据间的潜在联系和泄露隐患。

2.强化安全防护技术。加强数据与接口安全管理，研发自动化审查工具，检测输入数据和生成结果的敏感性，加强应用程序编程接口（API）认证与授权，定期进行安全审计。加固运行环境与模型，采用安全容器、沙箱等技术隔离运行环境。建立动态安全防护机制，定期对人工智能大模型的应用进行安全风险评估，持续提升大模型的安全防护水平。

3.加强监督检查管理。建立常态化监督机制，将大语言模型的使用纳入安全保密检查范围，确保使用过程规范。研发大模型保密检查工具，实现敏感信息识别、对抗样本检测、模型行为审计、风险评估与预警及合规性检查等功能。强化事后追溯与整改，通过记录模型输入输出、运行日志及参数变化，为事后追溯提供依据。

4.健全教育培训体系。将人工智能安全保密教育纳入教育培训范畴，定期通报人工智能领域最新风险动态，持续强化各领域和各级人员的防范意识与能力。开展针对性培训与演练，帮助涉密人员了解人工智能的安全风险并掌握安全使用方法，设立国家级人工智能安全攻防靶场，定期开展“红蓝对抗”演练，提升风险防范和应急处置能力。

（本文原刊于《保密工作》2024年第4期，内容有删改）

来源：保密观

责任编辑：柯学子