随着人工智能技术的突破，特别是DeepSeek等智能大模型的崛起，AI已逐步融入人们的日常生活与工作。然而，AI技术在带来便利的同时，也催生了一系列社会问题，例如论文造假、换脸欺诈等违规甚至犯罪行为。以防火墙式技术保障AI健康发展，本质是构建多层次、全周期、主动防御的技术防护体系，用类似传统网络防火墙的技术手段阻断数据泄露、模型攻击、恶意利用等风险，确保AI系统安全可控、合规可用。

首先要筑牢AI“输入源”的安全防火墙。数据是AI的“燃料”，其泄露、滥用或污染直接威胁AI的安全性与可靠性。需通过技术手段构建数据全流程的安全防护屏障。可利用自然语言处理、图像识别等技术自动检测所采集数据中的隐私（如身份证号、手机号）、敏感信息（如生物特征、医疗记录），通过脱敏算法替换或模糊化处理。例如，医疗AI在采集患者病历时，自动隐藏姓名、住址等字段。

其次要构建AI“核心”的抗攻击防火墙。AI模型是系统的“大脑”，需防范对抗攻击、模型窃取、后门攻击等威胁，确保模型的安全性、保密性、可控性。可在模型训练阶段主动注入对抗样本，强制模型学习区分正常输入与恶意输入，提升对对抗攻击的抵抗力。例如，自动驾驶AI通过对抗训练，避免因道路标志被贴纸干扰而误判。可对输入数据进行预处理，过滤恶意构造的对抗样本。例如，图像识别AI可先对输入图像进行高斯模糊处理，消除不可见扰动。还可在模型训练过程中嵌入不可见的“数字水印”（如特定参数模式或用户标识），当模型被非法复制或泄露时，可通过水印追踪来源并追责。

再次要构建内容安全且合规的输出防火墙。相关输出内容需安全过滤，分级拦截有害信息。以防火墙式技术加强内容检测，对AI生成内容进行实时监测，识别暴力、恐怖、色情、虚假信息等违规内容。例如，生成式AI输出一段包含种族歧视的文本时，系统自动拦截并提示“内容违规”。可将法律法规（如网络安全法、广告法）、行业标准（如医疗AI的诊断准确性要求）转化为可执行的规则库，在AI输出前进行合规性校验。例如，金融AI推荐理财产品时，自动检查是否符合“投资者适当性管理”要求。

总之，以“防火墙式技术”保障AI健康发展，需构建覆盖数据、模型、应用、交互的全生命周期防护体系，通过源头管控、主动防御、动态进化的技术手段，阻断数据泄露、模型攻击、有害输出等风险。最终目标是实现AI系统的“安全可控”，既能抵御外部威胁，又能通过伦理与法律的引导，确保技术发展始终服务于人类福祉。

作者单位 诸暨市国有资产经营有限公司

（内容来源：绍兴日报）