国家安全部发布安全提示文章，指出近期曝光的AI“投毒”隐蔽产业链引发广泛关注。这种通过恶意数据污染AI模型的行为不仅扰乱商业秩序、影响信息传播，还可能危害国家安全。人工智能在赋能各行各业的同时，其安全风险也不容忽视。推动AI治理向善，守住数据安全底线，是行业责任，也需要全社会共同参与。
所谓“数据投毒”，是指通过向AI大模型训练数据中注入伪装成正常样本的恶意数据，削弱模型性能和准确性。这种方法常被用于恶性市场竞争，甚至涉及间谍活动，呈现出链条化、隐蔽化、跨境化特征。不法分子借助生成式引擎优化工具批量生成虚假内容，如虚构产品介绍、虚假测评等，并定向投放至网络平台。AI大模型在训练与检索增强生成阶段会自动抓取这些信息，少量虚假内容经迭代学习后固化为“标准答案”，最终输出失真结果。
另一种方式是“模型投毒”，即隐蔽植入恶意操控后门。不法分子通过模型微调、插件植入等方式，在模型权重中嵌入触发式恶意指令。模型日常运行并无异常，但遇到特定关键词或产品类别时会自动输出预设虚假信息，从而操控榜单、误导专业认知，难以被常规审核识别，对政务、医疗、金融等关键领域AI应用构成直接威胁。
当前AI“投毒”已形成完整的黑灰产业链，从技术开发、内容生成、账号注册到批量投放、刷量控评、榜单操控环环相扣，部分链条呈现跨境特征，极易被境外势力利用。
AI“投毒”不仅侵害消费者权益、扰乱市场秩序，还可能对国家政治安全、数据安全、社会安全等造成系统性、长期性危害。境外反华敌对势力可能通过生成式引擎优化渠道批量输出虚假信息与政治谣言，歪曲事实，攻击抹黑党和政府，误导社会认知、扰乱舆论生态，对我国实施意识形态渗透，威胁国家安全与社会稳定。此外，数据是国家的重要战略资源，AI“投毒”恶意污染公共数据、行业数据、训练数据，将导致统计数据、决策数据、监管数据失真，影响政府和企业科学决策。在医疗、金融、食品药品等民生领域，AI虚假推荐容易误导公众购买劣质、“三无”产品，造成人身和财产损失。长期信息失真还会消解社会信任，积累矛盾风险，影响社会稳定。
