人工智能训练数据也能“投毒”?国安部发布相关提示原文
2025-08-05 08:30
142
国家安全部发布安全提示,指出人工智能训练数据存在'投毒'风险,即数据中可能包含虚假信息、虚构内容和偏见性观点,导致数据源污染,威胁AI安全。数据是AI的核心要素,影响模型性能和应用。数据污染可能导致模型决策失误、递归污染及现实风险,如金融市场操纵、公共安全误导和医疗健康危害。为应对风险,需加强源头监管、强化风险评估、末端清洗修复,构建数据治理框架。
全部评论