小污染造成大危害!警惕AI数据污染引发现实风险 - 中国经济网原文
2025-08-17 20:15
78
AI数据污染的严重性及其对现实世界的潜在风险。通过具体案例,如AI错误关联宁波交警抖音号注销与后续交通事故,以及儿童手表AI软件对中国文化的错误回答,说明了数据污染如何导致AI输出不准确甚至有害的信息。专家指出,数据污染分为人为恶意篡改和AI自身收集不良信息两类,即使是微小的污染也可能因AI模型的非线性特征而被放大,导致严重后果。文章还强调了在金融、公共安全等领域数据污染可能引发的现实风险,并提出了加强源头监管、使用安全数据源、结合自动化工具和人工审查等防范措施。最后,网警提醒公众使用正规AI工具、不盲信AI结果、保护个人信息,共同防范数据污染风险。
全部评论