多媒体数字报 社长、总编辑:洪孟春 晚报热线:82220000 我要纠错 注册   登录
长沙晚报网 数字报 版面导航 日 星期 出版 前一天 后一天
返回版面

防范化解生成式人工智能意识形态风险

      彭劲杰

      新一轮生成式人工智能浪潮奔涌而来,既是催生新质生产力的强劲引擎,也改写舆论传播、价值引导的底层逻辑。对全省广大党员干部而言,抢抓AI创新机遇与守牢意识形态阵地必须一体推进。我们应直面两个考题:算法深度介入大众认知,如何持续巩固马克思主义在意识形态领域的指导地位?代码深度参与价值塑造,怎样织密织牢网络意识形态安全防线?笔者立足治理实践,不谈晦涩技术参数,紧扣政治责任,从认知辨析、风险研判、实践路径三个层面展开思考。

      认清本质:破除“技术中立”误区,读懂代码背后价值立场

      从政治逻辑来看,大模型绝非映照现实的平面镜,而是折射价值偏向的棱镜。技术根植于特定社会生产关系,若训练数据混杂历史虚无主义、西方宪政民主错误思潮等内容,模型输出会形成系统性认知偏差。这不是简单程序漏洞,而是底层价值立场出现偏移。

      从基层治理现实来看,AI衍生风险近在咫尺、不容轻视。深度伪造大幅降低虚假音视频制作门槛,批量传播极易撕裂社会共识、引爆网络舆情。算法话语权等同于意识形态话语权。发展人工智能必须安全前置,把风险管控贯穿研发、落地、迭代全链条,牢牢掌握智能时代意识形态斗争的主动权。

      精准研判:紧盯五大风险隐患,拆除数字空间隐形 “定时炸弹”

      一是训练数据源头污染风险。数据集是大模型的“基因底座”。数据审核把关宽松,各类错误思潮会潜移默化植入模型,让AI成为负面观点扩散载体,持续侵蚀主流思想根基。二是境外大模型认知渗透风险。海外通用模型披着“客观中立”外衣,设置双重标准误导网民,长期侵蚀青少年价值观,形成常态化线上思想洗脑。三是深度伪造操纵舆情风险。AI可快速批量生成涉政虚假图文视频,真假难辨、传播速度快,极易放大负面情绪、消解社会信任,成为境外认知战工具。四是流量算法撕裂社会共识风险。平台片面追逐流量催生信息茧房,算法偏好加剧群体对立。五是核心技术供应链安全风险。高端算力芯片、底层开发框架对外依存度较高,存在后门预留、断供停运隐患,一旦算法、数据主权旁落,意识形态安全将面临直接冲击。

      实干破局:构建 “六位一体” 防控体系,全域筑牢数字安全屏障

      一是以党建压实责任,打通协同监管链条。将AI意识形态风险防控纳入各级党委(党组)意识形态工作责任制,压实 “一把手”第一责任人职责,健全宣传、网信、公安、通信、市场监管多部门联动机制,消除监管盲区。国内多地已形成成熟治理样本:北京海淀区累计完成备案的生成式人工智能服务已达130款,上海推行“一企一策”合规指导,武汉出台全国首部生成式人工智能发展安全公约。

      二是以法治划定红线,规范AI应用边界。严格依据《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》履职,从严查处AI造谣、丑化诋毁英烈等违法行为,公开典型案例强化震慑。全面推行AI生成内容强制标识制度,提升虚假信息溯源效率,让智能技术始终运行在法治轨道。

      三是以源头净化数据,建好自主主流语料库。依托中央及省级党媒权威信源搭建国产高质量训练数据集,严格落实数据标注“三审三校”制度,严把数据入库关口。人民网建成百TB级主流价值语料库,为国产大模型正本清源;其运用隐私计算实现“数据不出域、价值可共享”,从源头遏制数据污染带来的价值偏差。

      四是以技术自主防御,实现“以AI治AI”。依托新型举国体制攻坚价值对齐、内容风控核心技术,打造自主可控本土大模型,构建“以模制模”纵深防御体系。如阿里联合高校研发安全对齐技术范式,人民网“人民审校”依靠知识图谱快速识别风险内容。现有网络法规明确“运用人工智能等新技术,提升网络安全保护水平”,为技术防控提供法理支撑。

      五是以闭环全程管控,实施分级分类治理。严格落实大模型备案准入制度,政务智能平台推行蓝黄红三色分级管理。杭州余杭区明确政务AI严禁使用公网数据训练,湖南公安持续重拳打击AI造谣传谣案件,清晰释放“人工智能绝非法外之地”鲜明信号。

      六是以素养凝聚合力,夯实全民共治根基。把AI数字风险素养纳入党校干部必修课程,提升领导干部风险识别、处置能力;面向校园、社区开展科普宣讲,教会群众辨别AIGC虚假信息,凝聚全社会共防共治强大防线。

      〔作者系湖南省中国特色社会主义理论体系研究中心省委党校(湖南行政学院)基地特约研究员〕


    版权所有,未经授权禁止转载、摘编、复制或建立镜像。如有违反,追究法律责任。