江畔闲话｜别让AI应用乱象蒙蔽双眼

东和

相信常刷短视频的人都碰到过这样的情况：各种不同内容的短视频，配音用的竟然都是大众非常熟悉的某个声音；商品广告中，医学专家、知名公众人物以清晰完整的形象讲解产品功效，鼓动用户消费；直播间里，许多影视、体育明星亲身试用并大力推销产品，话术极具诱惑力……而事实上，这些声音、肖像均是利用AI技术克隆生成的。如今，这种AI应用乱象早已走进普通人的日常生活，极具迷惑性和煽动性，让很多消费者上当受骗。近期，中央网信办开展“清朗·整治AI应用乱象”专项行动，大量违规AI换脸工具、虚假带货视频被集中清理，这也警示我们，必须认清违法AI的真面目，树立科学、理性、健康的AI使用观念。

AI换脸虚假带货其实已经成为一条门槛极低的黑色产业链，电商平台、社交群内十几元就能定制全套AI换脸推广视频，商家刻意规避相关监管规定，要么完全不标注AI合成，要么把极小的提示字藏在视频边角，刻意误导观众以为是真人出镜。面对花样翻新的AI造假手段，消费者必须擦亮双眼，筑牢认知防火墙。合法AI产品须经大模型备案，会清晰标注“AI合成内容”字样，否则就属于违法AI应用，坚决不下载、不付费、不使用。AI换脸人物往往表情僵硬、眼神呆滞，嘴唇动作和台词难以精准同步，AI克隆声音缺少自然呼吸停顿，语调机械无起伏，刷到此类视频需立刻提高警惕，不轻信、不下单、不泄露个人信息。

AI技术本身无善恶，乱象根源在于人的滥用，健康的数字生活，核心是摆正人与AI的主次关系，做到理性使用、适度依赖、主动共治。首先，要树立科学正确的基本认知，医疗、消费、金融等关键领域，绝不能仅凭AI生成视频、AI回答做决定，看病先咨询线下正规医院，选购商品认准官方平台，避免被AI虚假信息裹挟。其次，要坚守自身使用底线，拒绝成为AI应用乱象的传播者，刷到AI换脸虚假带货、伪造他人声音形象的视频，不点赞、不转发、不二次传播，不跟风使用换脸工具，压缩黑色产业链生存空间。再者，要主动参与网络共治，遇到无AI合成标识的虚假广告、私售换脸工具、AI诈骗线索等，及时通过官方渠道举报，当好清朗网络空间监督员。最后，要把握现实生活与虚拟网络的平衡，不沉溺各类猎奇AI工具，减少碎片化虚假短视频消耗，避免长期浸泡AI造假内容导致判断力弱化，让数字工具服务生活，而非主导生活。

编辑、一审：徐坚 二审：徐斌 三审：王润