在阅读本文之前,请您多留意防范骗局的相关信息,增强安全意识,避免成为受害者。
以假乱真的AI技术究竟有多可怕?如今,它不仅让不少明星深陷泥潭,就连央视主播李梓萌和奥运冠军全红婵都未能幸免。许多网友看到事件曝光后直言:“这得国家出手整治了!”
如今科技的飞速发展确实改变了我们的生活,但这颗技术的“双刃剑”却也能被别有用心的人利用,衍生出难以防范的骗局。令人震惊的是,AI诈骗的黑手已经伸向了我们熟悉的面孔——央视主持人。
比如“李梓萌宣传深海鱼油”事件,骗子将AI合成的李梓萌投入直播间,并以“央视官方推荐”的名义兜售产品。伪造形象的“李梓萌”用流利的口若悬河为鱼油打广告,声称它是包治百病的“神药”,还加入了改善健康等夸张说辞。许多观众,尤其是信任央视的中老年人纷纷下单支持。直到产品寄到家,大家才发现不过是普通糖果食品,既不具备任何保健功效,甚至根本无法治疗任何疾病。
展开剩余68%事件曝光后,市场监管部门介入调查,央视澄清李梓萌本人当时正在忙于新节目的筹备工作,完全没参与直播带货。这才揭开了骗局的真相:罪犯利用AI合成技术克隆了李梓萌的形象和声音,对观众进行欺骗,并借央视的信誉感包装骗局。
事实上,AI诈骗不仅侵害了央视的主播,娱乐圈明星同样深受其害。曾经轰动的“假靳东事件”便是一个典型案例。骗子利用换脸技术,在短视频平台冒充靳东,并以“真挚的感情交流”诈骗受害者的金钱。更可怕的是,诈骗团伙打造出的“假的靳东”,不仅拥有与真人极为相似的声音和行为举止,还创作剧本与粉丝互动。受害者们被情感操控后,不惜倾尽积蓄甚至借款为所谓的“靳东”提供资金支持。
类似的情况也发生在奥运冠军全红婵身上。不法分子通过AI合成技术制造虚假视频,使“全红婵”成为虚假农产品代言人的形象。网传“全红婵推荐吃鸡蛋增强体力”的视频迅速传播,许多人信以为真,踊跃购买所谓的“家乡土鸡蛋”。然而,这些鸡蛋货不对板,质量低劣,所谓的土鸡蛋其实不过是普通养殖蛋。全红婵家人对此事件曾多次声明,她根本不会参与商业带货活动。然而骗子哪会轻易收手,还继续伪造她的声音和形象,吸引更多人上当。
除了这些案例,许多名人深陷AI技术合成的坑,比如古天乐、林峰被借用肖像和声音进行线上赌博宣传;刘晓庆在看到“AI刘晓庆”视频后极为愤怒,表示自己从未参与相关广告推广,这些合成伪造行为严重损害了明星的权利。
面对这类肆虐的高科技骗局,国家已经采取了相关整治行动。警方从李梓萌的案子开始专项打击,并要求平台提高AI内容检测和鉴别的技术能力。同时,2025年发布的“整治AI技术滥用专项行动”进一步规范了AI技术应用,建立了实名登记等制度,从源头铲除部分虚假内容传播。
作为普通人,我们也可以学习一些识别伪造视频的方法。比如观察视频中人物的眼神是否自然,与光线的配合是否合理,或者检查背景细节以及皮肤质感等。必要时,通过官方渠道核实信息,是保障安全的关键。
AI的滥用已成为无法忽视的社会问题,我们需要保持警觉,擦亮双眼,避免成为优质技术被滥用的受害者。希望每个人都能提高警惕,坚决抵制不法行为,共同维护绿色健康的网络环境。
发布于:江西省
