AI仿冒号不能光靠吴越们喊打

10月18日凌晨3点，知名演员吴越的一条发文冲上网络热搜，一句“太恶劣！”道出了当下AI深度伪造带货的猖狂现状，话题#吴越发声AI诈骗太恶劣#迅速引发全网热议，不少网友看完之后直呼防不胜防，普通人根本分不清视频真假。

吴越在社交平台发文质问：一觉醒来，谁在利用AI肆意抓人替自己作恶？这位“花姐”你骗了多少人的钱？请如数奉还！文中点名的账号名叫“花姐美肤日记”，该账号利用AI换脸、声音克隆技术，高度复刻吴越的面容与嗓音，制作带货短视频售卖护肤品。

伪造视频里面，AI生成的吴越亲口向观众推荐产品，话术极具煽动性，声称这款产品不是商家找她代言，而是她自己亲测好用主动推荐，打出回馈粉丝、超大福利的营销口号，用“拍一发30”“过了今天就不再有”的话术催促消费者赶紧下单。更让人意外的是，这条造假视频还标注了一行小字提示“含AI生成内容”，靠着简单的一行提示，账号就直接把仿冒明星的带货视频发布上线，迷惑大量普通消费者。

细心网友还发现，该账号不只是伪造吴越带货，视频末尾还出现了乒乓球名将邓亚萍的AI带货画面，账号主页也有多条仿冒邓亚萍推荐商品的短视频，多名公众人物肖像、声音被盗用用来直播卖货。事发之后，涉事账号上相关伪造视频已经下架，但是已经有不少消费者被这条高仿视频误导下单购买产品。

很多人以为AI换脸离自己很远，其实现在AI造假门槛已经变得非常低。据媒体报道，只需要一千多元，就可以买到实时AI换脸工具，一键把视频里的人脸替换成明星面孔，普通人很难用肉眼分辨画面真伪。AI不仅偷脸，还能快速克隆本人声音，表情、语气都高度还原，普通人一不小心就落入AI带货骗局。

针对吴越被AI假冒带货这件事，多位律师做出解读。律师表示，在没有得到本人授权的前提下，私自抓取他人肖像、声音用于商业带货，已经涉嫌侵犯肖像权、声音权、姓名权。如果借着明星的名义虚假宣传产品功效，大批量诱导消费者花钱购买，涉案金额达到标准之后，还会涉嫌构成诈骗罪，要承担刑事责任。平台同样负有审核责任，对于冒用名人形象带货的AI视频，不能只依靠一行AI提示标签就放任流量分发，应当主动核验授权资质，拦截侵权带货视频上线，守住平台风控关卡。

AI技术本身没有对错，但是不法分子把AI深度伪造当成牟利工具，已经变成新型网络诈骗手段。最近几年，AI换脸冒充熟人借钱、AI仿冒名人带货的案件频频曝光，受害群体大多是中老年网民，他们对AI新技术了解不多，看到熟悉的明星面孔，很容易就相信视频内容是真人代言，冲动下单买到劣质产品，维权之路却困难重重。

这一次吴越早间站出来打假，也给所有人敲响警钟。大家刷短视频看到明星带货的时候，不要仅凭一段视频就相信是本人推荐，下单前一定要去明星本人官方账号核实代言信息，凡是直播间、短视频突然出现低价福利、限时抢购的明星带货，都要多留一个心眼，谨防AI造假。

AI诈骗已经不再是新闻里遥远的案例，已经实实在在来到普通人身边。想要遏制AI伪造带货乱象，需要平台强化事前审核、监管部门加大打击力度，同时每一位网民都提高辨别AI虚假视频的能力。你刷短视频的时候，有没有刷到过疑似AI换脸的明星带货视频？你觉得该用什么样的办法，才能管住越来越猖獗的AI造成