用好AI，让它有“爱”不添“害”

“知名主持人亲自推荐，说是能改善记忆和视觉功能，结果竟然是AI生成的虚假带货视频！”近日，江东街道居民吴美珍手机里播放的短视频，引发了邻里间的热议。当AI换脸、AI生成内容技术门槛降低，几分钟即可炮制虚假信息，“眼见为实”的底线正被多元AI骗局持续冲击。那么在义乌，市民碰到AI骗局的情况是否多见？实际情况如何呢？记者就此实地走访调查了一番。

孰真孰假，难辨AI骗局

“群里的‘视频’是AI伪造的，求大家别传播！”今年8月，市民楼鑫（化名）在孩子培训机构的家长群里急得直跺脚。记者见到他时，他仍难掩疲惫：“7月初收到陌生邮件，附件是AI换脸伪造的不真视频，对方要5万元封口费，说不给就发去单位和社交圈。”“我没给钱，视频果然被发到了家长群，客户也打电话来核实，那段时间我天天失眠。”直到报警后，楼先生虚假视频的传播才停了下来，但名誉受损的影响持续了很久。

记者在义乌街头走访30位市民，19人表示刷到过疑似AI生成内容，其中包括AI换脸短视频，也有AI数字人带货视频，12人坦言差点被骗。北苑街道一家药店的店主陈乔翻出手机里的视频：“画面里是形象光鲜的AI数字人，自称‘健康顾问’推荐保健品，说能增强免疫力，顾客想批量采购做促销。我看着内容专业又逼真，差点就联系供货商了，幸好女儿提醒现在AI生成的带货视频特别多，劝我悠着点。”

AI虚假宣传的形式远超单一“换脸”。记者走访义乌40余家商户，有26家表示收到过各类AI生成的推广内容，既有明星“数字分身”代言，也有AI批量生成的虚假爆款测评。商户楼伟民向记者展示了一段视频：奥运冠军全红婵的“数字分身”正在代言土鸡蛋，说着和冠军口音一致的推荐语，而这是骗子未经授权用AI合成的。“不少客户差点信以为真，和我聊天时都在感慨‘防不胜防’。”

经营美妆的王芳芳则遭遇了AI“伪原创”带货陷阱：“收到一条‘爆款口红实测’视频，画面里的试色效果、使用反馈看起来特别真实，后面附了供货链接，说‘厂家直供、日销千单’。我差点下单进货，结果发现视频里的产品细节模糊，而且多个不同账号发了同款视频，只是换了背景音乐。后来我才知道是AI批量生成的虚假测评，产品就是‘三无’产品。”

老年群体是各类AI骗局的主要目标。东洲社区居民李敏阿姨说，她老伴就曾经被骗：“视频里‘专家’穿白大褂，说有治高血压的特效药，还出示了逼真的‘检测报告’，背景和讲解逻辑都像正规科普。我老伴买了三个疗程，吃了没效果，卖家也失联了，后来才知道‘专家’是AI合成形象，相关资质证明都是AI生成的。”

从事电商运营的周文强则遭遇了AI生成虚假订单骗局：“‘客户’发来视频说要大批量订货，需先付定金，视频里的人跟之前对接的工作人员长得一样，还附上了估计是AI生成的公司资质和订单合同。幸好同事提醒核对账号和公章细节，才发现这个账号是陌生的，合同上的公司信息有明显拼接痕迹，避免了损失。”

“以前‘眼见为实’，现在视频、文案都可能是AI造假。”商户刘宁的感慨道出许多人的心声。记者走访发现，超七成受访者对网络信息产生不信任感，涉及转账、进货、消费时都会反复核实，担心遭遇各类AI骗局。

多方共治，联手筑牢防线

面对AI换脸、AI虚假带货等多元乱象，记者调查发现，我市正自发形成合力，用各种方式守护“真实”。

平台技术防控不断升级，针对多元AI生成内容精准施策。记者联系到抖音App工作人员，据他透露，平台已上线多维度AI内容识别系统，该系统不仅能识别AI换脸的面部边缘模糊、眼神呆滞等破绽，还能检测AI数字人带货的动作僵硬、背景违和等特征，识别后会添加“疑似合成内容”标识。市民郭子铭说：“现在刷短视频常看到这种标识，遇到AI批量生成的相似带货视频，平台还会弹窗提醒‘内容可能重复或AI生成，请注意甄别’，同时增设了AI内容举报通道，反馈很快。”

社区宣传教育精准覆盖多元骗局。记者在北苑街道丹溪社区、江东街道东洲社区等地看到，社区宣传栏都贴着AI骗局识别指南，既包含换脸诈骗特征，也有AI虚假带货、AI生成虚假资质的辨别方法。不少社区组建了由社区工作者、退休教师、志愿者组成的反诈宣传队。在丹溪社区，志愿者孙建发正在演示：“大家看，AI合成的人脸没有微表情，AI数字人带货没有自然互动，AI生成的检测报告往往细节模糊，还可以用反向搜索来核实产品信息。”

公安、司法等部门也会定期走进企业、工地、老年大学等地，开展针对性宣传活动。现场老人们认真记录，市民张大爷说：“我们楼栋居民自发组建了反诈微信群，分享各种AI骗局案例，上次我看到AI数字人推荐理财的视频，发到群里被提醒是虚假宣传，避开了坑。”微信群里还开展了“反诈达人”评选活动，鼓励居民分享防骗经验，不少人总结的“三看原则”（看标识、看细节、看渠道），在邻里间广泛传播。

商户们也抱团防范多元AI骗局。不少商户组建行业交流群，遇到可疑AI宣传视频、批量生成的测评内容就互相提醒。“我们约定，明星代言要查授权，数字人带货要核资质，大额订单必须通过官方渠道核实身份，签订正式合同，绝不私下转账。”商户楼伟民说，现在商户们还会共享AI生成内容的识别技巧，比如AI批量生成的带货视频往往配乐、话术高度相似，很容易甄别。

市民防范意识也明显提升。福建客商林阿豪告诉记者：“进货时遇到AI数字人带货或虚假测评视频，我会要求其出示品牌授权证明和真实供货凭证，没有的一律不考虑。”超市收银员也会提醒老年顾客：“扫码买保健品、理财，遇到AI推荐的，先跟儿女商量，别被虚假内容骗了。”

法律护航，让AI“向善”而行

“AI技术就像一把手术刀，可救人亦会伤人，关键在握刀者的选择和使用边界。”浙江东邦律师事务所律师楼璟倩在接受采访时表示，AI换脸滥用、AI生成虚假带货内容等行为，可能侵犯肖像权、名誉权，甚至构成刑事犯罪，受害者要学会依法维权。

楼璟倩介绍：“未经授权使用他人肖像进行AI换脸，或用AI生成虚假内容进行商业宣传，都是侵权行为，受害者可要求停止侵害、消除影响、赔偿损失。像AI数字人虚假带货、AI生成虚假测评误导消费的，还构成虚假宣传，涉事方需承担相应法律责任。”

对于AI换脸诈骗、AI生成虚假订单实施诈骗等行为，楼璟倩指出：“这已触犯刑法，诈骗金额较大的构成诈骗罪，会面临刑事处罚。受害者要第一时间截屏、录屏固定证据，不仅要保存虚假内容本身，还要记录发布平台、账号、传播范围等信息，及时向平台投诉、报警。”

楼璟倩呼吁：“技术开发者要坚守伦理，不开发传播非法AI生成工具；平台要加强全品类AI内容审核，不让虚假带货、虚假宣传等内容传播；市民要提高警惕，发现各类AI虚假内容及时举报。只有多方合力，才能让AI回归服务人类的本质。”

从社区反诈讲座到商户抱团防骗，从平台技术防控到法律护航，一场守护真实的行动在义乌持续推进。AI技术本无善恶，无论是换脸还是内容生成，只要全社会坚守法律和伦理底线，就能遏制乱象蔓延，让“眼见为实”的信任重回生活，让AI成为赋能商贸发展、便利市民生活的正能量。