最近，国家反诈中心App新推出“AI内容鉴定”功能。部分电商买卖的上下家成为第一批使用者：消费者使用鉴定功能会发现，部分商家展示的产品图由AI生成，存在“货不对板”现象；商家上传买家发来的“商品瑕疵照片”，如果结果显示“图像含AI生成痕迹”，则可拒绝消费者不合理赔偿要求。 “现在看到商家的商品展示图，即便背景是生活场景，我都没法判断是真是假。”已有20年网购经验的裴女士原以为自己是“资深买家”，但在接二连三遇到AI美化或直接生成的商品图片后，有些无所适从。 前不久，她想给孩子买条连衣裙，发现某品牌商户展示了模特试穿裙子的静态照片和动态短视频；在产品详情页，更有连衣裙走线、刺绣等细节图。以上种种让她觉得，商家展示的是真实拍摄的照片。 谁知拿到商品后，不仅颜色、款式与商家展示有差距，走线等细节也十分粗糙。裴女士询问商家客服，被告知详情页上是图片和视频都是“实拍的”，只是使用技术手段略微修饰了一下。可当她使用电商平台“以图搜同款”功能时，发现平台上有大量商家使用同样的图片和视频；再用国家反诈中心App检测，相关照片和视频都被判定为“AI生成”。 买农产品时，裴女士再次遭遇“AI生成”。她想购买小土豆，在商家提供的照片上，农户双手捧着一箩筐土豆，土豆上还沾着泥巴。从手部与土豆的比例看，土豆与乒乓球差不多大。谁知，最终收到的土豆个头超过鸡蛋。用App检测才发现，商家的展示图片也是AI生成的。 裴女士的经历并非个案。一段时间以来，多地法院和媒体披露了一系列商家使用AI造假、虚假宣传案例，并支持消费者向AI造假维权。例如，今年3月，广州市中级人民法院公布案例表示，有消费者网购服饰时，再三向商家确认商品图片是否为实拍，并得到肯定答复。可收货后，发现商品版型、花纹与宣传图差异巨大。经核查，商家的商品展示图均为AI生成且未做任何标注，商家刻意隐瞒AI生成事实、虚构商品品质。法院最终认定商家构成消费欺诈，依法判决商家退货退款并三倍赔偿。 与商家造假相对应的，是有部分消费者利用AI伪造商品瑕疵，恶意“薅羊毛”。去年下半年以来，多地曝光了相关事件：有的消费者网购大闸蟹后，利用AI技术合成“多只螃蟹死亡”的虚假图片和视频，申请“仅退款”；有的消费者利用AI工具生成衣物脱线、箱包破损、农产品霉变、玩偶破损等产品瑕疵画面，向商家索赔。 在这些事件中，有的商家凭借行业经验，发现消费者提交的照片和视频存在异常，选择报警。警方介入调查后，认定消费者伪造证据恶意维权。但也有的商家因取证困难、维权成本高等原因，只能自认倒霉，赔付了事。 那么，电商平台上的“AI生成”到底什么情况？记者从不同电商平台、不同品类商家中，随机选取了20张介绍图，使用国家反诈中心App和第三方企业的AI生成鉴别功能检测，发现这些图片中，超半数存在“AI生成”痕迹。 记者又随机选取部分实物商品，使用市场上常见的AI生图工具，给出生成指定商品的指令。一系列商品图由此诞生。虽然这些图片带有“AI生成”水印，但记者使用修图工具处理了一下，就去除了这些水印。得到的图片仅靠肉眼观察，很难分辨是实拍的还是AI生成的。 在某电商平台做服装生意的廖女士告诉记者，按照平台推荐规则，精美的商品介绍图片和视频，能得到更多的推荐，这也是商家想方设法优化商品介绍图片和视频的原因。 她介绍，在AI生成技术还不普及时，那些实力雄厚的商家会聘请专业摄影团队，为商品拍摄照片和视频；像她这种中小规模的商家，大多是自己拍摄照片后，使用技术软件优化或付费请第三方机构修饰图片；有些规模更小且不够诚信的商家，则会盗用他人的照片用以宣传，“但总的来说，平台管理比较严格。虽然部分图片有修饰成分，但总体不算失真；至于那些盗图商家，一旦被举报或平台巡查发现，会被处罚，包括流量‘降权’。” 不过，随着AI生成工具越来越普及，行业生态变了。廖女士注意到，越来越多的商家开始使用AI生成产品图，“一开始只是让AI修饰图片，调整一下颜色；渐渐地，有些商家连模特都不用了，拍一张产品图，上传给AI生图大模型，表示需要什么样的人物在怎样的环境中穿着，就能得到以假乱真的效果图。”她说，这是最基本的做法，“在行业里，还有专门的效果图生成公司，他们有专门的软件，能生成更逼真的效果。” 在某电商平台销售农产品的石先生也说，用AI生成介绍图的效率远高于实物拍摄，不仅成本低，而且画质精美，“比如我自己拍水果放在餐桌上的照片，得先布置餐桌。但用AI生成，只要一个水果，往普通桌子上一放，AI能自动生成背景。”即使有消费者询问是否为实物拍摄，他觉得也不用担心，“我有实物，只要AI生成的图片不太离谱，属于合理美化吧。” 廖女士说，有消费者收到衣服后，向她提供了一张前襟沾有油渍的照片，指出她发货时未严格检验，要求支付清洁费或换货。廖女士觉得照片上的油渍形状和颜色不自然，请消费者在不同光线下拍摄衣物视频，“结果对方就没回音了，大概率是心虚吧。” 石先生觉得，眼下商家和消费者都在用AI生成工具，最终危害了整个电商行业，“本来是相对公平的买卖关系，现在变成买卖双方互相提防、彼此举证。” 值得一提的是，当商家和消费者都在使用AI生成鉴别工具时，一个新问题出现了：有时，面对同一张图片或同一段视频，不同大模型给出的鉴定结果不一样。这个时候，到底该相信谁呢？ 从事AI生成鉴别工具研发的刘向东（化名）解释，目前业界没有任何一个鉴别大模型能实现100%准确，因为每个大模型都有自己的技术局限。至于不同鉴别工具给出的结论不一致，是因为它们的检测方向不统一，“有的侧重查找光影、透视、人体结构等逻辑漏洞，有的分析像素纹理、噪点分布等底层特征，还有的专门识别隐形水印与文件元数据，等等。而且电商场景中的图片和视频大多经过裁剪、调色等二次处理，进一步模糊了AI痕迹。此外，还有大量图片是‘实拍+AI修图’的结果，处在判定模糊地带。” 但他觉得，要解决这一问题，不能只靠鉴别技术进步，还应从电商生态环境治理出发，“最重要的是平台要建立跟得上AI技术发展的审核机制，将‘事后辨别’变为‘事前辨别’和‘事中核查’。” 他说，根据去年9月正式实施的《人工智能生成合成内容标识办法》，人工智能生成合成内容标识包括显式标识和隐式标识，“按照规定，AI工具生成的图片和视频需附带溯源与标识信息。这意味着，如果平台自研或接入AI鉴别大模型，那么有机会在AI生成的图片或视频发布前，就为它们添加消费者可一眼识别的显式标签。对那些判断难度较大或有歧义的图片或视频，平台可以要求商家提供更多资料‘自证清白’，根据实际情况作出提示。至于消费者提交的‘商品瑕疵图或视频’，平台先利用自有鉴别模型进行筛查，而不是直接支持‘仅退款’。对于存在异议的，不妨在平台参与的情况下，引导商家和消费者提供更多的证据。” 记者注意到，已有多地消费者保护组织发声，要求重视电商行业普遍存在的“AI生成”现象。北京市消费者协会还联合8家电商平台，签订全国首份《促进AI技术规范应用承诺书》，从技术标识、内容审核、责任追溯等环节建立企业自律规范，划定AI技术应用的“合规红线”。同时，部分电商平台也公开表示，已经升级平台规则，将严格管理平台上的AI生成内容。不过从消费者和商家体验看，这些举措的落地效果仍有提升空间。 业内人士对此指出，平台对AI生成内容的管理，不能停留在“公开表态”上，而是要从根本上建立全新的审核和推流机制。一方面，要建立多维度的商品审核机制，不能过度强调精美图片和视频的权重，而是把流量更多地赋予那些货真价实的商品和服务。另一方面，针对反复使用AI生成虚假宣传的商家，以及利用造假图片恶意索赔的消费者，也要建立失信名单，依据违规情节实施分级惩戒，形成长效约束。 不难发现，随着AI生成出现在电商交易的各个环节，消费者和商家都可能成为AI生成内容的受害者。换句话说，AI生成内容给电商生态治理带来的挑战，远超过以往的常规交易矛盾——它所带来的负面影响，并非针对买卖关系中的一方，而是在破坏整个电商交易体系的信任基础。它对行业生态的隐性损耗，远比单次交易纠纷更值得警惕。 例如，有的平台认为可以“用魔法打败魔法”，即通过AI鉴别工具来识别AI生成内容。但技术的局限性决定了这种方式难以实现100%准确，仍有相当一部分AI生成内容游离在监管之外。再如，有的平台虽出台AI内容审核、违规处罚等规则，但落地执行时多以警告、轻微扣分等象征性处罚为主，缺乏严厉的惩戒机制，使得仍有不少商家批量使用AI生成内容美化商品。 要改变这些现象，还得靠电商平台动真格，全方位改进平台的内容审核、信用监管、流量分发、权益保障机制和模式，助力那些诚实守信的商家走到台前，也支持那些理性客观的消费者维权。
