AI诈骗来袭。近日，AI虚拟人物代言的保健品广告充斥于各短视频平台。不乏有部分情感主播针对老年人消费群体，打造人设，编撰各类家长里短、跌宕起伏的剧情，吸引中老年人的关注，并借机兜售商品。
南都健闻记者调查发现，部分虚拟主播在短视频中故意夸大产品功效，甚至不同主播背后采用了同一个虚拟人的音容相貌。尽管仔细辨别可发现并非真人出镜，但仍有不少老人对此捧�。硎疽郝�，用完了还会回购。
在3·15消费者权益日到来之前，南都健闻发起征集令，寻找被“养生群”围猎的老年人受害案例，欢迎扫码报料。
“我女儿怀孕已经7个多月，知道自己马上要离开人世，她的公公却以100万元的价格偷偷卖掉了她的婚房和所有之前的首饰。女儿身体一天比一天差，央求医生保住小孩。正当这个时候，公公回来了，用颤抖的声音跪求医生保大人……”上述带货主播谈到，“虽然手术成功了，但女儿成宿成宿睡不着，终于找到一位老先生，对方给了一个方子，经过几天后，女儿终于能安然入睡。”
南都健闻记者注意到，上述主播的手势、讲话的表情与虚拟人无异，但播放页面并未有标注为AI制作的画面。更为明显的是，画中多处的女儿明显并非同一人，剧情在4分钟内跌宕起伏，十分离谱。
主播在视频末谈到，“这是一种用古法配置的天然香膏，坚持每天睡前抹在耳朵后，轻轻按摩，几天后，你一觉就可以睡到大天亮。”
同一款睡眠香膏还有另外一个剧本，“大家快来看看吧，难道天底下越孝顺越有错吗？我伺候了我妈17年，但我妈更疼两个弟弟。我妈出院后，我既要照顾我妈，也要给两个弟弟做饭。弟弟、弟媳都躺沙发玩手机……”在经过一番迂回曲折的故事后，主播继续延申至睡眠香膏，“有一位95岁的老人告诉我这一方子，每晚都可以睡八九个小时。你只需要维生素B和这个香膏，一定能一觉睡到大天亮。”
不过，尽管如此，仍有不少老人捧场。“老大做得非常正确。”“为老大点赞，你妈妈不公平。”“大哥好人，一生平安。”
南都健闻记者注意到，通过视频直播平台的橱窗可搜索到这一商品，产品名称为睡眠香膏，并且配有香港大药房的logo。产品执行标准为Q/NAXT214-2023，生产企业为南阳市艾兴堂制品有限公司，生产地址为河南省南阳市卧龙区七里园乡杜诗路艾草产业园1号。从产品外包装可见，产品名称为睡眠香膏。主要原料为薰衣草、檀香、玫瑰花、栀子花、茉莉花。
记者就产品的效果咨询客服人员，其表示，睡眠不好，坚持使用就可见效。当问及需要坚持多久，对方解释为5盒以上。
不过，南都健闻记者进一步查询发现，这一产品存在不少蹊跷之处。首先，Q/NHX是企业标准的一个代号，产品并非药品或是保健食品，不应对外宣传有治疗失眠的功效。据企业标准信息公开服务平台信息，睡眠香膏所属类别为家庭或是个人辅助服务、个人护理服务。
其次，工商登记的公司名称与产品外包装的公司名称略有出入。天眼查显示，公司名称为南阳市艾兴堂艾草制品有限公司，曾用名为南阳市艾兴堂商贸有限公司，成立于2014年，是一家从事零售业为主的企业。2022年至2023年工商年报参保人数为5人。
夸姐姐的AI数字人外貌“撞衫”“两个弟弟长一样”
网络渠道“眼见”不一定为实。“我的好姐姐，在我眼里，你是最美的人呀。这个大家千方百计想要找的美丽秘密，就藏在你自己身上……”账号“洋洋弟弟说生活”说罢一番令人心花怒放的话后，奉上关怀的问候。
“最近天气干燥，弟弟还是担心您，所以特意为您带来了这款黄芪霜。添加了优质黄芪精华，搭配芍药精粹，温和保湿，滋润肌肤。有需要的姐姐，可以进入我的橱窗，把它带回家吧。”
南都健闻记者注意到，上述视频点赞量达到近四千，有不少老人在此评论，“弟弟，你说的话太让我感动了，我没有你说的那么好。谢谢你的夸奖。”“弟弟，我早就买了5盒了，就先不买了。”“弟弟，我从来没用过什么化妆品，也舍不得钱，不想浪费。”……
尽管不少老人将主播温情的话语听入了心，但仔细观察，上述视频内容并非真人出镜，而是AI技术生成的虚拟数字人。
更为令人哑然失笑的是，这类夸奖姐姐的虚拟主播逐渐增多，其中“王建国弟弟”和“李明哥”账号的人物形象一模一样。在“李明哥”账号中，男子身着笔挺的西装，扎着领带，站在虚构的山水图前，张嘴就是“姐，咱俩能在茫茫人海碰上，我觉得是上辈子的攒下的福气。”“我会陪伴你走过岁岁年年，不只当下，还有未来的每一天。”……
在其中一则视频中，“李明哥”在上述关怀的话语说完后，便开口称，“对了，姐姐，你之前不是和我说过晚上失眠吗？我一直四处打听，还真从一位老先生那儿获得了方子。您点击我的小黄车就可以把它带回家了。”不少老人纷纷留言感谢，更有老人直言，“前几天买了，用完了会回购。”
南都健闻记者注意到，上述产品为茯苓茶，基础装为25.9元，周期装为85.7元。产品销售量为10.8w，评价高达5000余条。其商品橱窗里的货物，包括眼霜、泡脚中药包、驼奶、老北京布鞋等，有的品类销售量甚至达到数百万。
养老诈骗花样百出有关部门持续加强整治
当前，AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务，也给网络诈骗带来可乘之机。
国家金融监督管理总局曾对此发布关于防范养老诈骗的风险提示，如不法分子通过面部替换、语音合成等方式，制作虚假图像、音频、视频，仿冒他人身份实施诈骗，侵害消费者合法权益。
据介绍，利用AI新型技术实施诈骗主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，进而诈骗钱财。不法分子通常先以“网店客服”“营销推广”“招聘兼职”“婚恋交友”等为借口，通过微信、QQ、电话等方式联系消费者，采集发音、语句或面部信息。再利用“拟声”“换脸”等技术合成消费者虚假音频或视频、图像，以借钱、投资、紧急救助等借口诱导其亲友转账汇款，或提供银行账户密码等敏感信息，随后立即转移资金。此外，不法分子还可能对明星、专家、官员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。
此类诈骗手段迷惑性、隐蔽性较强，诈骗金额较高，为保护广大金融消费者合法权益，国家金融监督管理总局提示：
一、网络渠道“眼见”不一定为实。“拟声”“换脸”等合成技术的一大特点即“以假乱真”，不法分子可利用此类技术轻易伪装成他人，并通过快速筛选目标人群、定制化诈骗脚本，精准实施诈骗。因此，在涉及资金往来时，一个“声音很熟的电话”、一段“貌似熟人的视频”都可能是不法分子的诈骗套路，消费者应提高警惕。
二、转账汇款务必核验对方身份。面对自称“熟人”“领导”等通过社交软件、电话等以各种理由诱导汇款，务必核验对方身份。如可在沟通过程中提问仅双方知晓的问题，也可利用其他通讯方式或见面核实，或向对方的朋友、家人验明身份和情况。在无法确认对方身份时，应尽量避免转账操作。
三、保护好照片、声音等个人信息。消费者应提高个人信息保护意识，不随意下载陌生软件、注册陌生平台或添加陌生好友，对个人社交账户的安全状况保持警惕。尽量避免在互联网过多暴露个人照片、声音、视频等信息，不贪图方便把身份证、银行卡照片等直接存放在手机内。如不慎被骗或遇可疑情形，应注意保存证据并立即向当地公安机关报案。
南都健闻开启线索征集欢迎扫码报料“老人网络养生骗局
近年来，针对老年人网络消费安全和防诈骗问题，国家采取了一系列措施，旨在加强监管、提高老年人防骗意识，并严厉打击相关违法犯罪行为。
2022年4月以来，平安中国建设协调小组牵头开展全国打击整治养老诈骗专项行动，重点打击以“养老服务”“健康养生”为名的诈骗行为，整治网络平台乱象。
公安机关提醒，老年朋友要主动增强防骗意识，一要看养老服务、养老项目或者是投资是否由具有正规资质的机构提供。二要抵制高利益诱惑。三要拒绝听信所谓的“熟人”“能省钱”等谎言。四要端正保健理念。五要保持家人间多沟通商量。
即日起，南都健闻开启线索征集，聚焦老年人网络消费陷阱及健康养生骗局。如果您或您的家人曾遭遇类似网络群诱导消费、购买过高价或三无产品，或在退货维权过程中遇到阻碍，欢迎向ag凯发_凯发一触即发提供线索。您的经历将帮助ag凯发_凯发一触即发揭露更多骗局，推动社会关注老年人网络消费安全，共同守护老年人的权益。
出品：南都教育健康事业部
（作者为中国人民大学文学院教授）
【注：本文系教育部人文社会科学研究一般项目“乾嘉笔记叙录与整理研究”（项目编号：19YJA751039）阶段性成果】
责编/韩拓 美编/徐志祥
声明：本文为人民论坛杂志社原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者，否则追究法律责任。
