一张超声图就能让AI预测胎儿长相?揭秘AI生图背后的隐忧

··

  近日,市民朱女士向解放日报•上观新闻“民声直通车”反映,她在某电商平台付费8.8元下单四维超声图AI预测胎儿长相。一开始,她感到商家反馈的生成照片和彩超影像有几分相似,但当其他宝妈将生成图分享出来时,她才发现,宝宝们竟然“撞脸”了。当她向卖家申请退费时,商家怀疑其是同行在搞鬼,拒绝退费。

  在各大社交、电商平台,搜索“AI预测宝宝长相”等关键词,各类有偿或无偿的AI预测宝宝长相服务的账号、小程序等接二连三地出现。用AI预测胎儿长相究竟是不是智商税?这些打着“预测”噱头的技术服务背后有何套路?

△商家晒出的比对图。

  半小时就能出4张图,商家订单过万

  翻看“AI预测宝宝长相”的帖文可发现,由于涉及胎儿的面部特征,需要提供的照片多数是四维的超声检查图片。而一般孕妇拍摄四维彩超的时间是孕20至26周,主要是为了看清肢体、五官等是否健全。

  6月18日,记者用“四维AI照片预测”等关键词搜索主流购物平台,排名第一的商家24小时内已有69人购买该服务,成交20000多单。多数都不支持7天无理由退货。在详情页面,卖家将四维图、出生图和AI绘画图进行了比对。记者注意到,许多四维图展现的画面信息模糊不全,甚至没有正面的五官信息。

  一家售价8.8元的店铺客服介绍,只要发送1张宝宝的三维、四维或五维图给客服,等待10余分钟就可生成4张AI图。记者询问是用何种技术预测,对方表示,用的是“mj”,即Midjourney制图工具。似乎为了减少消费者的疑虑,客服特别标注,采用专属独立服务器、保护隐私。在另一家售价9.9元的店铺,客服则表示必须要四维照片,AI模型将会输出4张出生长相预测结果,但不愿意透露AI模型的名称。

  一家主打AI绘画的店铺单次售价“高达”26.9元。客服声称,他们的AI预测是高清深度还原,区别于普通还原,不是一键生成,更不是网图或者素材图,生成的照片五官特征明显,结合多项“黑科技”,相似度可以高达80%,因而制作流程烦琐,速度慢。“需要人工修复加软件,遇到一张胎儿角度不正的图,耗时需要1个小时以上。”

  消费者是否对AI预测宝宝长相服务买单?市民苏女士怀的是双胞胎,出于“图个乐,满足好奇心”的想法,在电商平台下单做了预测:“这钱花得就是图一个情绪价值。”市民白女士尚未生育,她认为,这类预测服务是商家借用AI技术贩卖虚假服务。

  从买家的反馈看,认为相似度高的买家,晒出的婴儿图片脸型大多圆润,多数都是闭着眼睛、嘴巴紧闭的状态。加之毛发稀少,或戴着帽子,判断像不像主要取决于鼻子、人中。也有买家表达了不满意,认为撞脸度过高,“一键套用模板”“像是随便找的网图”。有买家直言“B超和AI图完全没关系,拿捏我们这些准妈妈的好奇心行骗”。对此,商家多以“预测本来就是讲究可能性,没有绝对的事情”来回应。

△商家晒出的效果图案例。

  娱乐属性强,专家提醒提防隐私泄露

  用AI预测胎儿长相究竟是不是智商税?实际上,Midjourney是美国一个工作室研发的AI制图工具,官方中文版仍然处于内测中。卖家看到商机,不排除通过“二道贩子”等代理服务的方式为国内用户提供镜像服务获得生成结果。

  商家声称的“制作成本高,定价低”也同样存疑。实际上,Midjourney在海外提供多种订阅选择,月费从10美元起步。用户可在网页端进行创作,无需安装程序。用户将彩超图拖进网页后,输入关于生成结果的描述词,比如国籍、眼睛、皮肤、脸型、穿着、装饰物等,网页就会根据词义快速生成一张四宫格的图片,还可以多次修改、生成。

  宝妈们从社交平台、社群或者私立医院广告中了解到该服务后,进而上传超声诊断报告获取AI图片。有社交平台、应用软件上线了“四维AI预测宝宝长相”的拍摄功能,要求用户将超声诊断报告放在摄像头前,露出孕妇的名称、年龄、检测时间、幼儿生物信息。多款主打免费预测的小程序,采取用户授权查看广告后才能获得免费生成的资格。有的还诱导用户充值成为会员,获得快速生成结果的权限。更有甚至,一款“宝宝长相预测助手”还要求提供婴儿父母的人脸信息。

△社交平台出现一键预测的功能。

  在售卖预测图之外,记者还发现了许多打着“5分钟就能学会的AI副业,轻松月入过万”,贩卖AI预测课程的账号。有商家号称提供的是结合人工智能和医学影像学的创新技术,售价高达2199元。部分商家抓住女性生育哺乳期间的职场真空状态,对AI技术应用大肆营销。

△贩卖AI预测胎儿长相技术的课程。

  中伦律师事务所合伙人刘新宇认为,利用超声影像预测胎儿长相属于娱乐属性更强的应用。商家正是看中了现实中宝妈对未出生宝宝容貌的期待心理,这个细分领域才会迅速打开市场。不过,AI制图工具是在胎儿超声影像数据的基础上,通过输入的描述词以及其底层算法逻辑扩散演化生成一张新的图,这个过程应该理解成是一种图像重绘,而非预测。尽管新生成的图在很大程度上依赖于原始胎儿超声影像,表现出一定的相似性特征,但由于无法考虑到真实胎儿在母体发育以及出生过程中可能会受到的遗传、环境等方面因素的影响,AI制图工具很难准确地预测出宝宝的真实模样。对此,平台应建立起相应的管理制度体系,对于各类特别是涉及侵犯他人合法权益的不法行为及时采取处置措施;商家则应当做好相应产品和服务规则的明确告知,不得误导、欺骗消费者,或侵害消费者的个人隐私等各项合法权益。

  浙江理工大学数据法治研究院副院长郭兵则指出,超声影像属于一种私密信息,可能夹带有其他个人信息,上传到公开平台存在泄露隐私信息的风险,容易导致用户的隐私信息被应用于各类“精准”营销,甚至是电信网络诈骗。不排除是第三方绕过平台规则为用户提供的服务。他建议,消费者应当对提供生图服务的商家擦亮眼睛,注意保护自己的隐私信息。“即便平台下架了相关服务,隐私信息一旦泄露,也很难再挽回了。”

  来源:上观新闻

  作者:车佳楠

责编:石慧
网友评论
全部评论
查看更多评论
海报热榜
相关推荐

Copyright © 1998-2024 DazhongMedia. All Rights Reserved.      山东省互联网传媒集团股份有限公司  版权所有  加入我们  鲁ICP备09023866号