1. 首页 > 快讯  > 警惕AI生成“神医”成为医疗欺诈陷阱

警惕AI生成“神医”成为医疗欺诈陷阱

  来源:北京青年报

  电商热销产品“苗古金贴”,号称由传承“千年秘方”的非遗传承人制作,专攻膝盖、颈椎等问题。在一些电商平台,该产品甚至排到了“热敷贴回购榜”第一名。然而,据媒体调查发现,该“非遗传承人”的照片实为AI生成,“非遗传承人”证书由一家机构违规炮制。类似“神医”“神药”在网上还有很多,假非遗加上AI生成的假传承人,经过一系列的虚假包装,产品竟然可以在各大电商平台大肆销售。

  由AI生成的文本、图像和视频等,在为民众的生活和工作带来诸多便利的同时,也给社会带来了一些麻烦和困扰。如果AI生成的内容被恶意利用到商业领域,虚假广告、伪造身份、捏造资质等行为就会悄然出现。普通人面对高度仿真的AI生成内容,往往难以辨别真伪,因而极易上当受骗。

  AI生成的“神医”具有一定的迷惑性。从肉眼观察,这些“神医”的面容神态和身份证书等均十分逼真,现在的技术甚至能通过不同场景的图片,拼接出“神医”的虚假人生轨迹。在“苗古金贴”事件中,AI生成的“非遗传承人”不仅拥有全套视觉素材,而且配有伪造的机构认证,形成环环相扣的欺骗链条。如果不对其加以约束,那么将来随着人工智能技术进一步成熟,消费者将会更加难以分辨“神医”究竟是真人还是AI合成。

  针对AI生成的普通内容,需要通过强制标识等举措强化监管。但对于AI生成的“神医”,有必要在此基础上予以重拳出击。医疗关系到民众的生命健康,任何打着AI旗号的医疗虚假宣传都应被严令禁止。监管部门需秉持零容忍的态度,对涉及医疗健康领域的AI生成内容实施前置审查。此外,还应完善相关法律法规,进一步明确AI冒充专业人士的法律责任,让技术造假者付出代价。

  除了监督与打击,全链条治理更是必不可少。从伪造非遗证书的中介机构,到提供AI生成服务的科技公司,再到销售贴牌产品的代工企业,每个环节都应纳入监管视野。对此,有必要建立跨部门的协作监督机制,严查虚假认证机构,强化AI生成内容的溯源追踪,完善医疗器械广告审查流程。唯有从各个环节入手,方能尽快斩断AI“神医”的利益链条。

  “神医”有多种表现形式,并且不同时期有不同类型的“神医”。但过去的“神医”,无论他们在电视上售卖所谓的“祖传秘方”,还是在直播间吹嘘产品“包治百病”,都需要人来伪装,可以追溯和处罚到假扮成“神医”的真人。相比之下,AI生成“神医”不仅能够做到神似和形似,而且还能够做到量身定制、批量出现。AI生成“神医”值得高度警惕。填平这个医疗欺诈“深陷阱”,就得通过技术更新快速识别这类“神医”,并丰富监督与打击手段,大幅度提升惩戒的力度,阻止“神医”利用AI技术实施欺诈。

  面对AI生成假“神医”的新情况,平台与监管部门应保持对AI技术的跟踪,学会使用最新技术,了解技术瑕疵、漏洞等,以提高鉴别能力。同时,可采取“AI打假AI”的手段,引入AI辨伪技术,建立数据库,实现智能化识别“AI神医”,提升辨伪效率。只有以技术手段反制技术造假,以制度建设重构市场秩序,才能彻底斩断AI生成假“神医”的利益链,避免其成为医疗欺诈的陷阱。

李安宁