谷歌AI健康搜索引发争议,紧急下架部分医疗查询AI摘要

当用户向搜索引擎询问“肝功能检查的正常范围是多少”时,得到的答案可能直接关系到他们的健康判断。近期,谷歌的AI摘要功能(AI Overviews)在回应部分医疗健康查询时,因被指可能提供不完整或误导性信息而陷入争议。最新市场动态显示,谷歌已悄然移除了针对部分特定医疗查询的AI摘要结果,这一调整凸显了AI在提供严肃健康信息时所面临的巨大挑战。

事件核心:AI摘要的“一刀切”风险

问题的焦点集中在一些具体的医疗查询上。例如,对于“肝功能检查正常范围”这类问题,AI生成的摘要此前可能直接提供一个数值范围,而没有充分考虑到国籍、性别、种族、年龄等个体差异因素。医学专家指出,肝功能检测的正常值(Reference Range)并非全球统一标准,不同实验室、不同人群的参考值可能存在显著差异。一个缺乏上下文的“标准答案”,极有可能导致用户误判自己的健康状况,认为结果正常而延误就医。

据熟悉内情的人士透露,在相关报道引发关注后,谷歌已经移除了针对“肝功能检查正常范围”等具体查询的AI摘要。然而,测试发现,使用“LFT参考范围”等变体关键词进行搜索,有时仍可能触发AI生成的总结。这表明,AI系统对查询意图的理解和内容过滤机制仍存在改进空间

谷歌的回应与行业困境

对于此次调整,谷歌方面并未对具体查询的移除发表评论。该公司在一份声明中表示,其内部临床医生团队审查了被指出的查询,并发现“在许多情况下,信息并非不准确,并且也得到了高质量网站的支持”。谷歌强调,其工作重点是“进行广泛的改进”。

这并非谷歌首次面临健康信息准确性的挑战。去年,该公司曾宣布推出一系列新功能,旨在改善谷歌搜索在医疗健康场景下的应用,包括改进的概述和专注于健康的AI模型。然而,生成式AI(Generative AI)大规模应用于医疗信息检索,本质上是在平衡信息的即时性与绝对准确性。AI模型基于海量网络数据生成摘要,但网络信息本身质量参差不齐,且医学知识更新迅速,这给AI的可靠性带来了根本性考验。

专家观点:治标更需治本

对于谷歌的移除动作,行业观察人士态度谨慎。有医疗慈善机构的通讯主管表示,移除有问题的特定搜索结果虽然是“好消息”,但更大的担忧在于,这只是“针对单个搜索结果的挑剔”,并未解决AI摘要应用于健康领域的根本问题。

核心矛盾在于:用户对便捷、易懂答案的需求,与医疗信息固有的复杂性、严谨性之间存在天然张力。AI摘要旨在简化信息,但过度简化在医疗领域可能是危险的。专家建议,对于健康类查询,AI系统应更加强调信息的来源、时效性和局限性,并明确提示用户咨询专业医疗人员,而不是试图提供一个看似确定的“最终答案”。

行业影响与未来展望

此次事件为整个科技行业敲响了警钟。随着微软Bing Chat、Perplexity.ai等越来越多的搜索引擎和AI助手集成生成式AI功能,如何负责任地处理医疗、法律、金融等高风险领域的查询,已成为一个无法回避的行业性难题

未来的解决方案可能包括:建立更严格的医疗信息内容审核机制、与权威医学机构合作训练专用模型、以及在AI输出中内置更醒目的免责声明和引导提示。对于用户而言,一个重要的启示是:在涉及自身健康的关键决策时,AI生成的摘要只能作为参考的起点,绝不能替代专业医生的诊断和建议。搜索引擎AI的进化之路,不仅关乎技术精度,更关乎对生命健康的敬畏与责任。

© 版权声明
通义千问广告 - 响应式版
通义千问大模型 免费资源包
7000万tokens 免费领!
额外赠送25%折扣卷
去官网领取优惠

相关文章

暂无评论

none
暂无评论...