AI医疗须防“自动化偏见”

时间:2024-02-10 20:29    来源:人民网    阅读量:18262   

据新华社日内瓦电世界卫生组织近日发布的多模态大模型治理相关新指南指出,人工智能在医疗卫生领域应用前景广阔,但同时要防范其中可能出现的诸如“自动化偏见”导致的过度依赖等风险。

AI医疗须防“自动化偏见”

作为一项快速发展的生成式人工智能技术,多模态大模型是指能够处理图像、文本、声音等多种类型数据的深度学习模型,广泛应用于医疗卫生领域。

世卫组织这份新指南概述了多模态大模型在医疗卫生领域的五大应用场景:诊断和临床护理、患者自主使用、文书和行政工作、医疗和护理教育、科学研究和药物研发。

新指南还指出了医疗系统面临的相关风险:表现最佳的多模态大模型的可及性和可负担性;多模态大模型可能助长“自动化偏见”,使医疗专业人员和患者过于依赖人工智能,忽略原本可以由人发现的差错;多模态大模型与其他形式的人工智能一样,也容易受到网络安全风险的影响,从而危及患者信息安全、有损算法的可信度等。

世卫组织首席科学家杰里米·法勒说,生成式人工智能技术具有改善医疗保健水平的潜力,但前提是研发、监管和使用这些技术的人必须识别并充分考虑相关风险。人们需要透明的信息和政策来管理多模态大模型的设计、开发和使用,以取得更好的卫生成果,克服持续存在的卫生不平等。

世卫组织强调,为了创造安全有效的多模态大模型,政府、科技公司、医疗服务提供者、患者等利益攸关方需要参与相关技术研发和部署的各个阶段,对多模态大模型进行监管并制定相关规范。

声明:免责声明:此文内容为本网站转载企业宣传资讯,仅代表作者个人观点,与本网无关。仅供读者参考,并请自行核实相关内容。

热门推荐

点击排行
推荐图文
推荐资讯