当人类放射科医生检查扫描结果时，他们是通过几十年的训练来观察的。从大学到医学院再到住院医师实习，最终成为一名医生的过程，比如解读一张x光片，包括成千上万小时的学术和实践教育，从为执照考试而学习，到多年的住院医师实习。
目前，人工智能（AI）解释医学图像的训练途径要简单得多：向AI显示标记有感兴趣的特征（如癌症病变）的医学图像，数量足够大，以便系统识别模式，使其能够在未标记的图像中“看到”这些特征。
尽管在过去10年里，关于人工智能和放射学的学术论文发表了1.4万多篇，但结果充其量只能算中等。2018年，斯坦福大学的研究人员意识到，他们训练的用于识别皮肤病变的人工智能错误地标记了包含尺子的图像，因为大多数恶性病变的图像中也有尺子。
计算机与信息科学（CIS）助理教授马克·亚茨卡尔（Mark Yatskar）表示：“神经网络很容易在虚假相关性上过度拟合。”他指的是模拟生物神经元的人工智能架构，并为ChatGPT和图像识别软件等各种工具提供支持。“它不像人类那样做决定，而是走捷径。”
在一篇将在NeurIPS 2024上作为焦点分享的新论文中，Yatskar与CIS教授Chris calison - burch以及由Callison-Burch和Yatskar指导的博士生岳阳（Yue Yang）一起介绍了一种通过模拟人类医生的培训途径来开发用于医学图像识别的神经网络的新方法。该论文发表在arXiv预印本服务器上。
Yatskar说：“一般来说，对于人工智能系统，程序是将大量数据扔给人工智能系统，然后它就会计算出来。”“这实际上与人类的学习方式非常不同——医生的教育有多个步骤。”
该团队的新方法有效地将人工智能带入了医学院，它提供了一套医学知识，这些知识来自教科书、美国国家医学图书馆（National Library of Medicine）的学术数据库PubMed，以及为医生提供实践考试问题的在线公司StatPearls。
Yatskar指出：“医生在正式开始临床培训之前，要在医学院花数年时间从课本和课堂上学习。”“我们正试图模仿这一过程。”
在经过验证的医学知识体系的训练下，KnoBo是可解释的，这意味着它可以直接做出决定
关于人类可以理解的医学图像。Credit：岳阳
这种新方法被称为知识增强瓶颈（KnoBo），本质上要求人工智能基于既定的医学知识做出决策。
“在读x光片时，医学生和医生会问，肺是否清晰，心脏大小是否正常，”杨说。“该模型将依赖与人类在做决定时使用的因素相似的因素。”
结果是，与目前一流的模型相比，使用KnoBo训练的模型不仅在根据肺部x射线识别COVID患者等任务上更准确，而且更具可解释性：临床医生可以理解模型做出特定决定的原因。
杨说：“你会知道为什么系统预测这张x光片是COVID患者——因为它在肺部有不透明。”
用KnoBo训练的模型也更加健壮，能够处理现实世界数据的一些混乱。人类医生最大的资产之一是，你可以把他们放在许多不同的环境中——不同的医院和不同的病人群体——并期望他们的技能能够转移。相比之下，针对特定医院的特定患者群体进行训练的人工智能系统很少能在不同的环境中表现良好。
为了评估KnoBo帮助模型关注重要信息的能力，研究人员在“混杂”数据集上测试了广泛的神经网络。从本质上讲，就是在一组病人身上训练模型，比如，所有病人都是白人，健康的病人是黑人，然后在具有相反特征的病人身上测试模型。
“以前的方法都失败了，”杨说。“使用我们的方法，我们将模型限制在我们从医疗文件中了解到的知识之上。”即使在混杂数据上，使用KnoBo训练的模型平均准确率也比在医学图像上进行微调的神经网络高出32.4%。
鉴于美国医学院协会（AAMC）预计，到2036年，仅在美国就将短缺8万名医生，研究人员希望他们的工作将为人工智能在医学上的安全应用打开大门。
Yatskar说：“在帮助人们获得帮助方面，你真的可以产生影响，否则他们就无法获得帮助，因为没有合适的人有资格提供帮助。”
更多信息：岳阳等，领域转移的教科书补救：医学图像分析的知识先验，arXiv（2024）。DOI: 10.48550/ arXiv .2405.14839期刊信息：arXiv由宾夕法尼亚大学提供引文：用知识训练医学图像分析AI，而不是捷径（2024年，10月15日）检索于2024年10月17日https://medicalxpress.com/news/2024-10-medical-image-analysis-ai-knowledge.html此文档受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。内容仅供参考之用。
