人工智能有望成为提高医学诊断速度和准确性的关键

       人工智能预计沦为提升医学诊断速度和准确性、提升患者治疗效果的强有力工具。从确诊疾病到个体化疗法，再到预测手术并发症，人工智能也许会沦为未来患者医疗不可或缺的一部分，就像今天的成像和实验室试验那样，但正如华盛顿大学的研究人员所找到的，人工智能模型和人类一样，偏向于找寻捷径。在人工智能辅助疾病侦测的情况之下，如果在医学环境之中布署这些快捷方式，也许会造成确诊错误

        刊登在5月31日《自然机器智能》之上的一篇全新论文之中，华盛顿大学的研究人员分析了几个最近提交的模型，当作从胸部X光（也称作胸部X光）之中精确侦测疾病的潜在工具。研究小组找到，这些模型不是研习真正的医学病理学，而是局限于快捷方式研习，在医学之上有关的因素和疾病状态间画出正确的联系，医生通常期望从X光之中看到体现疾病过程的特定模式，但他们不局限这些模式。例如，采用快捷方式研习的系统也许会辨别某人是老年人，并推测他们更难患上这种疾病，因为这在老年患者之中更为常用

        研究小组说，快捷方式研习不如真正的医学病理学强劲，这通常使得模型不能很糟糕地在早期设置以外推展

        融合鲁棒性的缺乏和AI决策的典型不均匀，这种工具也许会沦为潜在救生员的负担

        欠缺透明度是造成团队致力于可说明的医疗和科学人工智能技术的因素之一。大多数人工智能被相信是一个“黑匣子”。该模型是在海量数据集上培训的，当没人明白模型如何获得给定的结果时，它会作出预测。通过可说明的人工智能，研究人员和实践者可详尽认识各种输入及其权重如何冲击模型的输出

        研究小组采用这些相近的技术来检验最近吹捧的模型的可信度，这些模型似乎能精确地从胸部X光之中辨识病变。尽管许多已刊登的论文计算了这一结果，但研究人员质疑，造成模型预测的黑匣子外部也许爆发了其他事情，研究小组得出结论，由于欠缺针对这种全新疾病的训练数据，这些模型难发生”的“最好情况动荡”。这种情况减少了模型依赖快捷方式而不是从训练数据之中研习疾病的基本上病理学的可能性，最好的情况是让人工智能系统只研习辨识数据集，而不是研习任何真正的疾病病理学。当所有阳性病例源自一个数据集，而所有阴性病例源自另一个数据集时，就会爆发这种情况。尽管研究人员已经提交了一些技术来减轻这些关联，但当它们不太轻微时
 

        研究小组对源自拷贝已刊登论文中所用方法的数据集的X射线图像培训了多个深度卷积神经网络。首先，他们在训练数据的初始数据集的一组外部图像之上试验每个模型的性能

        尽管这些模型在外部数据集的图像之上试验时维持低性能，但在第二组之中，它们的精确度减少了一半。研究人员称为“普遍化差距”，并将其用于强有力证据，证实混杂因素是该模型在初始数据集上顺利的原因。研究小组随后运用了可说明的人工智能技术，包含分解对付网络和明显性图，为了确认哪些图像特征在确认模型预测之中最关键，这些结果废黜了传统观点，即当数据集源自相近的来源时，误解不会引发任何问题。他们还反映了低性能医疗人工智能系统在余大程度之上可透过不适当的捷径，而不是未来所需的信号，可说明人工智能将沦为一个关键的工具，以保证这些模型可安全性精确地用作减弱医疗决策，并为患者获得更糟糕的结果，尽管研究小组的研究结果令人担忧，该团队分析的模型不太可能在医学环境之中普遍布署

        关于在何处以及如何布署这些模型的完备信息不能用，但可赞赏的是，这些模型的临床运用很难或不适用，而且在大多数情况之下，医疗保健提供者采用实验室侦测PCR展开诊断，而不是局限胸部X光

        期望将人工智能运用于疾病侦测的研究人员需改良他们的方法，然后才能采用这些模型为患者作出具体的治疗决定

        分析结果表明运用可说明人工智能技术对医疗人工智能系统展开严苛审核的重要性。如果你看几张X光片，AI系统也许看上去不俗。只有当你看了很多图片，问题才变得清楚上去。除非我们有办法用更小的样本量更精确地审查这些系统，否则更余能说明人工智能的系统应用程序可协助研究人员防止一些陷阱。”1006