xAI-EWS -预测急性重症疾病的可解释AI模型

急性危重症的早期临床预测对患者预后有重要影响。然而，为了使临床医学受益于人工智能更高的预测能力，可解释和透明的系统是必不可少的。Simon Meyer Lauritsen和他在Enversion、奥尔胡斯大学和丹麦Horsens地区医院的合作者开发了xAI-EWS——一种可解释的人工智能早期预警评分系统，使用电子健康记录预测急性危重疾病。

医务人员诊断病人急性危重症的时间对病人的预后有关键影响。急性重症通常伴随着病人生命体征的恶化——常规测量的心率、体温、呼吸频率和血压。早期临床预测往往基于手工计算，使用这些临床参数产生筛选指标，包括早期预警评分(EWS)系统，如顺序器官衰竭评估评分(SOFAs)。

虽然人工智能(AI)可以比传统的EWS系统更早地做出更准确的预测，但这些黑箱预测很难向临床医生解释。这意味着要在透明度和预测性药物的潜在力量之间进行权衡。医疗保健透明度包括向公众提供有关质量、效率和患者体验的信息。这必须是可靠和全面的，以便为病人、提供者、付款人等的选择提供信息，以便在护理质量和成本方面取得更好的结果。在这种高风险应用中，通常会选择更简单、更透明的系统，以便临床医生能够轻松地回溯预测。然而，这种策略可能会导致患者的负面结果。

Simon Meyer Lauritsen是Enversion a /S和奥胡斯大学的生物医学工程师和工业博士研究员，他和他的同事们开发了一个强大而准确的人工智能模型，能够预测病人是否会患上急性重症。此外，他们设计了这样一种算法，它通过参考支持它的电子健康记录数据提供预测的解释来支持临床医生。

深入学习算法
Lauritsen博士和团队解释说，为了让临床医学受益于人工智能更高的预测能力，可解释和透明的深度学习算法至关重要。深度学习是一种特别适合于大数据集的机器学习方法。深度学习算法基于大脑的结构和功能部署人工神经网络，利用了大量廉价的计算。这些算法涉及到大型复杂的神经网络，随着使用越来越多的数据进行训练，它们的性能将继续提高。

让临床医学受益于人工智能更高的预测能力，可解释和透明的深度学习算法
是至关重要的。

此前对电子健康记录训练的人工智能系统的研究表明，该系统具有高水平的预测性能，可以提供急性重症的早期、实时预测。不幸的是，关于这些系统做出的复杂决定的信息的缺乏阻碍了它们的临床转化。

可解释的AI预警评分系统:xAI-EWS
利用电子健康记录形式的历史健康数据，研究团队的创新人工智能算法可以预测患者是否会患上急性重症。该算法经过训练，可以从历史数据中识别与当前案例相似的案例。根据病人的重要参数和血液测试，它可以识别危重疾病的早期迹象。然后，它会向用户提供何时以及如何继续对患者的护理的评估。

研究人员展示了可解释的人工智能早期预警评分系统，简而言之，xAI-EWS，如何通过采用深度学习(Deep Learning)方法分析多样化的多中心数据集，克服了其他计算模型中观察到的不足。他们使用了2012年至2017年五年期间收集的丹麦四个城市所有18岁及以上居民的二级医疗数据。这些数据由来自电子健康记录的信息组成，包括生物化学、医学、微生物学和程序代码。它是从CROSS-TRACKS队列中提取的，这是一个基于人口的丹麦跨部门队列，由农村和城市多中心混合人口组成，由四家地区医院和一家较大的大学医院提供服务。每个医院的科室都有急诊、重症监护和胸外科。

Lauritsen博士提取了这一时期所有163050名住院病人的数据，以便纳入他的分析。共有66288名个体患者参与了这些住院治疗。患者平均年龄55岁，男性占45.9%。该研究集中于急诊医学病例中常见的三种急性危重疾病:败血症、急性肾损伤和急性肺损伤。急诊医学病例占入院人数的比例分别为2.44%、0.75%和1.68%。模型参数包括27个实验室参数和6个生命体征。这些特征是由急诊医学专业的临床医生选择的。

预测性能
这一数字医学模型的预测性能是与三种急性危重疾病基线预测模型进行比较的:传统模型MEWS(修正早期预警评分)、SOFA和另一种人工智能模型，后者是一种机器学习算法，在之前的一项随机研究中取得了巨大的成果。

xAI-EWS系统的临床有用性是通过计算模型在不同决策阈值下的净效益来评估的，这是基于从病例样本中产生的真阳性和假阳性的数量。这种早期检测的新方法比任何现有的警报系统有更多的真阳性和更少的假阴性。在整个比较研究中，xAI-EWS系统优于所有三个基线模型。

解释的质量
对伴随xAI-EWS预测的解释的质量也进行了评估，由急诊医学专业的临床医生进行了人工检查。对xAI-EWS系统产生的预测和解释的评价表明了其普遍的临床相关性。除了它的高预测性能，xAI-EWS提供了预测的解释，通过精确定位决定性的输入数据，使临床医生能够理解预测背后的潜在原因。

研究人员强调了xAI-EWS系统的另一个重要好处:医院医疗保健专业人员的日常工作流程不必改变，就可以利用该系统的预测能力，因为该模型是基于电子健康记录中常规捕获的数据。此外，当临床医生将原始患者数据输入电子健康记录时，xAI-EWS提供了实时预测，提高了急性危重疾病检测的及时性。

发现危重疾病的最大价值在于，潜在的干预措施变得更及时、更有针对性。

更广泛的影响
研究人员解释说，“发现重大疾病的最大价值在于，潜在的干预措施变得更及时、更有针对性”。这意味着治疗和护理资源可以得到更好的利用。此外，受影响的患者受益于提高生存机会，更少的副作用和提高生活质量。

就目前的Covid-19大流行而言，xAI-EWS可以帮助医生评估患者是否或何时需要外部通气。虽然Covid-19是一种新疾病，但肺功能受损是众所周知的，因此根据以往的肺功能受损数据进行预测，有助于对患者进行快速有效的治疗。

人工智能的概念可能会引起怀疑。我们如何确保算法确实在做我们想要它做的事情呢?在这种情况下，严重疾病预测算法确保医生参与整个过程。研究小组开发xAI- ews系统的一个关键部分是xAI——“可解释的人工智能”。从临床实施的角度来看，算法能够准确地解释其建议并支持临床工作人员对其预测的解释是至关重要的。研究小组总结道:“通过这种方式，医生可以根据检测结果采取行动，并确保患者得到正确的治疗。”但与此同时(他们)也完全明白，为什么算法会计算出风险。这种算法的基本和独特特征被认为是确保最佳临床翻译的关键。”