医疗人工智能（Medical AI）在临床转化过程中正面临一个根本性的技术瓶颈：不确定性量化（Uncertainty quantification）的缺失。传统深度神经网络普遍缺乏对其训练数据表征边界的认知能力，在面对未知或未定义的临床输入时，极易产生高置信度的误判。这种对未知区域缺乏辨识能力的缺陷，导致 AI 系统可能将从未见过的罕见病变或由于制备干扰产生的伪影切片，高置信度地错误归类为某种已知疾病，给临床诊疗安全带来潜在风险。
近日，生物医学工程与数字病理学领域学术期刊《自然-生物医学工程》（Nature Biomedical Engineering）发表了一项研究论文。美国范德堡大学医疗中心（Vanderbilt Health）与香港等多地研究中心组成的联合科研团队，开发出一种名为 TRUECAM 的通用型不确定性感知 AI 外壳（AI wrapper）框架。该框架作为包裹于底层数字病理 AI 系统外部的定制化功能插件层，能够在不重构底层算法的前提下，动态识别超范围（Out-of-scope）输入并过滤低质量干扰区域，为癌症亚型分类提供可量化的准确率保证。
为了确证该外壳框架的泛化效能，研究团队主要以非小细胞肺癌（NSCLC）的全视野切片（Whole-slide images）亚型分类为基准验证场景。TRUECAM 被分别包裹在一种广泛应用的常规 NSCLC 亚型分类 AI 架构，以及四种泛化能力较强的数字病理学 AI 基础模型（Foundation models）之上，并在多中心、跨器官的数据集上接受了效能校验。
测试样本涵盖了来自两个不同地理区域癌症研究联盟的 NSCLC 切片、一组人工构建的具有临床意义的超范围干扰图像，以及来自香港玛丽医院（Queen Mary Hospital）的真实世界连续病例切片。此外，验证场景还进一步扩展到了乳腺、大脑和肾脏等多器官的癌症组织病理数据。
多中心数据测试表明，TRUECAM 展现出了两项核心过滤功能。首先是识别超范围输入：当遭遇超出模型训练集边界的高难度或处于不可解释区间的切片时，系统启动转诊（Deferral）机制，将诊断权安全地交由人类病理学家进行复核。其次是精准去噪：在全视野切片级别，系统能够自动滤除正常组织、染色不良区域或组织制备过程中产生的伪影等无信息干扰区（Noninformative regions），避免这些无效背景污染整张切片的最终临床推断。
论文共同第一作者 Chao Yan 博士指出，传统的数字病理切片往往被大面积的正常组织或模糊病变区域主导，常规 AI 容易受到这些背景噪声的干扰。TRUECAM 通过定向消除噪声，使模型能够精准聚焦于图像中相对微小的关键病变区域。影像源定位分析确证，这一聚焦机制与人类病理学家在临床诊断中所关注的特征区域高度一致。
统计学评估显示，与其他可信数字病理 AI 解决方案相比，TRUECAM 在提高诊断准确率的同时，保持了较高的运行速度与计算效率，未带来实质性的额外计算成本。更具临床社会学价值的是，测试表明，TRUECAM 通过精准去噪和不确定性控制，改善了数字病理系统在不同性别及种族（Sex and race）群体之间的诊断公平性，纠正了传统模型因训练集偏差带来的识别率不均。
论文通讯作者、范德堡大学生物医学信息学教授 Bradley Malin 表示，该框架提供了一种高效的解决方案，能够有效对冲因机构标本采集染色差异、组织制备伪影以及患者临床特征超范围所诱发的 AI 误判。这一技术的突破，为全自动机器诊断与人类医学专家复核之间的信任机制建立了定量标准，对推动医疗人工智能安全落地具有重要实践意义。
参考文献：Implementing trust in non-small cell lung cancer diagnosis with a conformalized uncertainty-aware AI framework, Nature Biomedical Engineering (2026). DOI: 10.1038/s41551-026-01694-8
编辑：王洪
排版：李丽
评论 (0)