影像前沿技术跟踪月刊
Monthly Journal
09
2020第9期
主办单位:
人工智能与临床创新研究院
* 本月刊仅供内部员工个人学习参考,请勿外传
1
东软医疗智能医学影像云平台NeuMiva介绍(下)
2
3
基于联合训练和权重平均模型的多器官分割算法
4
Contents
目录
Stroke:CT灌注对于急性后循环缺血性脑
卒中的附加诊断价值
NeuAI Brain ASPECT--智能化急性缺血性
脑卒中ASPECT评分系统
02
03
心脏MRI评估急性心肌梗死危险区的研究进展
5
东软医疗智能医学影像云平台NeuMiva介绍(下)
作者:张智利
2020年硕士毕业于东北大学生物医学工程专业。目前担任东软医疗MDaaS智能医学影像云BU产品经理,主要负责产品定义、产品维护、产品文档输出、市场分析、竞品分析及产品培训等工作。
张智利 硕士
>
NeuMiva Cloud产品
为了让“大医院更大,小医院更强”,切实解决医院采购、运营成本居高不下、医生超负荷工作等问题,东软医疗利用互联网、大数据、5G、人工智能等技术,打造了智能医学影像云平台NeuMiva。NeuMiva将实现影像设备的前端轻型化与后端应用丰富化,降低医学影像设备的购置门槛,提升后端应用的服务质量,帮助公司完成从设备供应商到服务价值提供者的转型。NeuMiva平台零门槛加盟,按次收服务费的商业模式,将大大降低用户的成本,并扩大用户群体。NeuMiva作为东软医疗自主研发的智能医学影像云平台,可以为医疗机构提供远程诊断服务、云端数据存储服务、后处理高级应用服务、智能辅助诊断服务、影像定量分析服务、电子胶片服务、在线医疗培训服务、远程超声实时会诊服务等,有效助力基层医疗机构提升诊疗能力,降低运营成本。目前NeuMiva平台包含NeuMiva Cloud及NeuMiva US两款产品。
NeuMiva Cloud为基于医学影像的各种智能应用提供了包括算力,传输能力和存储空间等在互联网上运行的基础环境。目前平台用户数为2469个,平台已提供48万余次的服务,完成44万余份诊断报告。
NeuMiva平台服务内容
产品特点
01
04
张智利 硕士
05
安全可靠:国家认证最高安全级别(三级等保、医疗可信云、国际顶级域名),7×24小时专业化服务。
简洁易用:界面布局简洁、系统灵活易用。
智能阅片:支持多终端(PC端、移动端)、多设备类型(CT\MR\US\PET-CT)阅片,并且医生可通过平台搭载的多款智能应用,进行智能辅助诊断。
即插即用:开放的平台环境,成熟的第三方应用挂接技术,即插即用,无需额外的开发工作量。
升级无感:采用B/S架构,自动升级,提升用户体验。
>
背景
06
07
产品特点
便捷:NeuEcho10/15系列彩超内置,无需更多软硬件连接。
实时:音频信息和超声图像实时传输,操作手法实时观看。
高清:原始高清超声图像实时传输。
易用:Ctrl+H热键式呼出,操作简单。
全新功能介绍
NeuMiva Cloud全新升级,为构建全方位会诊平台并降低基层医院的运营成本,新增本地会诊系统、运营数据大屏、分屏等功能。
本地会诊系统:本地会诊系统为医生提供多样化会诊方式,医生可本地撰写报告,也可远程撰写报告。本地会诊系统支持自定义报告功能,专家端在提交报告后可修改描述、诊断及建议等报告内容,基层端可修改检查信息。值得注意的是所有的修改都将保留历史记录。
运营数据大屏:作为自主研发的运营数据统计系统,直观易用,帮助运营人员实时了解用户使用情况。同时,数据大屏支持定制化开发。
分屏功能:双屏自动分屏功能,方便医生同时进行阅片及撰写报告。
NeuMiva US是一款实时的远程超声系统,基于5G及互联网技术,基层端给患者做超声检查过程中获取的超声图像、医生的操作手法可以实时且完整地传输到专家端,同时系统还支持实时的语音视频交互,方便专家进行实时的阅片沟通和指导。NeuMiva US响应国家分级诊疗政策,提升基层医院的诊疗能力,帮助优质医疗资源下沉至基层医疗机构。
分屏功能示意图
NeuMiva US系统工作流程示意图
>
NeuMiva US产品
>
总结
目前,NeuMiva平台已经打造了成熟的To B模式。基于市场需求及发展趋势,未来,NeuMiva平台将进一步延伸到To C模式,利用公司已打通的资源链,为患者提供专属健康档案、健康状况评估、检查结果智能解读、二次转诊等一系列个性化服务,构建一整套网络化、数字化、智能化的综合服务体系。
NeuMiva US界面示意图
NeuAI Brain ASPECT--智能化急性缺血性脑卒中ASPECT评分系统
作者:钱山
2020年硕士毕业于北京航空航天大学生物医学工程专业。目前担任人工智能与临床创新研究院 前沿临床技术创新部 前沿产品研究员,研究方向包括心血管流体动力学,动脉粥样硬化建模仿真,磁共振成像。
钱山 硕士
08
脑卒中是由于脑部血管突然破裂或血管阻塞导致血液不能流入大脑而引起脑组织损伤的一组脑血管疾病,具有发病率高、死亡率高和致残率高的特点,包括缺血性和出血性脑卒中两种。其中,急性缺血性卒中(acute ischemic stroke,AIS)占所有卒中的70%,我国每年新发AIS患者超过200万[1, 2]。由于人脑供血障碍4-5分钟以上即可能出现永久不可逆性梗死,因此AIS治疗的关键是急性期;此外,通过影像评估选择适合的AIS患者是获得良好预后的关键。因此,有必要建立适合的影像评估方案,为AIS血管内治疗患者的术前筛选及术后评估提供指导。
对于筛选血管内介入治疗的适应症,首要是利用核心梗死区的范围来评估血管内介入治疗的风险,其次是通过缺血半暗带的范围来预测患者的获益。核心梗死区即发生不可逆性损伤的脑组织,在平扫电子计算机断层(noncontrast computed tomography, NCCT)上显示为低密度区。最新的前瞻性多中心研究表明,约有三分之一超过6h时间窗的患者的早期梗死被CT灌注成像(CT perfusion,CTP)遗漏,而平扫CT能够敏感地检出这些改变[3]。在AIS血管内治疗的急救流程中,通过有效的神经影像技术快速排除存在较大梗死核心的患者尤为重要。评估核心梗死的影像学指标主要为Alberta卒中项目早期CT评分(Alberta Stroke Program Early CT Score,ASPECTS),其次是梗死核心体积。ASPECTS 是一种用于评价大脑中动脉(middle cerebral artery, MCA)供血区(如图1所示)缺血改变的简单、可靠、系统化的方法,尤其对于超窗(6-24小时)的大患者而言,不仅可以半定量评价缺血性病变,还有助于判定溶栓/取栓效果和远期预后,有助于临床医生制定恰当的治疗方案、合理准确地预测功能转归[4, 5]。
NeuAI Brain ASPECT支持智能化、标准化、快速地计算急性缺血性脑卒中ASPECT评分,具备如下优势:操作简单,评分流程全自动、标准化,无需医生特殊的操作;评分快速,1 min 内即可输出评分结果;评分精确,结果一致性大于高年资医生,且独立于医生的经验与技术,能够有效解决由于CT影像中组织分区界限分辨难度高、信噪比低、肉眼难以快速准确判断MCA分区的问题,以及不同评价者间的评分差异问题,辅助医生完成AIS患者血管内治疗的术前筛选,同时判断血管内治疗的风险和收益,优化治疗决策。
图1 大脑中动脉供血区感兴趣区域示意图
08
>
背景
09
10
11
本节以临床医生的诊断结果为金标准,展示了NeuAI Brain ASPECT和现有评分工具RAPID ASPECT对3个典型病例平扫CT的评分结果。
病例甲:59岁,女,发病16h内入院,NIHSS=14,接受NCCT+ CTP + CTA扫描,ASPECTS = 9,CTA显示右侧大脑中动脉重度狭窄,超时间窗,保守治疗,出院时NIHSS=3。
结果分析:对于该病例,医生的诊断结果为患侧位于大脑右侧,病灶位于M5,ASPECT评分为9。以医生的诊断结果为金标准,对比RAPID ASPECT和NeuAI Brain ASPECT输出的结果。RAPID RAPID ASPECT的诊断结果显示,病灶位于L和M5,ASPECT评分为8,该结果与金标准不完全相同、认为豆状核存在梗死,如图3.1所示;NeuAI Brain ASPECT智能输出结果显示,病灶位于M5,ASPECT评分为 9,该结果与金标准完全一致,如图3.2所示。该患者因超窗未进行取栓治疗,但从影像评分结果看可取栓,说明术前影像评估具有必要性。
NeuAI Brain ASPECT评分系统主要的工作流程包括影像导入、影像预处理、供血区分段、缺血检测和综合评分,系统流程图如图2所示。
图2 NeuAI Brain ASPECT系统流程图
图3.1 RAPID ASPECT评分结果
>
工作流程
图3.2 NeuAI Brain ASPECT评分结果
>
评分结果
12
13
病例丙:70岁,男,发病12h内入院,NIHSS=9,接受NCCT+ CTP + CTA扫描,ASPECTS = 10,CTA显示右侧大脑中动脉M2闭塞,超时间窗,保守治疗,出院时NIHSS=4。
结果分析:对于该病例,医生的诊断结果为无明显梗死,ASPECT评分为10。以医生的诊断结果为金标准,对比RAPID ASPECT和NeuAI Brain ASPECT输出的结果。RAPID ASPECT的诊断结果显示,病灶位于右脑岛叶,ASPECT评分为9,该结果与金标准不完全相同,如图5.1所示;NeuAI Brain ASPECT智能输出结果显示,无明显梗死,ASPECT评分为10,该结果与金标准完全一致,如图5.2所示。
综合分析以上RAPID ASPECT和NeuAI Brain ASPECT对3个典型、真实病例平扫CT的评分情况可以看出,无论是患病一侧的识别,还是病灶所在区域的判断,以及最终ASPECT的评分结果,NeuAI Brain ASPECT的智能输出结果与临床医生的诊断结果较为一致,可为AIS患者血管内治疗的术前筛选提供参考依据。
病例乙:53岁,男,发病3h内入院,NIHSS=0,接受NCCT+ CTP + CTA扫描,ASPECTS = 8,CTA显示左侧大脑中动脉M1段闭塞,影像评估符合血管内治疗标准,行DSA下取栓治疗后TICI分级3级,出院时NIHSS=0。
结果分析:对于该病例,医生的诊断结果为患侧位于大脑左侧,,病灶位于C和L,ASPECT评分为8。以医生的诊断结果为金标准,对比RAPID ASPECT和NeuAI Brain ASPECT输出的结果。RAPID ASPECT的诊断结果显示,病灶位于C、L和IC,ASPECT评分为7,该结果与金标准不完全相同,如图4.1所示;NeuAI Brain ASPECT智能输出结果显示,病灶位于C和L,ASPECT评分为 8,该结果与金标准完全一致,如图4.2所示。
图4.1 RAPID ASPECT评分结果
图5.1 RAPID ASPECT评分结果
图5.2 NeuAI Brain ASPECT评分结果
图4.2 NeuAI Brain ASPECT评分结果
14
15
[1] 王文志. 中国脑血管病一级预防指南2019. 中华神经科杂志[J], 2019,52(9): 684-709.
[2] 刘建民. 急性大血管闭塞性缺血性卒中血管内治疗中国专家共识(2019年修订版). 中华神经外科杂志[J], 2019,35(9): 868-879.
[3] Siegler J. E., Messe S. R., Sucharew H., et al. Noncontrast CT versus Perfusion-Based Core Estimation in Large Vessel Occlusion: The Blood Pressure after Endovascular Stroke Therapy Study. J Neuroimaging[J], 2020,30(2): 219-226.
[4] 金灿, 王苇. ASPECT评分的临床应用进展. 国际医学放射学杂志[J], 2015,38(05): 418-422.
[5] Desai S. M., Tonetti D. A., Molyneaux B. J., et al. Interaction between time, ASPECTS, and clinical mismatch. J Neurointerv Surg[J], 2020,12(9): 911-914.
2016年一项中国急性缺血性卒中血管内治疗现状初步调查显示,参与调查的110家医院(三级甲等医院90家,三级乙等医院13家,二级医院7家)中,61.2%的医院由神经内科实施AIS血管内治疗,18.0%由神经外科实施。所有中心均可实现24h的电子计算机断层扫描(computed tomography,CT)检查及数字减影血管成像(digital subtraction angiography,DSA),但24h CT血管成像(CT angiography,CTA)检查仅为59.1%,24h磁共振(magnetic resonance,MR)检查为30%。调查中心过去1年内治疗患者的总例数为2522例,完成50例以上的中心16家(14.5%)。然而,急诊入院的每一位AIS患者都需要实施神经影像对病情进行评估,包括平扫CT、CTA、CT灌注成像、血管成像(angiography,DSA)、弥散加权成像(diffusion weighted imaging,DWI)及灌注成像(perfusion weighted imaging,PWI)等。AIS血管内治疗的几项阳性试验均通过影像指标筛选入组患者的试验,可排除不可逆性梗死区域较大的患者。因此,在AIS血管内治疗的急救流程中,通过快速有效的神经影像技术快速排除存在较大梗死核心(平扫CT中ASPECTS评分较低,多模式CTA中侧支循环较差,CTP提示大的梗死核心)的患者尤为重要。此外,中国AIS血管内治疗数量从2015年的2724例到2017年的12000例,再到2019年的33000例、增长极为迅猛;而且,现有自动化ASPECT评分工具种类少、且评分效果不能完全匹配临床医生的诊断结果。因此,AIS血管内治疗患者数量的迅速增长以及精准ASPECT评分工具的缺乏,对高效、准确的术前筛选工具提出了迫切的需求。
NeuAI Brain ASPECT完全满足AIS血管内患者术前筛选的需求,支持智能化、标准化、快速地计算急性脑卒中ASPECT评分,能够有效解决由于CT影像中组织分区界限分辨难度高、信噪比低、肉眼难以快速准确判断MCA分区的问题,以及不同评价者间的评分差异问题,从而辅助医生快速筛选行血管内治疗的病人。在未来的AIS临床诊疗中,NeuAI Brain ASPECT将会有效地辅助神经内科、神经外科以及介入科等科室的医生进行卒中病人诊治,显著提高医生工作效率的同时,减轻工作负担。
>
应用前景
>
参考文献
Stroke:CT灌注对于急性后循环缺血性脑卒中的附加诊断价值
编者:聂可卉
08
17
文章首次研究了CTP在急性后循环缺血性卒中的附加诊断价值。文章结论证明在缺血性后循环卒中患者的诊断检查中,NCCT+CTP+CTA-SI的一站式扫描,较仅对患者行NCCT扫描或NCCT+CTA扫描,可以显著提高诊断的准确性。论文标题为《Additional Diagnostic Value of Computed Tomography Perfusion for Detection of Acute Ischemic Stroke in the Posterior Circulation》,该文章于2015年发表于Stroke期刊,IF=7.19,属SCI一区。
后循环即椎-基底动脉系统,后循环卒中占所有缺血性卒中的20%-25%,尽管数量上稍逊于前循环(劲动脉系统),但是后循环卒中对于医生和患者来说是更大的挑战。椎-基底动脉闭塞所致后循环卒中相比前循环卒中难诊断、病情重、发展快、复发率高,其重度致残和死亡率高达70%。到目前为止,急性基底动脉闭塞患者的治疗时间窗和治疗策略仍未有定论。
研究按照Oxfordshire分类[1],纳入荷兰急性中风研究(DUST)中所有疑似急性后循环缺血性卒中的患者共88名,其中,图像质量不佳者、无术后随访影像者、无法对CTP进行pc-ASPECTS(posterior circulation Alberta stroke program early CT score)评分者均已排除在外。研究中涉及的患者影像数据包括:术前平扫CT、CTA原始增强图像和CT灌注图,3天后随访NCCT或者DWI和FLAIR;临床资料包括基线情况以及缺血位置等。通过构建3个逻辑回归模型:modelA(仅术前NCCT)、modelB(术前NCCT+CTA-SI)、modelC(术前NCCT+ CTP+CTA-SI),实现对急性后循环缺血性患者的检测。
所有患者的随访影像中显示共有62处梗死,其中NCCT和CTA-SI分别检出15和17处,CTP检出41处。CTP对于小脑、丘脑和大脑后动脉区域的缺血性病灶更敏感。利用AUC(曲线下面积)代表模型的诊断价值,modelC、modelB、modelA的诊断价值依次递减,分别是0.86、0.68和0.64(95%CI)。对于后循环缺血性卒中的诊断,ModelC和其他模型相比有显著性差异。
该研究中还展示了后循环卒中患者行多模态CT的情况。从左至右分别表示NCCT、CTA-SI、CT灌注参数图(CBV、CBF、MTT、TTP)以及CTP图像和术后随访NCCT图像(FU NCCT)。A展示了一位左小脑缺血性卒中患者,尽管NCCT和CTA上未见缺血改变,但是CTP出现明显异常,同时随访NCCT上可见相应缺血区域;B中所有成像技术均未见患者早期缺血性改变,但随访NCCT显示右侧脑桥小梗死灶;C显示患者左脑后动脉区脑卒中伴丘脑受累,有且只有CTP图显示了梗死区域,并在随访NCCT中得到证实。
16
>
研究概况
>
相关背景和研究目的
2019年毕业于福州大学信号与信息处理专业,目前担任东软医疗人工智能与临床创新研究院临床合作科学家。研究方向包括:图像处理、计算机视觉和神经影像分析。曾获欧洲计算机视觉会议(ECCV)图像增强挑战赛第三名。
聂可卉
17
>
研究方法
>
研究结果和结论
18
19
从研究结论我们不难看出,CTP在快速检测后循环脑缺血病灶具备明显优势。尽管如此,在结合现有后循环大型临床实验的结论,例如BEST研究[2],我们对于后循环缺血的影像研究,还没有进入取栓术前的病人获益筛选指标,目前也没有可供参考的后循环CTP或PWI-DWI的筛选手段。现有的术前影像手段依赖于NCCT,而一站式磁共振的卒中检查开展较缓慢,后循环部分病症临床上并不严重且不特异,所以无法有效分诊仍可获益或高风险病人。本文中已经明确指出NCCT的后循环缺血病灶检测敏感性不能满足现有急性缺血检测,后循环ASPECTS评分(pc-ASPECTS)虽然有助于术前半定量评估缺血严重程度,但检测准确率和一致性较差。未来需要建立一站式多模态CT或MR的治疗前筛选标准和流程,以确保后循环缺血病灶的影像识别满足临床治疗评估。
如何通过影像学的手段实现患者快速诊断和评估已成为目前卒中救治过程中必不可少的一环。东软医疗NeuBrainCARE软件对于急性前循环缺血性卒中患者具有强大的寻找责任血管、定量梗死核心和低灌注区域体积、评估患者侧枝状态,从而指导卒中治疗策略的功能,与此同时我们也在探索其在后循环脑卒中的应用。软件通过对后循环卒中患者的NCCT和CTP图像进行分析和计算,可以自动得到pc-ASPECTS评分和rCBF、rCBV、Tmax分级、mismatch ratio等定量值。通过多参数CT影像学定量技术,可以在术前全面的指导医生制定后循环卒中患者的溶栓和取栓计划,在术后评估患者临床结局和血管再通情况。更进一步的,帮助研究和制定后循环缺血患者的影像学评估标准和治疗时间窗。
:
[1] Bamford J, Sandercock P, Dennis M, Burn J, Warlow C.Classification and natural history of clinically identifiable subtypes of cerebral infarction.Lancet. 1991;337:1521–1526.
[2] Liu X, Dai Q, Ye R, et al. Endovascular treatment versus standard medical treatment for vertebrobasilar artery occlusion (BEST): an open-label, randomised controlled trial. Lancet Neurol. 2020;19(2):115‐122. doi:10.1016/S1474-4422(19)30395-3.
本研究通过对比三种CT多模态的影像组合方式(NCCT only, NCCT+CTA, NCCT+CTP+CTA)在后循环不同脑区,探索了脑缺血急性征象检测的效能。总体结果显示,CTP(CT灌注)能够有效增加后循环缺血性卒中的检出概率,但在脑干部分的检测敏感性依然存在一定的挑战性。
常规NCCT对于幕下缺血病灶检测并不有效,CTA的原始增强图像有可能检测到后循环的异常信号增强(低弱增强信号),但也取决于动脉信号峰的图像抓取,而且CTA-SI的图像更多,需要人工精细阅读时间更长。在急性缺血性后循环卒中,救治的时间窗口较前循环缺血卒中更长,但死亡率却更高,如何进行治疗前的定量影像快速检测,是长久以来未解决的后循环治疗或取栓前的影像问题。本研究中结论显示一站式多模态CT(NCCT+CTP+CTA)的检测ROC-AUC曲线下面积达到0.86,明显优于另外两组检查方式。对于幕下缺血病灶检测效能,敏感性和特异性均达到90%以上,并且缺血发病时间越长,因为病灶变化会变得更加明显,CTP在后循环的检测敏感性就会更加明显。
研究中实施的静脉溶栓治疗,会恢复缺血病灶区域的再灌注情况,进而对随访图像上阳性梗死病灶的检出产生影响。治疗前CTP图像的低灌注区域指示的阳性病灶,在药物治疗再通血管后,对缺血区域的再灌注,直接导致了随访NCCT或DWI上梗死区域的缩小或缺血相对信号的减弱/消失。这样导致了治疗前CTP检测看似的假阳性病灶,但治疗前确实应该是缺血的病灶。因此本研究验证的方法其实是存在治疗后的混杂因素,治疗前的CTP低灌注病灶应该被纳入缺血的病灶检测。
>
思考和讨论
>
参考文献
基于联合训练和权重平均模型的多器官分割算法
编者:杨越淇
08
17
文章中介绍了一种利用多个具有少数器官标注信息的数据集,训练一个通用的多器官分割网络的方法。在训练过程中,加入了双网络联合训练,以及相邻迭代权重平均的策略,使得整个训练过程更加稳定。该文章的标题是《Multi-organ Segmentation via Co-training Weight-averaged Models from Few-organ Datasets》,已被MICCAI 2020 接收。需要说明的是,单器官标注的数据集是少数器官标注数据集的一种特例,为了方便表述,后续将以单器官标注的数据集为例进行叙述。
多器官分割,顾名思义是将一个图像中多个感兴趣的器官同时分割出来。在医学图像分割领域,获取具有多器官标注信息的数据集是非常困难的,这是因为各家医院会根据自己的临床需求仅标注其感兴趣的一个或者少数几个器官。所以很难获取到同一个样本上所有器官都有标注信息的金标准图像。现在可以获取到一些公开的单器官标注的数据集,如LiTS[1],KiTS[8]和Pancreas[12] (图1)。
针对于上述情况,现有的方法通常是分别训练多个网络,即每个器官训练一个模型,然后分别对各个器官进行分割结果预测,该方式的问题在于:1)未能有效利用多个器官在解剖结构上的相对空间位置关系;2)占用较多的计算资源和时间资源。除此之外,还有一些学者采用自学习的方法[10],利用已经训练好的单器官分割模型,对其他数据集中没有标注信息的器官进行预测进而得到对应的伪标签,将这些带有伪标签的数据混合到一起,构造一个多器官标注数据集,然后将其用于多器官分割网络的训练。显然,由于单器官分割模型的泛化性有限,在对来自不同医院的数据分布差异较大的样本生成伪标签时,会产生大量的错误分割结果,这些不准确的伪标签会严重的影响多器官分割网络训练的稳定性和准确性。
近年来,卷积神经网络(Convolutional Neural Network)在语义分割领域取得了重大进展,很多学者提出了很多经典的网络,例如DeepLab[4],PSPNet[16],Unet[11],VoxResNet[2]等,这些方法都是要进行端到端的有监督学习,但是获取多器官标注的数据集又非常困难,所以当前的大部分方法都只能应用于某一个特定器官的分割,不能直接应用于多器官分割[3]。Konstantin[5]首先提出了一种用于多类别分割的条件CNN算法,并证明了使用单类别标注的数据集去训练多类别分割模型的可能性。但是该方法的效率非常低,它的推理时间随着要分割器官的数量的增加成正比例增加。Zhou[17]在基于部分标注信息的数据集上,完成多器官分割模型的训练任务时,将领域知识加入到算法的设计中,这造成了它的目标函数只能采用一些特定的方式才能优化,训练不易收敛。
20
毕业于东北大学模式识别与智能系统专业,目前担任东软医疗人工智能与临床创新研究院物理及算法高级工程师,从事人工智能与医学影像相结合的工作,研究方向包括低剂量CT图像质量优化、医学图像处理与分析、辅助诊断等。
杨越淇 硕士
21
图1 (a)多器官分割可以实现更全面的计算机辅助分析 (b)LiTS[1]数据集只包含肝脏的标注 (c)KiTS[8]数据集只包含肾脏的标注 (d)Pancreas[12]数据集只包含胰腺的标注
研究概况
1
研究背景和目的
2
1
2
22
23
首先,对K个单器官标注的数据集分别进行训练,得到K个独立的模型,其中每个模型可以实现一种器官的分割,表示为 ,其中, 表示第k个单器官分割网络的网络参数。利用这些训练完成的网络模型,对每一个单器官标注的数据集 中没有标注信息的器官生成对应的伪标签 ,因此,在 中第k个器官的标注信息是真实的人为标注,其他(K-1)个器官的标注信息是训练完成的单器官网络模型预测生成的伪标签,这些标签都是非0即1的硬标签。混合这些具有伪标签的数据,相对于单器官标注的数据集 ,可以构建一个带有伪标签的多器官标注数据集 ,如图2(a)所示,其中:
利用上述带有伪标签的多器官标注数据集 ,可以训练一个多器官分割模型 。显然,伪标签的质量对 模型的性能影响很大,由于单器官分割模型是分别进行训练的,而且他们所用的训练数据也并不相同,受深度学习网络模型泛化性有限的影响,不可避免的会出现伪标签不准确的情况,因此直接使用这些伪标签进行网络训练,一定会影响最终模型的分割精度。
3.2采用联合训练和权值平均模型对伪标签进行约束
本文的整体网络结构如图2(b)所示,显然,它需要联合训练两个网络 和 ,它们网络结构的设计与预训练的 网络结构完全相同,采用随机数对模型参数进行初始化。在网络的训练阶段,需要同时使用两个训练数据集 和 。
教师-学生模型广泛的应用于半监督学习(SSL)和模型蒸馏领域。它的主要思想是通过训练,将教师网络学到的知识传给学生网络。Deep mutual learning[15]提出了整个训练过程可以采用两个网络进行相互学习的形式。Mean-teacher model[6,13]通过对训练过程中不同迭代所产生的模型参数进行平均,从而实现对没有标注信息的数据的监督学习。
本文利用多个单器官标注的数据集,结合双网络联合训练和相邻迭代权重平均的策略,实现了通用的多器官分割网络的训练。采用双网络联合训练的目的是:对于样本中没有标注信息的器官,两个网络进行彼此学习,同时采用软标签的形式,减轻网络间扰动的影响。采用相邻迭代权重平均的目的是:增加训练过程的稳定性。此外,本文还提出了一种新的区域掩码,它可以有选择地将一致性约束作用于需要协同学习的无标注器官区域,进一步提高了训练的一致性。需要指出的是,本文所述方法,只是在训练阶段进行两个网络的协同训练,在推理阶段只需采用一个网络进行计算即可,因此,并不会增加推理阶段所需的计算时间和内存的开销。最后本文在LiTS[1],KiTS[8],Pancreas[12]和MOBA[7]四个数据集上进行了实验,结果表明本文提出的方法,可以充分地利用单器官标注数据集,通过网络结构和损失函数的巧妙设计,达到多器官同时分割的目的,特别是在推理阶段,在达到定量指标提升的同时,占用更少的资源。
首先,给定K个单器官标注的数据集D={D_1,...,D_K },其中,
3.1 预训练单器官分割模型和多器官分割模型
因为DeepLab[4]网络在很多不同的语义分割任务中都取得了很好的效果,所以本文采用加入了dilated Resnet-50[14]和IBN 模块[9]的DeepLab[4]网络结构作为基础网络。
图 2:(a)生成伪标注数据集的流程图 (b)本文算法的整体框架 (c)推理阶段,只需要一个网络进行计算即可,不会增加额外的计算消耗
研究方法
2
3
24
25
对于每一个训练样本 ,属于第k个器官的像素都是有人为标注的,为了最大程度的确保训练所用标签的准确性,对于这些有人为标签的区域,应该避免使用软伪标签对他们进行训练。本文所述方法对硬标签进行形态操作,从而生成对应的区域掩码 ,利用区域掩码 即可只在没有人为标注信息的区域采用软伪标签进行训练,区域掩码的定义如下:
3.3本文整体的损失函数
总体而言,本文提出的网络结构采用软标签和硬标签相结合的方式进行有监督的训练,两个网络同时优化,整体的损失函数定义如下:
本方法在四个数据集LiTS[1],KiTS[8],Pancreas[12]和MOBA[7]上进行了验证。LiTS数据集是有肝脏标注信息的CT图像数据集,其中包括131个训练数据和70个测试数据;KiTS数据集是有肾脏标注信息的CT图像数据集,其中包括210个训练数据和90个测试数据;Pancreas数据集有胰腺标注信息的CT图像数据集,其中包括281个训练数据和139个测试数据;MOBA数据集是一个具有多器官标注信息的数据集,由[7]的作者提供了90组CT图像,每组图像包括8个器官的分割标注掩码,分别为:脾脏,左肾,胆囊,食道,肝脏,胃,胰腺,以及十二指肠。
研究结果和结论
2
4
26
27
本文提出的方法在MOBA数据集上的对比结果如表3所示。从实验指标上看,本文方法的两个定量指标都是最高的,特别是对于一些面积小且形状不规则的区域,例如食管,十二指肠等器官,本文方法的DSC指标和HD指标都有更高的提升。这充分的证明了本方法的有效性和鲁棒性。值得注意的是,本文方法的大部分指标优于全监督算法的结果(如“combine”列所示),这是因为同时训练这八个器官时,由于不同器官所占的面积大小不一样,从而造成训练样本的不均衡,但是本文所述方法,通过采用在线生成软伪标签的方式,缓解了样本不均衡的问题,进而得到更高的定量指标。
每个器官的标注均以二值掩码的形式,分别进行存储。本文采用Dice-Score-Coefficient(DSC)和Hausdorff Distance(HD)作为评价指标。
表 1:本文提出的方法在LiTS-KiTS-Pancreas三个数据集上的消融实验对比结果
CT:联合训练策略 WA:权重平均模型 RM:区域掩码
如表1所示,从对比结果中可以看出,直接采用硬伪标签训练的多器官分割模型(如表1中“self-training”所示)相比较于每个器官单独训练的模型而言,定量指标会有一个明显的提升(89.41%提升至89.50%),这说明即使伪标签中有个别标记不准确的区域,模型的整体效果还是会提升的。一个可能的原因是,它利用到了不同器官之间空间上的相对位置关系。本文所提出的方法,结合了联合训练机制,权重平均模型,区域掩码以及IBN模块,最终实现了0.81%的提升(89.41%提升至90.22%),同时没有增加额外的计算消耗。需要特别指出的是,由于胰脏的面积小,而且形状不规则,所以分割起来相对困难,本文所述方法对此有了2.73%的明显提升(77.05%提升至79.78%)。
如表2所示,从对比结果中可以看出,本文方法的定量指标要优于conditionCNN方法,conditionCNN的平均DSC值为89.72,本文方法的平均DSC值为90.22。从推理时间方面对比,conditionCNN方法在对更多的器官进行同时分割时,测试时间还会等比例增加,此时本文所述方法的优势会更明显。从定性指标上分析,如图3所示,本文所述方法计算误差最小,与金标准最接近。
表 2:本文方法与conditionCNN方法的对比结果
图3 不同算法结果的定性比较
表 3:本文提出的方法在MOBA数据集上的对比结果
28
29
7. Gibson, E., Giganti, F., Hu, Y., Bonmati, E., Bandula, S., Gurusamy, K., Davidson, B., Pereira, S.P., Clarkson, M.J., Barratt, D.C.: Automatic multi-organ segmentation on abdominal ct with dense v-networks. IEEE transactions on medical imaging 37(8), 1822-1834 (2018)
8. Heller, N., Sathianathen, N., Kalapara, A., Walczak, E., Moore, K., Kaluzniak, H., Rosenberg, J., Blake, P., Rengel, Z., Oestreich, M., et al.: The kits19 challenge data: 300 kidney tumor cases with clinical context, ct semantic segmentations, and surgical outcomes. arXiv preprint arXiv:1904.00445 (2019)
9. Pan, X., Luo, P., Shi, J., Tang, X.: Two at once: Enhancing learning and generalization capacities via ibn-net. In: Proceedings of the European Conference on Computer Vision (ECCV). pp. 464-479 (2018)
10. Papandreou, G., Chen, L.C., Murphy, K.P., Yuille, A.L.: Weakly-and semisupervised learning of a deep convolutional network for semantic image segmentation. In: Proceedings of the IEEE international conference on computer vision. pp.1742-1750 (2015)
11. Ronneberger, O., Fischer, P., Brox, T.: U-net: Convolutional networks for biomedical image segmentation. In: International Conference on Medical image computing and computer-assisted intervention. pp. 234-241. Springer (2015)
12. Simpson, A.L., Antonelli, M., Bakas, S., Bilello, M., Farahani, K., Van Ginneken, B., Kopp-Schneider, A., Landman, B.A., Litjens, G., Menze, B., et al.: A large annotated medical image dataset for the development and evaluation of segmentation algorithms. arXiv preprint arXiv:1902.09063 (2019)
13. Tarvainen, A., Valpola, H.: Mean teachers are better role models: Weight-averaged consistency targets improve semi-supervised deep learning results. In: Advances in neural information processing systems. pp. 1195-1204 (2017)
14. Zhang, H., Dana, K., Shi, J., Zhang, Z., Wang, X., Tyagi, A., Agrawal, A.: Context encoding for semantic segmentation. In: Proceedings of the IEEE conference on Computer Vision and Pattern Recognition. pp. 7151-7160 (2018)
15. Zhang, Y., Xiang, T., Hospedales, T.M., Lu, H.: Deep mutual learning. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. pp. 4320-4328 (2018)
16. Zhao, H., Shi, J., Qi, X., Wang, X., Jia, J.: Pyramid scene parsing network. In: Proceedings of the IEEE conference on computer vision and pattern recognition. pp. 2881-2890 (2017)
本文提出了一种基于单器官标注数据集,采用联合训练和权重平均模型相结合的方式,实现多器官分割的算法。整体结构采用两个网络联合训练的方式,一方面,采用构造的硬伪标签数据集D ̂进行训练,充分利用多器官在解剖结构上位置的相关性;另一方面,采用原始数据集D进行训练,此时两个网络在线生成彼此的软伪标签,进而实现相互监督,缓解了自监督会造成的误差被不断放大的问题。而且,在生成软伪标签的过程中,采用权重平均的方式,增强了训练的稳定性。此外,本文还利用区域掩码对没有真实标注信息的区域加入了一致性约束。
最后本文在四个数据集上进行了训练和测试验证,结果表明,本文方法可以更好的利用单器官标注的数据集实现多器官分割,无论是定量指标的对比还是定性分析,本文方法都具有很大的优势,特别是对于食管、十二指肠等尺寸小,且形状不规则器官的分割,本文方法的优势更明显。
参考文献
总结
2
5
1. Bilic, P., Christ, P.F., Vorontsov, E., Chlebus, G., Chen, H., Dou, Q., Fu, C.W., Han, X., Heng, P.A., Hesser, J., et al.: The liver tumor segmentation benchmark(lits). arXiv preprint arXiv:1901.04056(2019)
2. Chen, H., Dou, Q., Yu, L., Qin, J., Heng, P.A.: Voxresnet: Deep voxelwise residual networks for brain segmentation from 3d mr images. NeuroImage 170, 446-455(2018)
3. Chen, H., Wang, X., Huang, Y., Wu, X., Yu, Y., Wang, L.: Harnessing 2d networks and 3d features for automated pancreas segmentation from volumetric ct images. In: International Conference on Medical Image Computing and Computer-Assisted Intervention. pp. 339-347. Springer (2019)
4. Chen, L.C., Zhu, Y., Papandreou, G., Schroff, F., Adam, H.: Encoder-decoder with atrous separable convolution for semantic image segmentation. In: Proceedings of the European conference on computer vision (ECCV). pp. 801-818 (2018)
5. Dmitriev, K., Kaufman, A.E.: Learning multi-class segmentations from single-class datasets. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. pp. 9501-9511 (2019)
6. Ge, Y., Chen, D., Li, H.: Mutual mean-teaching: Pseudo label refinery for unsupervised domain adaptation on person re-identification. arXiv preprint arXiv:2001.01526 (2020)
心脏MRI评估急性心肌梗死危险区的研究进展
转自公众号:邵医影像 任宏
08
17
急性心肌梗死(acute myocardial infarction,AMI)发生后易出现多种组织学改变,主要包括微血管障碍(microvascular dysfunction,MVD)、心肌内出血(intra-myocardium hematoma,IMH)、心肌水肿及心肌纤维化等,其中心肌水肿是区分梗死后危险区(area at risk,AAR)与正常心肌最主要的影像学评估指标。再灌注治疗能恢复可挽救心肌[salvageable zone,SZ,指AAR 与梗死核心区(myocardium infarction core,MIC)的面积差]的活性。准确定量评估MIC及AAR是获得SZ面积的重要前提。
目前检测和定量MIC的技术已比较成熟,而评估AAR尚有待进一步研究。心血管MRI(cardiovascular MRI,CMRI)具有多参数、多序列及高组织分辨率等优势,是无创评估心脏结构及功能的“金标准”,能从细胞分子水平微观反映病变早期的病理生理学变化。AMI心肌水肿的发生发展机制涉及缺血损伤破坏穿过细胞膜的能量调节的离子转运机制,CMRI能对其进行定性及定量评估。T2WI能敏感检出心肌水肿区,是检测心肌水肿的标准化技术,已广泛用于检测心肌梗死后AAR。DWI信号因水肿心肌细胞内水分子扩散受限升高成为AAR主要的影像学表现之一。
目前检测和定量MIC的技术已比较成熟,而评估AAR尚有待进一步研究。心血管MRI(cardiovascular MRI,CMRI)具有多参数、多序列及高组织分辨率等优势,是无创评估心脏结构及功能的“金标准”,能从细胞分子水平微观反映病变早期的病理生理学变化。AMI心肌水肿的发生发展机制涉及缺血损伤破坏穿过细胞膜的能量调节的离子转运机制,CMRI能对其进行定性及定量评估。T2WI能敏感检出心肌水肿区,是检测心肌水肿的标准化技术,已广泛用于检测心肌梗死后AAR。DWI信号因水肿心肌细胞内水分子扩散受限升高成为AAR主要的影像学表现之一。
近年来,T1mapping及T2mapping逐渐用于评估心肌梗死。采用CMRI评估AMI后AAR范围,计算SZ与AAR的比值,即心肌挽救指数(myocardial salvageable index,MSI),对治疗AMI及评估预后有重要意义。本文对CMRI评估AMI后AAR的价值进展进行综述。
T2WI包括亮血和黑血序列成像。心肌水肿成像技术(acquisition for cardiac-unified T2 edema,ACUT2E)是CMRI标准T2W 亮血序列,为稳态自由进动序列(steady-state free precession,SSFP)与自旋回波序列(turbo spin-echo,TSE)的结合。黑血T2短时间反转恢复脉冲序列(dark-blood T2-weightedshort-tau inversion recovery,T2-STIR)可抑制脂肪和血液信号,为评估水肿区域和正常心肌提供更佳的组织对比度。
临床实践中将AAR认为AMI后灌注缺损区域,即心肌缺血区,通过心肌灌注SPECT可以勾画心肌缺血灌注的范围。CARLSSON等发现T2-STIR心肌短轴切面图像中的高信号区面积与SPECT图像中的低灌注区具有良好一致性,提出以T2WI勾画的高信号区即心肌梗死的AAR,而T2WI高信号区面积大于延迟强化图像中的延迟强化区域;随访发现心肌无延迟强化T2WI高信号区信号可恢复正常,该节段室壁运动功能甚至可以完全恢复,提示AAR包含的无延迟增强区即可挽救心肌。
30
31
>
T2WI
08
17
然而亮血和黑血T2WI均无法定量评估心肌水肿,心肌梗死后AAR水肿成分混杂,难以区分AAR与正常心肌信号。
有研究发现T2WI高信号区与病理学染色勾画的AAR的轮廓无明显相关(亮血T2WI r=0.06,P=0.69;黑血T2WI r=0.01,P=0.97),而更接近MIC的范围(亮血T2WI r=0.94,P<0.0001;黑血T2WIr=0.95,P<0.0001),故认为T2WI易低估AAR面积;且T2-STIR无法完全抑制心内膜下" 慢血流" 效应,易出现高信号伪影,导致过度诊断。对于T2WI测量的准确性及可重复性有待进一步观察。
T2mapping基于3个T2-SSFP采集不同拟定T2(TE分别取0、24、55ms)图像,通过后处理所得T2mapping伪彩图,直接量化组织的T2 值。T2mapping采用梯度自旋回波序列(gradient spin echo sequence,GraSE)成像,受线圈表面信号强度变化及运动伪影的影响较小,可排除心内膜下、心尖部由于"慢血流" 引起的高信号伪影。
MCALINDON 等比较以T2mapping与T2-STIR、ACUT2E及早期对比增强(early gadolinium enhancement,EGE)等方法采集的心肌水肿图像,发现T2mapping受心率不规则及屏气欠佳等因素影响小,可重复性最高;以T2mapping测得的AMI小鼠模型AAR占左心室面积百分比与组织学染色结果差异无统计学意义(P=0.43),即2者测量结果具有较好的一致性。T2mapping评估心肌梗死患者AAR 结果与PET/MR测量18F-氟脱氧葡萄糖摄取减少的心肌面积的相关性极好(r=0.98,P<0.05)。相比半定量T2-STIR技术,T2 mapping 可直接量化心肌T2 值。
VERHAERT 等发现正常心肌T2 值[(55.5±2.3)ms]较AAR 区域[(69.0±6.0)ms]明显降低。T2mapping可直观显示AMI心肌水肿变化呈“双峰模式”:AAR心肌T2值从再灌注早期至24h内呈下降趋势至最低峰,之后持续增高至第4天达最高峰,至第7天逐渐降低恢复正常。DING等进一步提出自由呼吸3DT2mapping技术,基于饱和度和T2准备射频扰相梯度回波序列(T2‐prepared radio frequency spoiled gradient echo,T2-Prep-SPGR)采集图像。与2DT2mapping相比,T2-Prep-SPGR序列对心率的敏感度更低,可减少因心率不齐等产生的伪影,同时具有空间分辨率更高等优势。
32
33
>
T2mapping
08
17
心肌T2值受MR扫描仪场强、MR序列及心肌节段等因素的影响较大,研究显示同一组健康志愿者以SSFP序列扫描的短轴层面的心肌T2值为(55±5)ms,与四腔层面[(59±6)ms]差异有统计学意义(P<0.000 1)。对于T2mapping技术测量的一致性仍需进一步改善。
T1mapping技术基于反转或饱和脉冲序列激发,可于纵向磁化矢量恢复过程中的不同时间采集信号,具有不同的T1权重,可拟合描述T1反转的指数恢复模型,通过T1值改变显示组织成分变化。T1mapping对心肌水成分改变非常敏感,可直接量化正常心肌和水肿心肌的T1 值,定量评估AMI后AAR 面积。ALKHALIL等证实,通过T1值改变能勾画出AAR的明确解剖区域,并显示AMI后第3小时AAR水肿达峰值;而T2WI易低估AAR范围[AAR占左心室质量百分比:T1mapping(42±15)%;T2WI(39±15)%,P=0.025],T1mapping具有更高的敏感度。T1mapping评估AAR结果与微球血流分析、T2mapping技术及SPECT评估结果具有较好的一致性。
LIU 等采用T1mapping测量60例MI的正常心肌T1值为(1177±34)ms,相较于AAR的T1值[(1 327±36)ms]明显升高(P<0.001);6个月后随访发现SZ的T1值降低,恢复至正常范围。患者无法长时间屏气求和心率增加均易影响T1mapping结果的准确性,限制了其早期临床应用。近年来,反转回复序列、包括缩短LookLocker反转恢复序列(shortened modified Look Locker in version recovery,sh-MOLLI)应用广泛,可明显缩短对患者屏气时间的要求,在患者心率高的情况下仍可准确测量T1值,检测弥漫性心肌水肿具有较高的准确性,尤其适用于AMI患者。
DWI是目前唯一能观察活体心肌水分子微观运动的成像技术。随着MR技术(高梯度振幅、并行成像及多通道线圈)和回波平面成像的发展,DWI逐渐用于心血管成像。DWI扫描速度快,受"慢血液"效应影响小,相比T2-STIR技术,图像对比度更好,评估水肿的敏感度(97%)更高。在AMI早期(发病<4h),血清学心肌损伤标志物检查结果为阴性时,DWI即能检出AAR与正常心肌之间的信号差异,反映其动态变化过程。与传统单指数DWI模型相比,体内非相干运动弥散加权成像(intravoxel incoherent motion diffusion weighted imaging,IVIM-DWI)模型能提供更准确的微循环信息,已用于CMRI 领域。
通过IVIM-DWI模型可获得扩散系数D值、伪扩散系数D值及灌注因子f值等,同时能观察组织内水分子扩散和灌注状态,精确评估组织内水分子扩散情况。AN等采用IVIM 技术观察AMI患者再灌注后AAR 心肌水肿变化过程,其结果与T2mapping定量评估AAR相符;再灌注后第3天测得AAR的ADCfast和f值最小,与T2mapping定量追踪一周内AAR 水肿心肌T2值的变化一致。
作为DWI参数之一,扩散敏感因子(b值)能反映MR序列对扩散运动表现的敏感程度,是检测扩散运动能力的指标,b值越大,丢失心肌信号越显著。研究认为b值为(250~500)s/mm2 时,DWI对MI患者心肌水肿最敏感。此外,呼吸运动和心脏搏动可致DWI心肌信号丢失严重。目前尚缺乏DWI诊断AMI的研究,但认为DWI评估AMI有巨大潜力,有望为诊断急性非典型胸痛及评估预后提供更丰富的信息。
34
35
>
DWI
>
T1mapping
多模态CMRI不仅能综合评估心脏的形态及功能,且能动态评估AMI进展,准确测量AAR及MIC,为诊断和治疗MI心肌提供可靠的影像学依据。目前T2WI最为常用,但对其诊断AAR的准确性仍存在争议。T1mapping、T2mapping可更客观、准确地定量评估AMI的AAR面积。DWI能动态及定量评估心肌水肿程度及变化,进一步提高测量AAR的准确性及敏感性。随着CMRI的不断发展,联合应用首过心肌灌注成像技术、延迟强化技术及2D、3D血流分析技术,CMRI将在临床影像学诊断中发挥更大作用。
来源:张鑫,喻思思,李淑豪,龚良庚.心脏MRI评估急性心肌梗死危险区的研究进展[J].中国医学影像技术,2020,36(02):287-290.
>
小结
36
37
人工智能与临床创新研究院
主编:
编辑:
杨明雷
韩冬 杨俊 齐艳辉
NMS-AICIR@neusoftmedical.com
投稿方式