本技术公开了一种基于形状先验的双分支细胞核实例分割方法。该方法主要是将U‑Net解码器分成两个分支即mask和edge分支,一个用来预测细胞核掩膜,一个用来预测细胞核边界,并提出了一个密集空洞卷积模块辅助细胞核边界生成以及一个多尺度卷积模块辅助细胞核掩膜生成,之后分别将两个分支得到的特征融合在一起,同时利用后处理操作得到相应的核实例。然后,利用先验知识设计了一种改进的损失函数,针对mask分支和edge分支分别选择适当的损失函数,最后,将两个任务损失函数的加权和作为网络损失来指导模型训练,通过将先验知识嵌入到损失函数中,有效解决了细胞核轮廓不光滑、异形等问题。
背景技术
癌症是危害人类生命健康的严重疾病,降低癌症死亡率的关键是及时的排查诊断,做到早发现,早治疗。传统的癌症筛查主要依赖细胞学检查如巴氏涂片检查和液基薄层细胞检测等,然而,这些方法存在耗时耗力、容易受到个人主观因素影响等问题。因此,近年来,许多研究都集中在利用基于机器的筛选方法即基于计算机辅助诊断(CAD)系统,以帮助专家减少错误和工作量,加快筛选过程,并降低筛选成本。细胞图像分割在计算机辅助诊断系统中起着关键的作用,它是对细胞图像进行自动化分析的首要步骤,它为下一步的特征提取和分类提供必要的基础准备。
在细胞图像分割中,细胞核分割是研究的重中之重。细胞核对于评估疾病的存在及其严重程度至关重要,细胞核的分布、大小形态以及聚集密度等特点能够反映组织病理学图像的重要信息。例如,乳腺癌中淋巴细胞核的浸润与患者的生存和预后有关,细胞核多形性对癌症分级具有诊断价值。通常情况下,一个细胞核对应一个细胞,细胞核作为细胞质检测的指示器,其检测的准确度也直接影响了接下来细胞质的识别和分割,而且癌症的分析、诊断、分类和分级在很大程度上依赖于细胞核分割的质量。准确的细胞核分割可以帮助研究人员快速分析大量细胞图像数据,识别细胞核的数量、形态和位置等信息,可以帮助医生和研究人员更好地理解细胞结构和功能,从而促进疾病的早期诊断和治疗研究。因此,对于细胞图像中细胞核分割的研究很有必要。另外,细胞图像中,细胞经常发生粘连,如何将粘连在一起的不同细胞实例区分开来是极具挑战性的课题。由于显微镜下细胞核的成像条件和分布特点,细胞核的实例分割领域仍然存在许多困难和挑战。一些细胞核图像中的细胞容易彼此聚集,导致重叠问题。因此在低对比度染色下,细胞的半透明细胞质相互遮挡,导致模糊的细胞边界预测。此外,复杂的因素,如不同细胞类型具有各种特征,包括形状、大小、颜色和纹理,使得准确分割细胞核变得更加困难。
目前,实例分割的方法分为两阶段和一阶段的方法。两阶段的方法包括一个检测阶段和一个分割阶段,检测阶段用来定位核实例,分割阶段用来预测每个实例的前景掩模。代表性方法是Mask R-CNN及其变体模型,其使用边界框检测核实例。然而,核的形状趋向于椭圆形,并且实例之间典型地存在严重的遮挡,这意味着每个边界框可以包含表示两个或更多个实例的像素,这表明边界框对于核分割最终可能是次优的。此外,两阶段网络的复杂性较高,目前最新的一些研究都是使用了一阶段方法即采用单个网络预测,并利用后处理操作来获得核实例。一阶段方法中常使用基于距离和基于边界这两类方法,基于距离的方法有两个不足之处:一是质心本身缺乏上下文信息,二是对于不同尺寸的细胞核,质心距边界像素的位置不同,从而导致了距离预测精度的下降。相较之下,基于边界的方法整体性能更优越,并且在细胞核分割网络中没有考虑细胞核的先验知识,导致部分细胞核轮廓不光滑、存在异形等。针对上述问题,我们根据细胞核的形状特征,提出了一种基于形状先验的双分支细胞核实例分割方法。该方法主要是将U-Net解码器分成两个分支即mask和edge分支,一个用来预测细胞核掩膜,一个用来预测细胞核边界,并提出了一个密集空洞卷积模块辅助细胞核边界生成以及一个多尺度卷积模块辅助细胞核掩膜生成,之后分别将两个分支得到的特征融合在一起,同时利用后处理操作得到相应的核实例。然后,利用先验知识设计了一种改进的损失函数,针对mask分支和edge分支分别选择适当的损失函数,最后,将两个任务损失函数的加权和作为网络损失来指导模型训练,通过将先验知识嵌入到损失函数中,有效解决了细胞核轮廓不光滑、异形等问题。
实现思路