1、第七章 医学图像配准与融合,Medical Image registration and fusion,1,主要内容,配准融合技术概述医学图像配准技术图像图像融合技术,理论 方法 评估,方法 评估,背景 意义,背景,医学影像设备在最近十年中得到迅速的发展，并广泛应用于临床诊断和治疗中。 由于成像的原理和设备不同，存在有多种成像模式（解剖成像、功能成像）。,3,对人脑可用多种模式成像,意义,解剖图像：提供解剖形态信息，分辨率高 功能图像：提供功能代谢信息，分辨率差二者结合：在一幅图像中同时表达来自人体多方面的信息，使人体内部结构和功能等状况能通过影像反映出来，直观提供人体解剖生理病理信息。于是出
2、现了配准和融合技术，配准是融合的先决条件,4,临床应用,外科手术术前病灶精确定位 放疗计划CT图像精确计算放射剂量、MR图像描述肿瘤结构，PET对代谢、免疫及生理方面进行识别，配准融合后图像用于改进放疗计划、立体定向活检、手术 癫痫病治疗观察炎症、脑外伤、硬化症等变化、病灶精确定位,5,6,配准（image registration）的概念,医学图像配准是指对于一幅医学图像寻求一种（或一系列）空间变换，使它与另一幅医学图像上的对应点达到空间上的一致。这种一致是指人体上的同一解剖点在两张匹配图像上有相同的空间位置（位置一致，角度一致、大小一致）。、 目的：将多种成像模式或同一种模式得到的多幅 图
3、像综合分析，更好的了解组织情况 解决的问题：几幅图像的严格对齐,几幅图像信息综合的结果称作图像的融合（image fusion）。 利用图像融合技术，将多种图像结合起来，利用各自的信息优势，在一幅图像上同时表达来自人体的多方面信息，使人体内部的结构、功能等多方面的状况通过影像反映出来，从而更加直观地提供人体解剖、生理及病理等信息。图像配准技术是图像融合的先决条件,7,8,图像配准示意图,配准实现过程：1. 获得特征图像：不同角度，不同位置，反映某些方面的特征 2. 图像配准：通过空间变换（移动和旋转），使两幅图像对齐 3. 图像融合：得到整体特征图像,9,实例：,方法分类：1993年VDE 7
4、种,按维数：2 D、3D 按摸态：单、多 按变换性质： 按用户交互性：自动、半自动、交互 按配准所基于图像特征：外、内 按变换参数确定的方式：公式、最优解 按主体分：同一患者、不同患者、患者与图谱,10,11,刚体变换：指物体内部任意两点间的距离及平行关系保持 不变（处理人脑图像，对不同方向成像的图像配 准常使用刚体变换）仿射变换：保持平行性，但距离发生变化，直线还是直线（校正成像设备的误差产生的畸变）投影变换：直线映射成直线，平行性和两点间的距离变化（二维投影图像与三维图像的配准）弯曲变换：直线变成曲线 (解剖图谱变形拟合图像数据),12,单模配准的典型应用：,（1） 不同MR加权像间的配准
5、,（2） 电镜图像序列的配准,13,单模配准的典型应用：,（3） fMRI图像序列的配准,（4） 胸腹部脏器的图像配准,时间序列图像，大脑活动会产生氧摄取量和血流间的不平衡,MRI图像测得信号的改变,解决：参考点位置确定（定位问题）运动过程中的局部变形和噪声问题,14,多模医学图像配准：,待配准的两幅图像来源于不同的成像设备。,解剖图像：,CT：对密度差异较大的组织效果好 MRI：可识别软组织,较高的空间分辨率,功能图像：SPECT/PET：能反映人体的功能和代谢信息,空间分辨率差,一般临床上的应用：CT（或MRI）和SPECT（或PET）的综合分析，同时提供功能和解剖信息,15,多模医学图像
6、配准：难点：由于扫描设备的原理不同，两种断层图像间并不存 在简单的一一对应关系,人脑MR/PET图像配准 上排：轴向图； 中间：矢状图； 下排：冠壮图 左：PET图像； 中：MRI图像； 右：融合图像,16,不同对象的图像配准,难点：不同对象形状、大小、位置差异,方法： 1）确定一个共同的标准。要求有一个详细标记人体各个解剖位置的计算机化标准图谱，如Talairach标准空间，把两幅图像分别映射到图谱，再比较,17,Talairach人脑图谱,对两个病人的PET或MR图象进行比较，首先把二者的图像都映射到这个共同的参考空间，然后再比较,不同对象的图像配准方法：,胼胝体,18,用非线性变换法配准
7、不同人脑表面沟回,2）非线性形变法将三维图像逐渐变形，最终较好的与另一个三维图像匹配,不同对象的图像配准方法：,19,图像与图谱配准或与物理空间配准,在手术导航系统中解决图像像素与实际物理空间的位置配准,图像空间,立体定向装置、人体实体空间,坐标变换,实现方法：,配准理论基础,每一幅待配准的图像都与定义图像空间的坐标系有关。一般情况下，图像配准都是基于几何变换的，即寻找一幅图像空间X中的点（用列向量x表示）与另一幅图像空间Y中的点（用列向量y表示）之间的映射。X经T变换后得到点x，即： x=T(x) 如果y与x是对应点，则成功的配准应该使得x等于或近似等于y，若两者之间的差值T(x)-y 非零
8、，则说明存在配准误差。根据空间变换T的形式不同，可将其分为刚体变换和非刚体变换两种形式。,20,21,图像的变换模型：,刚体变换（二维刚体变换、三维刚体变换）全局尺度变换仿射变换（9参数仿射变换、一般仿射变换）透视变换*非线性空间变换*,22,医学图像配准在大多数情况下是采用刚体变换模型。 人体的很多组织可以近似为刚体，如骨头、由颅骨固定的大脑等,刚体变换：平移、旋转,刚体变换,物体内部两点间的距离和角度保持不变,23,二维刚体变换：沿x轴平移：,向右平移p为正 向左平移p为负,矩阵公式：,变换公式：,其中x与y是平移后的结果,从（x,y)变到新坐标系（x,y),24,沿y轴平移：,向上平移q
9、为正 向下平移q为负,矩阵公式：,变换公式：,其中x与y是平移后的结果,25,绕坐标原点旋转：,矩阵公式：,变换公式：,26,复合变换：,不同顺序的变换得到的结果是不同。,先沿x轴平移，再沿y轴平移，最后绕原点旋转,先绕原点旋转，再沿y轴平移，最后沿x轴平移,27,举例：,设刚体变换先绕坐标原点旋转10，再沿x轴平移4个单位，然后沿y轴平移9个单位,设刚体变换先沿x轴平移4个单位，再沿y轴平移9个单位，然后绕坐标原点旋转10,28,对于一个给定的变换结果，可以有许多不同的变换途径,先沿X轴平移2.3764个单位 再沿Y轴平移9，5579个单位 最后绕坐标原点旋转10度,29, 三维刚体变换：沿
10、x轴平移,向右平移p为正 向左平移p为负,矩阵公式：,变换公式：,其中x,y,z是平移后的结果,30,沿y轴平移：,向上平移q为正 向下平移q为负,矩阵公式：,变换公式：,其中x,y,z是平移后的结果,31,沿z轴平移：,向前平移r为正 向后平移r为负,矩阵公式：,变换公式：,其中x,y,z是平移后的结果,32,绕坐标轴旋转：,绕x轴旋转：,绕y轴旋转：,绕z轴旋转：,33,复合变换：,结合先旋转、后平移，及先平移后旋转，共有12种不同的组合顺序。对于先旋转后平移有：,与二维复合变换相同，不同顺序的变换得到的结果是不同; 对于一个给定的变换结果，可以有许多不同的变换途径,34,全局尺度变换,在
11、刚体变换基础上增加一个新参数m，使图像全局缩放m倍,注：尺度变换与平移变换的顺序有影响，但与旋转变换顺序无关。,35,（3）仿射变换9参数仿射变换,各方向上尺度变换系数不同，,1）对于同一个人的图像配准，可以在做旋转变换之前做尺 度缩放 2）对于不同人的图像配准，可以先旋转对准图谱，然后做 三个方向的尺度缩放,36,基本的二维仿射变换举例：,沿X轴,整体旋转,沿Y轴,沿X扩大,整体扩大/缩小,沿Y扩大,原图,不改变面积,改变面积,37, 一般仿射变换,二维仿射变换：,三维仿射变换：,无需计算正弦和余弦，由变换参数决定变换结果,38,（4）透视变换,直线经变换后还是直线，但平行的直线经变换后可能
12、相交。,39,（5）非线性变换,无线性约束，一般用于校正图像获取过程中由仪器设备引入的畸变,40,主要配准方法,点法曲线法表面法矩和主轴法相关法最大互信息配准方法图谱法非线性变换,41,（1）点法,先寻找两幅图像之间的标志点（相同的点），然后通过对对应点集的刚体变换，将标志点对准，实现图像配准,标志点可以分为：内部点和外部点两种,内部点：是从与病人相关的图像性质中 得到解剖标志点，如耳蜗尖端 拐角、血管分叉或拐角处等内部点寻找困难、费时,外部点：采集图像前，在病人的特定部位添加标记，使 得两幅图像都能检测到标记点，如螺钉、记号外部点容易识别，但受试者需要严格保持不动,42,图像1,图像2,确定
13、标志点,几何变换,配准图像,寻找对应点,确定对应关系,43,（2）曲线法,用人工的方法寻找两幅图像对应的开曲线，在两条曲线对应最佳的线段找出一组对应点，再用点法配准,44,“帽子”从一幅图像轮廓提取的点集,头表面模型另一幅图像表面,（3）表面法,配准原则：寻找到的几何变换使得点与表面间的距离平 均平方值最小,45,（4）矩和主轴法,计算两幅图像像素点的质心和主轴，通过平移和旋转使质心和主轴对齐，实现配准,缺点：1.对数据的缺失敏感，整个物体必须完整的出现在 两幅图像中2.对准效果不是很好，只能做前期配准，减少后续 主要配准方法的搜索步骤,46,（5）相关法,适用于同一个物体由于图像获取条件的差
14、异或物体自身发生的微小变化而产生的图像序列的配准，从而发现物体的改变,采用使图像间相似性最大化的原理，估计变换参数，利用刚体的平移与旋转，实现配准,缺点：每种变换参数可能的取值都要计算相似性，相关法计算代价十分庞大,相似性：相关函数、相关系数、差值的平方、差的绝对值等,47,配准实例（1）：点法,脑部冠状图像,48,脑部3D解剖图像,传统的解剖图像,配准实例（2）：相关性,49,1）图像中心对准 2）表面法配准,图像配准的评估,相对标准，与配准目的有关 体模-初步 准标-人工记号 图谱 目测检验,50,51,图像融合技术,将几幅图像的信息融合到一幅图像中，并可视化显示的过程,前提：图像已经较好的配准,融合的图像可能有以下性质：,在一副图象中出现的特征，在另一幅中没有感兴趣物体在两幅图像中具有相同信息，但不同的对比度两幅图像的动态范围不同，或分辨率不同图像存在噪声或局部信息丢失要求融合的图像视觉效果好，看上去自然,融合方法,基于分割的图像融合：从一幅图像中分割出感兴趣部分，嵌入到另一幅图像中 加权平均：将一幅图像对应的像素乘上一个系数，加到另一幅图像 Toet法* 灰度调制法* 小波变换融合法*,52,图像融合的评估,主观评价 客观评价 熵 交叉熵 互信息 图像均值 灰度标准差 均方误差 信噪比与峰值信噪比 平均梯度,53,
