首页>>登录,我要注册

混合现实技术在 医学中的应用展望

作者:刘琳,李鸿波,刘洪臣,解放军总医院第一临床医学中心 科 来源: 颌面修复学杂志 日期:2019-10-13
导读

混合现实技术因其巨大的应用前景而受到医学界各个领域越来越广泛的重视并展现出光明的前景。特别是在 医学领域,混合现实技术将在 医学的基础研究、实践技能培训、医患沟通和临床治疗方面带来革命性的变化,激发医生的产生创造力,进而驱动 医学的进一步发展。

关键字: 混合现实技术 | 种植 | |

随着计算机技术、图像显示技术、空间定位技术和力反馈技术的不断发展,越来越多的研究开始关注于将虚拟空间与现实空间相互融合,从而使观察者能体验到一种特殊的混合环境,其核心是通过数字技术打破虚拟世界和现实世界之间的界限。混合现实技术是继虚拟现实技术、增强现实技术之后,出现的全新数字全息影像技术该技术,其核心的特性是打破了虚拟世界和真实世界之间的界限。

混合现实技术因其巨大的应用前景而受到医学界各个领域越来越广泛的重视并展现出光明的前景。特别是在 医学领域,混合现实技术将在 医学的基础研究、实践技能培训、医患沟通和临床治疗方面带来革命性的变化,激发医生的产生创造力,进而驱动 医学的进一步发展。

1.混合现实技术的发展和技术特点

虚拟现实(virtualreality,VR)技术起源于20世纪60年代,其技术特征是通过计算机模拟出一个接近真实的虚拟环境,提供视觉、听觉、触觉等感官的模拟,使用户产生一种交互式的三维动态视景和实体行为系统沉浸感。增强现实(augmentedreality,AR)技术是计算机图形技术的进一步发展,和虚拟现实技术不同,增强现实技术是将虚拟的图形信息叠加显示在真实环境中,使得观察者能体验到真实环境中难以体验到的虚拟信息,这种技术可被形象的描述为“实中有虚”。与增强现实相对应的是增强虚拟(augmentedvirtuality,AV),是将真实物体的各种物理属性,比如触觉信息、温度信息呈现在虚拟环境中,可被描述为“虚中有实”。

米尔格朗提出现实-虚拟区间(reality-virtualitycontinuum)的概念,从现实环境到虚拟环境需依次经历增强现实和增强虚拟。而混合现实(mixedreality,MR),既包含了“增强现实”又包含了“增强虚拟”,可将真实世界和虚拟世界混合在一起,进而产生出新的可视化环境,环境中同时包含了物理实体与虚拟信息。同增强现实技术相比,混合现实并不是虚拟物体和现实世界的简单叠加,而是构建了一个虚拟和现实无缝融合的全新世界,使得两者之间的信息能实时交换和互动。

MR技术结合了VR与AR的优势,是增强现实技术的进一步发展,通过在现实环境中引入虚拟环境,在现实世界与虚拟世界之间搭起一个交互反馈的信息回路,以增强用户体验的真实感。

2.MR技术在临床医学中的应用

混合现实技术开启了虚拟-现实领域的新时代,其应用的范围极其广泛,在文化、教育、艺术、军事、娱乐等多个领域均可看到MR技术的创新性应用。即将在产品展示、人工智能、图像仿真、模拟训练等与人类生活密切相关的领域带来革命性的变化。混合现实技术不仅局限在娱乐和游戏,它的特殊优势在特种行业,尤其是医学的发展中也具备更多的潜能空间,其中在医学教育、医学诊断、临床教学、外科治疗等健康领域将应用的越来越广泛。

MR技术能恢复医学影像原有的三维属性,为医师和患者带来更为直观、立体的影像信息。对于患者,能更为详实的了解自己的病情和手术方案,有效的避免和缓解了潜在的医患矛盾。手术医师能更为深刻的理解患者的影像资料,进而可进行更为精准的手术操作,提高手术质量、降低手术风险,也加速医师的成长和医疗质量、安全和治疗效果的提高。

2.1MR技术在医学教育方面的应用

医学是一门严谨的科学,能成为一名合格医师,需在医学相关领域受到的专业训练以及所拥有的医学知识,并特别注重实践技能的系统性培养。另一方面,医学关注对象是患者,不可违背道德伦理,任意在人体上接受随意的试错和实验。临床学习贯穿于整个医学学习的过程,然而,复杂的医疗环境为当代的医学学习带来了巨大的挑战。只有经过严格的基础培训,才能为临床工作打下坚实的基础。理解人体解剖结构是基础培训的重中之重,对于医学实践具有较重要的意义,而MR技术尤其适用于这一教学环境。传统的解剖学习主要通过解剖尸体来进行,这种传统的学习方式能使学员更为详尽的理解书本中的理论知识,并了解到解剖结构局部和整体的相互联系。然而,这种培训形式的代价极为高昂,因尸体来源有限并且具有不可恢复性和不可复制性。

MR技术能呈现逼真的3D解剖模型,并通过视觉和触觉反馈技术,为用户带来接近真实的操作体验,这些特点也正符合传统解剖课程的教学需求。Blum等研发了一款叫做魔镜(Miracle)的设备,用于解剖学教育。在这套系统中可将采集到的CT数据可视化,受训者能使用不同的手势在矢状,冠状和轴向上中实时滚动CT数据集,模拟出局部断层解剖的操作感觉。由于这种技术的操作性更符合现代医学教育需求,所以在解剖学教学上极具前途。但受限于之前的技术水平,Miracle系统仍需在平面显示器中呈现,并未实现MR技术上的特征性功能—“全息”显示,所以仍需进一步的开发。

2.2MR技术在医学诊断学中的应用

通过运用3D打印技术,可再现病灶的立体形态,让医师对病灶有更加充分的理解,有利于提高诊断的准确性。结合了AR技术的虚拟内窥镜,能对CT、MRI等断层影像进行3D可视化处理,模拟出连续的器官内脉管结构的3D结构,还能有效避免真实检查可出现的感染、疼痛、出血等不良后果。此外,这些数字化的虚拟影像还可重复使用、进行动态病理分析,甚至能模拟检查光学内窥镜无法检查的人体组织,比如脑、内耳、脊髓椎管、血管等。

2.3MR技术在临床 领域的应用

在传统外科手术中,医师术前需阅读X线片、CT、磁共振等影像学检查结果,提前规划手术。手术中完全取决于医师的对解剖结构和各种变异的熟知,以及术中临场应变能力。如果术前获取的信息不完整或主刀医师理解存在偏差,手术方案的准确制定和精准执行也会受到一定影响。

MR技术可更加全面而直观的展示出患者的身体内部信息,使得医师在术前就可在虚拟影像中进行直观的术式讨论和方案设计。在术中,通过将患者的影像信息叠加在患者的术区内,由于虚拟的3D数字模型与患者病变部位完全重叠,使得医师拥有了透视术区的能力。Simon等通过在神经血管手术中使用MR技术,帮助神经外科医师了解患者颅骨下方重要血管的拓扑结构和位置,从而可缩短手术时间并提高手术精度。

3.MR技术在 医学领域的应用

医学是医学领域中重要的一个分支,具有实践性、精细性的特点,对 临床医师的能力提出了更高的要求。 内软硬组织的特点、 治疗的特殊性对新材料和新工艺的依赖性,决定了计算机数字化技术在 临床中更宜、更易应用。

从20世纪90年代开始,计算机辅助设计和辅助制作系统(CAD/CAM)已广泛应用于 临床修复体的制作。近年来3D打印、增材制造技术又在 临床治疗中得到了广泛的应用。混合现实技术在 医学领域同样有极大的应用前景,能广泛的应用于牙体牙髓、牙周、修复、颌面外科、正畸等各个 分支学科的教学和临床应用中。

3.1MR技术在 教育方面的应用

操作技能的培训对 医学有着更为重要的意义,传统的体外牙模型和人工牙联合仿头模训练系统,皆存在着一定的局限。培训时的真实性不足,且病例资源种类有限,无法模拟出实际临床中出现的常见病例,也无法强化学员规范化练习的操作要领。MR技术能创建出更加仿真的模型,能模拟出临床中的常见病例和疑难病例,供学生反复练习,掌握治疗要领而不额外增加成本。目前基于混合现实技术已有针对牙体牙髓操作培训、牙周培训、颌面外科培训等系统被研制和开发。但系统尚处于研究早期,不够成熟,距离真正大规模的教学应用,还需进一步的研发与完善。

3.2MR技术在颌面外科领域的应用

颌面外科关注的解剖范围是影响个体社交的颜面部因此颌面部的外伤、肿瘤、畸形的定位、定性和定量诊断,周密准确的手术设计和面貌的预测对于确保满意的手术效果至关重要。利用MR技术实现颌面外科的术区设计和诊断是一个重要的研究方向,通过术前重建颌面部的三维模型,对提高手术精度、增强医患沟通具有重要的意义。在正颌外科中可最大程度的在术前模拟截骨的位置和截骨后的效果,为手术医师的操作提供重要的参考。配合3D打印技术,还可制作手术导板,在术中指导医师按照术前的设计精确的执行手术。

3.3MR技术在 修复学领域的应用

修复学涉及复杂的牙、肌肉、关节系统,无论是固定义齿、局部义齿还是全口义齿的修复均要充分考虑咀嚼肌、表情肌肌肉的协调,牙齿排列对颌面部美观的影响,咬合关系恢复以及与颞颌关节的关系等因素。特别是美学区的修复,更要充分考虑前牙和面部口唇的协调。通过MR技术,可模拟部分复杂病例的治疗方案,让医师和患者可最大程度的预测未来治疗效果以及潜在手术风险,并可根据术前设计指导复杂咬合重建和前牙美学的修复治疗流程。

4.MR技术在 种植学领域的应用

4.1MR技术在种植领域的潜在优势

尽管现有的种植牙技术在临床上的应用已较成熟,近年来锥体束CT(CBCT)的应用,由于具有更高的分辨率和更薄的扫描层厚,能最大限度地获取到颌骨的影像数据信息,结合三维体绘制技术重建出的3D图像,使的颌骨的显示和测量变得更为直观和精确,为临床诊断和治疗过程提供了重要的支持。

在进行种植手术前一般通过CBCT检查对颌骨的三维形态、骨量、密度情况进行评估,并以此为依据制定种植手术的方案。但是,在手术实际开展时,由于术区的实际解剖结构更为复杂且颌骨暴露面积有限,术者较难精确按照预定方案实施手术。尽管目前发展的种植手术导板技术能将手术设计准确的转化到手术操作中,但操作复杂、制作周期较长,并且软硬组织的解剖以及固定准确度均会影响导板的准确性。而MR技术与传统的种植导板相比较更具优越性。

医师可校准因CT影像误差、CT影像与患者 实际匹配环节的误差,对术前种植路径、定位进行微调,进而获得更理想的种植路径和种植位置。弥补因使用种植导板带来的手感不佳的问题,是医师更能获得骨质硬度、疏松程度等反馈信息。对于张口度有限的患者,可避免因种植导板带来的操作空间不足和障碍等问题。并与术前CT影像相结合,可实时显示种植体在骨内的位置,使术者随时掌握种植体植入的位置。植入种植体后可进行植体位置定位,确定植体最终的植入位置。种植过程中,术者可更好的观察植入区域附近出血、软组织的反应,患者反应等情况。

近年来种植导航系统快速发展,为种植手术的精准实施提供了有利的支持,部分厂家推出了适用于种植手术的导航仪和相应的软件,能满足临床医师的操作,如IGI,VISIT,Robodent,Voxim,Treon等导航系统。但目前的导航系统仅能在一块平面显示屏中呈现出术区解剖结构,导航引导信息显示的不够立体和直观,此外术者的观察目标需在患者口内和显示屏之间来回切换,分散了术者的注意力,增加了操作的复杂程度。

MR技术突破了传统显示技术的局限性,可让患者的3D模型真实的呈现在术者前。观察者不再需将平面影像信息在脑海中进行3D重构,即可直观、立体的观察全息模型,对于理解解剖信息有极大的帮助。还可任意角度,任意大小的观看模型,并可按需隐藏特定组织或调整透明度,轻松观察缺失牙位置和周围血管、神经的关系,便于术前手术方案讨论。MR导航技术兼具MR的直观性和导航技术的精准性,由于能在患者 周围全息显示出导航器械与颌骨、牙齿的相对空间位置关系,并实时全息显示引导信息,让种植手术的整个流程得以流畅的完成。

4.2MR导航技术的应用准备

获取影像数据:取上下颌牙齿实物模型,开口位完成CT扫描,完成扫描后获取模型的原始Dicom数据。病例模型制作:将扫描获得的Dicom数据导入到三维影像工作站中,通过三维影像工作站生成牙齿、颌骨的三维模型,并预先设置一组配准点和一条种植路径,然后将这些数据信息打包导出到导航软件中。种植工具模型获取:利用工业三维扫描仪等工具,将术中需使用到的种植手机、牙钻、种植体进行三维扫描,快速获得这些物体的三维模型并按需使用软件修复模型中的孔洞和瑕疵。

导航工具制作:借助已经获取的种植手机模型,设计一个可稳妥固定在手柄上的支架3D模型,该支架模型用于安装光学追踪定位光珠。同时设计一个可以临时固定在牙齿上的光学追踪装置,用于纠正模型移位后可能存在的导航偏差。之后利用3D打印机将这两个模型打印出来,然后完成导航工具的整体组装。

4.3MR种植导航的关键技术

Dicom数据:通过CT机扫描获得,其原始数据格式即为Dicom。三维影像工作站:可将Dicom数据中的兴趣体数据逆向重建为三维网格模型。导航手术工具:使用光学、磁学或超声导航装置,事先将其与种植手机柄进行刚体连接,用以传输种植手机的六自由度位姿信息。导航追踪工具:使用导航定位装置,术中临时将其与牙齿进行刚体连接,用以传输颌骨和牙齿的六自由度位姿信息。导航定位工具:使用导航装置配套的探针工具,尾端固定有导航定位信号采集点,用以探针尖端的六自由度位姿信息。

导航设备:导航设备中包含红外景深探头和配套数据处理计算单元,能够通过探头捕捉导航手术工具、导航追踪工具、导航定位工具的相对空间位置信息,并将坐标信息传输给计算机。PC客户端软件:计算机中的一个软件,主要用于发布病例数据、显示三维模型(手术工具模型、患者牙齿模型等)、传输导航工具提供的工具位姿信息。终端显示客户端软件:主要用来接收和全息显示PC计算机发送过来的三维模型和导航工具位姿变换的指令信息,可以通过屏幕显示、空间投影和头戴设备等实现。多坐标系统一:能将Dicom影像的坐标信息、导航设备的坐标系信息、终端显示及投射设备的坐标信息、牙齿实体模型的世界坐标信息进行统一。

4.4MR导航技术的配准原理

在Dicom数据坐标系、导航工具坐标系和牙齿实体模型的世界坐标系匹配过程中,PC端的导航软件利用导航探针工具实时回传的一组配准点数据,与病例数据文件中事先嵌入的配准点数据信息进行比对和拟合,即可完成三个坐标系之间配准。当上面的配准完成后,还可将头戴设备的坐标系与世界控件坐标系进行匹配。可在导航景深探头设备的固定位置放置一个可识别图片,由于当头戴设备具有景深扫描功能,当其扫描到该图片后即可计算出探头在世界空间中的位姿信息。由于之前已完成了导航工具坐标系和牙齿实体模型的空间配准,此时借助于临时固定在牙齿上的导航追踪工具,就可快速的完成头戴设备与世界空间坐标系之间的配准。

4.5MR导航技术的技术使用流程

启动导航服务器、导航设备、导航客户端、显示终端。通过wifi、数据线等方式将其各个端连接到同一个局域网下,确保各个端点可完成数据传输。将病例三维数据通过导航客户端将其上传到服务并储存。在导航客户端中选择手动配准,使用导航工具(探针),对照客户端的配准点和实体模型上的配准标识进行配准点采集;采集4个配准点后坐标配准完成,导航工具、CT影像数据与实体模型之间的配准结束;使用头戴设备客户端,选择对应的三维数据并加载,加载完成扫描导航设备中粘贴的可识别图片,扫描成功后便可完成头戴设备空间与世界空间之间的配准结束;配准后头戴设备中能看到全息模型和导航工具与真实的模型和导航工具完全重合。

通过以上操作,完成整套设备配准后,即可完成虚拟三维模型数据与真实物体重合,真实手术工具与虚拟三维手术工具重合;虚拟手术工具与虚拟三维模型的相对空间位置关系与真实物体的空间位置保持完全统一。

5.展望

混合现实技术在未来的医学领域中比AR和VR更具有前景,因MR所能实现的虚实结合效果更具有现实意义。相对于VR的环境闭塞和AR的弱交互,MR的优势让使用者无需走入封闭的虚拟场景,即可体验到融入到真实世界的仿真物体,这些仿真物体如同真实物体一样清晰立体,能在任意角度、任意位置进行物表自由观测和透视观察,可为使用者带来更出色的视觉感受。

MR技术现在已在多个行业应用,对未来更加细分的医学领域,它能够为医师提供更具价值的影像学信息,还能帮助临床医师更好的理解手术操作,提升和优化专业技能,服务患者。虽然目前混合现实技术应用于 种植领域尚在实验初期,但已能显著的提升临床医师的阅片能力,帮助医师合作探讨手术计划的合理性和可行性。下一阶段,混合现实技术将能与手术导航更好的结合,为手术医师带来全新的全息导航体验,有效降低种植失败率,避免损伤邻近牙根和神经血管,缩短手术时间的同时也能为患者带来更优质的预后。这在 种植领域具有开拓性的临床意义,医学影像全息革命将在 种植手术中带来全新的变革,技术成果令人期待。

来源:刘琳,李鸿波,刘洪臣.混合现实技术在 医学中的应用展望[J]. 颌面修复学杂志,2019(02):102-107.

分享:

相关文章

    评论

    我要跟帖
    发表
    回复 小鸭梨
    发表
    //站内统计//百度统计//谷歌统计//站长统计
    *我要反馈: 姓 名: 邮 箱:
    Baidu
    map