现代战争背景下VR颌面战创伤急救培训系统的开发与运用
2023-10-08蔡卜磊张于凡杨璐颖佘建祯邓中荣许浩坤口颌系统重建与再生全国重点实验室国家口腔疾病临床医学研究中心陕西省口腔疾病临床医学研究中心空军军医大学口腔医院颅颌面创伤正颌外科口颌系统重建与再生全国重点实验室国家口腔疾病临床医学研究中心陕西省口腔疾病临床医学研究中心空军军医大学口腔医学院颅颌面整形与美容外科空军军医大学研究生院陕西西安700
蔡卜磊,张于凡,杨璐颖,鲍 涵,佘建祯,孔 亮,田 磊,邓中荣,许浩坤(口颌系统重建与再生全国重点实验室,国家口腔疾病临床医学研究中心,陕西省口腔疾病临床医学研究中心,空军军医大学口腔医院颅颌面创伤正颌外科,口颌系统重建与再生全国重点实验室,国家口腔疾病临床医学研究中心,陕西省口腔疾病临床医学研究中心,空军军医大学口腔医学院颅颌面整形与美容外科,空军军医大学研究生院,陕西 西安 700)
颌面部易暴露、难防护。据统计,颌面部损伤在现代战争损伤中的占比高达30%[1-2],而俄乌战争最新报告显示,颌面部损伤在伤员中的占比已超过34%[3]。由于颌面部血运丰富,伤后极易引发失血性休克,且作为呼吸道的始端,伤后常导致呼吸道急性梗阻,极大降低了伤员生存概率。因此,颌面部损伤急救技术是颌面战创伤急救培训中的重点内容。目前,我国战创伤急救技能的训练大多仍以理论教学结合实训为主[4-5],存在环境“实战化氛围”不浓,伤员“伤情真实性”不够等问题。并且,受限于基层卫勤单位地理位置相对分散,教学条件及培训水平参差不齐等限制,传统训练模式已越来越不能满足当代官兵的战创伤急救技能的训练需求[6]。
虚拟现实(virtual reality,VR)技术最早源于美国军方的作战模拟系统,为一种由计算机技术辅助生成的高技术模拟、高度沉浸式VR系统,其通过有机融合高分辨率的立体投影技术、三维计算机图形技术和音响技术,来制造一个完全沉浸式的逼真的虚拟环境,使其中的任何物体都可以感受参与者的操作,并给予对应的设置变化。利用VR技术可建立真实的战争场景、武器装备、火力配置等战争效果,设置不同伤员模型、真实搭建虚拟伤员训练平台,将学员带到“实战”现场,为使用者创造一种险象环生、紧张危险、逼近真实的立体战场环境,以增强其临场感受与战争压力感,并通过远程平台搭建和线上慕课资源建设,以及“线上教学-线下实训-远程指导”的混合式数字化教学的模式,突破空间和场地的限制,有效提高实战化训练质量[7-9]。目前,VR技术已广泛运用于手术培训和临床教学等方面,具有传统教学系统所不具备的优点[10]。借助VR系统开展颌面部损伤急救培训,能够以较小的代价、较短的时间实施各类型、高频次、多种方案的演练,快速发现并解决战伤急救中可能出现的问题[11],并且可以根据不同的作战任务,灵活设置救治场景与救治内容,提高救治人员的战场适应能力。
当前,战创伤急救VR教学系统已成为国外军事强国的主流训练模式[12],并建立了完善的模拟训练课程体系[13]。空军军医大学口腔医院作为全军惟一的口腔专科医院,承担着几乎全部的颌面战创伤救治培训任务。为优化战创伤急救培训模式,提高培训效率,本研究设计了一套包括六大训练模块以及六大教学管理模块的VR教学系统,使受训人员快速掌握颌面战创伤最基本的战场急救技术,从而更高效地完成救治任务,为战斗力的整体提升保驾护航。
1 方案设计
基于颌面战创伤急救培训的需求分析,本研究设计了颌面战创伤急救培训六大训练模块(图1),包括:①口咽管/鼻咽管置入;②环甲膜穿刺;③颌面部包扎止血;④头颈损伤伤员转运;⑤气管切开;⑥颌面战创伤综合救治,系统1∶1还原战场环境,在虚拟环境中模拟伤员受伤,并通过动态交互反馈技术,学习救援设备使用方法和颌面战创伤急救的操作流程。
图1 颌面战创伤急救培训系统VR体验端及教学管理六大模块
颌面战创伤急救培训系统教学管理六大模块,包括:①教学模块选择。采用语音文字和VR标识引导方式,引导学员进行颌面战创伤急救培训模块选择;②用户信息管理。管理员可以通过后台页面,导入或添加学员信息、设置学员权限、重置学员密码等;③考核记录。全程记录学员实施急救的操作流程,并留档;④考核管理。考官依据考核标准进行打分;⑤自动评分及分析。学员操作完成后,系统根据所设定的评分点打分,并最终给出综合得分;⑥记录留档。对所有学员的成绩进行留档和管理,可完成分数统计、考情分析、成绩打印、记录导出等操作(可单人或多人导出、以excel格式存储数据文件)。
1.1 系统开发关键技术
系统开发集成平台采用SOA的设计理念,使用分布式、多层次和基于消息的低耦合结构,运用Unity3D引擎开发,结合VR、图像处理、分布式存储等技术,与颌面战创伤急救业务逻辑相融合,实现颌面战创伤救治培训教学。平台设计开发中的关键技术,介绍如下。
1.1.1 3D虚拟场景的设计 3D模型的制作利用3D扫描仪器,对国产战创伤模拟人,单兵急救包、转送担架等内容进行360°扫描,形成基于实物的数字模型。六大培训模块的场景环境以及急救器械进行高精数据采集建模(图2)。将取得的数据通过3D建模工具,以栅格化的数据格式进行3D建模,形成3D高度仿真模型。为进一步加强真实性,配合同等坐标的高精度照片作为Shader的texture,生成3D模型,并最终构建沉浸式虚拟场景。通过头戴式VR设备的沉浸式体验,让学员感受真实战场环境下面对伤员进行医疗救治的紧迫感,在战争氛围中学习颌面战创伤的急救过程,提高学员对战争环境的适应性。
图2 培训场景环境、国产战创伤模拟人以及急救器械的建模
1.1.2 动作及材质的加入 针对基础模型加入细节、材质贴图等信息,加强真实感和现场感。通过采集救治环境,战场环境、急救器械、伤员伤口组织等数据的数字模型,使用3ds Max及Maya等软件对所取得的真实数据进行仿真(图3)。关于工具的使用动画和伤员的伤情模拟等特殊仿真要求,在Max中设计仿真场景中的特有物件,并制作模型动画处理(图4),例如剪刀的使用、气管切开等,真实模拟救治所需的动作内容。
图3 救治环境的数字建模及仿真
图4 伤员的伤情模拟及救治工具使用动画的模型动画处理
1.1.3 物理特性模拟和最终渲染 在场景模型和急救工具使用的基础上,对场景的交互属性进行设置,对场景加入网格碰撞体,采用网格资源并基于该网格构建其碰撞体。在进行碰撞检测时,网格碰撞体比使用复杂网格的基元更准确。标记为“Convex”的网格碰撞体可与其他网格碰撞体发生碰撞。例如:场景中的掩体,增加了网格碰撞体,这样人就不能直接穿过掩体,必须绕行才可以通过。调整lighting及shading,以带细节法线方式、高分辨率逐像素灯光方式对场景进行prelighting照明,调整LOD以提高渲染效率将光线跟踪和阴影映射相结合来产生深度图像;利用物理规律来创建表面纹理;以及使用碰撞检测来创建战场场景动画。无论使用哪种方法,物理特性模拟都有助于创造逼真的场景效果。要想生成真实的光线跟踪图像,首先需要一种方法来创建表面纹理。然后,使用光线跟踪技术来捕捉光线的运动,并在物体表面上创建真实的纹理,以进行物理特性模拟(图5)。
图5 器械及人物的物理特性模拟
1.2 开发引擎与接口设计
颌面战创伤急救培训系统是针对军队战士学员、卫生员及卫生兵等目标人群进行研发的一套培训系统。由于系统场景环境复杂,使用人群的习惯不同,因此开发引擎的选用需考虑到各种因素的存在。本系统使用Unity引擎内置C#语言脚本,对硬件API接口部分重新定义,使多个硬件设备在同一Unity场景中使用时达到同步,以符合VR虚拟训练的要求,使操作者在Unity引擎中实现实时互动。本系统基于Unity引擎软件开发了引擎契合光线追踪技术,对虚拟场景中的光线变化有很好的适配,贴近真实世界的保真度,更符合本系统严肃主题所需要的渲染风格(图6)。
图6 引擎契合光线追踪技术
1.3 多人交互协同操作
创伤医疗的救治常需多名人员参与并配合。颌面战创伤急救培训系统通过数据传输、内容分发、动作捕捉、虚拟图像和语音交互等技术,让参与学员在同一场景下,从各自的视角相互协作,共同完成伤员救治。每个学员都可以看到实时同步的虚拟形象,并无障碍地进行实时语言交流和操作协同,从而实现同一场景内多个参训学员之间的互动、真实人物与虚拟物体的互动、真实人物借助虚拟物体进行关联互动(图7)。
图7 同一场景内多个学员之间的互动以及学员与虚拟物体的互动
1.4 VR系统后台数据库建立
颌面战创伤急救培训系统后台数据库建立内容包括用户信息、虚拟场景信息、物体信息、交互行为信息等。用户信息包括用户的登录、身份的识别,以及学员的详细情况,并对个人的实训成绩进行存储;虚拟场景信息,训练模块场景信息包括:①口咽管/鼻咽管置入;②环甲膜穿刺;③颌面部包扎止血;④头颈损伤伤员转运;⑤气管切开;⑥颌面战创伤综合救治各个场景信息的标准流程信息。
物体信息:使用的工具,每个工具都有自身的属性信息,通过在不同场景的使用,显示出不同的信息;交互行为信息:对于不同的虚拟训练场景,有着不同的交互行为信息,例如,抓起、触碰、按压等等。根据数据类型,设计相应的表结构,确定字段和关系。创建数据表并定义数据类型:按照设计好的表结构在数据库中创建对应的数据表,并设置每个字段的数据类型。对VR系统进行测试,并对性能进行优化,以确保系统运行稳定快速。
1.5 考核标准数据库和数据平台建立
建立基本的装备使用数据,以及通过3ds Max配合手工建模方式将真实装备3D模型导入到系统中,由后台控制其基本属性,由3D模型构成VR中的视觉部分。数据平台包括后台架构、服务器及客户端,以区分教师端和学员端。由教师在其专用端通过选择场景、任务和特定条件等,生成考核任务,由学员在VR端进行训练,教师进行考核结果评判打分,最终由系统生成考核报告(图8)。
A:教学模块选择;B:用户信息管理;C:考核记录;D:考核管理;E:自动评分及分析;F:记录留档。图8 教学管理六大模块
2 系统实现与建设效能
系统主要以颌面战创伤救治为主,主要包括“口咽管/鼻咽管置入”“环甲膜穿刺”“颌面部包扎止血”“头颈损伤伤员转运”“气管切开”以及“颌面战创伤综合救治”六大训练模块场景的模拟演练。系统利用3D建模软件和虚拟仿真技术,真实模拟战场,用户通过菜单栏选择相应的板块进行阶段式学习。用户以第一人称在模拟的战场进行伤员救治。救治过程中操作者以第一人称视角进行伤员伤势检查、紧急处理、伤情记录等操作及答题考核(图9)。
A:口咽管/鼻咽管置入;B:环甲膜穿刺;C:颌面部包扎止血;D:头颈损伤伤员转运;E:气管切开;F:颌面战创伤综合救治。图9 战创伤VR教学系统六大训练模块
3 讨论
近期,俄乌战争引发全球关注。战争导致大量严重战创伤患者的出现,极大考验了军队的卫勤保障体系。在被送到后方医院的患者中,包含大量复杂及严重的战创伤患者,伤情非常复杂,给救治带来极大挑战。其中,由于作战人员穿戴头盔和防弹衣,伤部主要以颌面部和四肢伤为主,在致伤原因中,爆震伤、烧伤占有较大比例。由于两军均缺乏口腔颌面外科的专科医生,颌面部伤员无法得到有效救治,导致大量伤员死于呼吸道梗阻、出血、感染等伤后并发症[3,14]。俄乌战争最新卫勤报告提示我们,有针对性地建设高效的新型教学培训体系,加强颌面战创伤的专科医生培养,做好战时卫勤保障的人才和技术储备,是目前亟待解决的关键问题之一。
VR是利用电脑模拟产生一个3D空间的虚拟世界,提供使用者关于视觉、听觉、触觉等感官的模拟,让使用者如同身临其境一般,可以及时、没有限制地观察乃至控制3D空间内的事物。在科技进步和国家军事需求的推动下,VR技术在军事领域的应用越来越广泛,例如利用VR技术模拟飞行演练、舰艇航行等[15]。将虚拟仿真教学和仿真实训运用于颌面战创伤救治的培训中,可为学员提供一个更加真实的战场救治环境[16],激发学员学习兴趣和积极性,帮助其快速掌握战场环境下的救治技能。现阶段,VR技术在颌面战创伤训练中体现出诸多优点,如模拟真实环境,提高学员的战场抗压能力[17];减少操作事故的发生;提高训练效果,使学员更好地理解和掌握战伤的特点[18]。但也同样存在一些问题,例如软件开发成本较高,VR训练的远程考核需要较高的带宽和流量支持,需要大量的数据和反馈优化训练效果[19]。
本系统立足战创伤教学的实际需求,对战场救治中的场景、任务和器械都已完成建模,为后续更多场景和培训项目的开发打下良好基础。且本系统研发的综合训练平台,利用多种信息技术和VR技术,实现了教学、科研、训练一体化,一旦推广,可快速收集大量操作数据,以进一步优化该培训系统,并在实战训练中验证VR技术在颌面战创伤救治培训中的可行性和效果。
4 结束语
VR技术在医学教育中处于高度发展阶段,实践证明其在教学应用中的潜力和价值。课题组完成的创伤救治虚拟训练系统是针对军医学员及拟担任战术后方救治任务的一线军医、卫生员、卫生兵等目标人群,通过VR教学系统的使用,使目标人群掌握最基本的紧急救治技术,熟悉模拟战争形势下对伤员的救治流程以及对伤情的准确判断,帮助学员更好地掌握战场急救知识和技能,为提高部队保障能力做出贡献。