美国航空航天局科技项目绩效审计的借鉴
2022-03-25张立新河南职业技术学院
张立新/河南职业技术学院
美国航空航天局(以下简称“NASA”)的重大科技项目成本和进度延迟继续增长,并且预计进一步恶化。自美国政府责任署(以下简称“GAO”)于2019年5月最后一次报告项目进展以来,成本增长超出计划约31%,连续第三年超计划增长。NASA 重大科技项目平均发射延迟12 个月,而2019年发射延迟13个月[1]。本文通过分析GAO2020 年对NASA 重大科技项目的成本、进度、技术以及设计等方面进行的绩效审计,以期为我国重大科技项目绩效审计提供借鉴。
一、NASA科技项目绩效审计概况
(一)NASA科技项目的生命周期
NASA 的主要项目有:配备先进传感器研究地球的卫星、计划在火星上收集土壤和岩石样本的漫游车、探索宇宙的望远镜,以及将人类和货物运送到低地球轨道之外的宇宙飞船。当项目的生命周期成本预计超过2.5 亿美元时,GAO 会将该项目列入年度审计。2020年GAO已将NASA的25个主要项目纳入年度审计,这25个主要项目的投资至少达650亿美元。
NASA 科技项目的生命周期包括两个阶段:一是制定阶段,即从概念到初步设计阶段;二是实施阶段,包括系统的建造、发射和运行等。NASA进一步将制定阶段分为A、B两个阶段,将实施阶段分为C—F阶段。重大项目在进入每个新阶段之前,必须在关键的决策点获得NASA 高级官员的批准。NASA将每个项目的开始称为关键决策点A(KDP A),即制定阶段的开始。在制定阶段,需完成项目的定义需求、成本和进度估计以及系统的设计实施。初步设计评审(PDR)一般在制定阶段的末尾,通过初步设计评审的项目应在可接受的风险范围内、成本和进度约束范围内满足所有系统要求,并为进行详细设计奠定基础。随后制定工作最终在关键决策点C(KDP C)进行审查,在该决策点需建立、记录和确认成本以及进度基准。项目确认后准备开始实施,C、D阶段的项目称为正在开发中。在C阶段的后半期,将进行关键设计审查(CDR)以确定设计的成熟度能否满足最终设计和制造。关键设计审查之后、D阶段开始之前,项目需要完成系统集成审查(SIR)以评估项目和相关支持基础结构的准备就绪状态。在D阶段,该项目执行系统组装、集成、测试和启动活动。E和F阶段包括运营、维持和项目结束。
(二)NASA科技项目绩效审计的目的
GAO 按照美国联邦政府审计准则,从2019 年5月到2020年4月完成了对NASA重大科技项目的绩效审计。该审计的目的主要有:评价NASA重大科技项目的成本和计划完成情况;评估NASA重大科技项目在技术和设计方面的进步;监督NASA在识别和应对风险方面的整改情况。
(三)绩效审计的方法和证据来源
项目的主要调查方法和数据来源也非常全面,主要包括。
1.比较分析法。审计人员将NASA 在2020 年1月提供的18个项目的相关数据与立项文件中的成本和进度基准进行了比较,判断NASA主要科技项目的成本和进度绩效。此外,还分析了NASA 从2009 年到2020 年1 月主要项目的研发成本和进度表现,以考察长期趋势。
2.问卷调查法。审计人员制定了多份问卷,由NASA的首席财务官办公室完成,以评价每个项目的成本和进度变化。审计人员还要求负责业务和技术的项目官员完成两份问卷,其中一份是关于技术成熟度的问卷,包含了项目实施各个阶段中每个关键技术和传统技术的技术准备程度;另一份是关于设计稳定性的问卷,包含了初步设计审查和关键设计审查以及目前已完成的工程图纸数量。
3.访谈法。审计人员与所有项目的相关责任官员进行了访谈,以讨论问卷上关于关键技术和传统技术的成熟度、设计审查中可发布的设计图纸数量的信息。此外,审计人员还通过采访项目官员了解各个项目的风险来源以及应对策略。
4.审阅法。审计人员审查了每个项目的文档,包括每月状态报告、项目计划、进度表、风险评估以及主要的项目审查文件,以证实审计人员在访谈中得到的信息。
二、NASA 科技项目绩效审计的主要内容和主要结论
(一)NASA重大项目组合的成本和进度绩效
NASA大型项目组合的成本绩效连续第三年恶化,而平均进度延迟有所减少。自从美国政府责任署(GAO)于2019 年5 月上次报告以来,成本增长已从27.6%增加到30.9%,平均发射延迟从13个月减少到大约12个月。
美国政府责任署的分析表明,由于以下几个因素,NASA 的成本和进度延迟预计会进一步增加,其中包括阿耳特弥斯一世(Artemis I)出现延迟以及猎户座多用途载人飞船(Orion)和太空发射系统(SLS)计划的成本增长被低估了。具体如下:
1.自上次评估(2019 年)以来,Orion 计划的开发成本增长了5.392 亿美元,这是由于阿尔特弥斯一世无人测试飞行的进度下滑以及承包商的表现不佳。猎户座多用途载人飞船计划没有延迟,因为它没有推迟阿耳特弥斯二世(Artemis II)在2023 年4 月的载人测试飞行。
2.自上次评估以来,SLS和EGS计划的开发成本总计增长了7.643 亿美元,这是由于SLS 计划的绩效不佳和进度延迟所致。这两个项目目前都在估算成本,在2021 年3 月发射。与2019 年年度审查准备在2020年6月发射相比,意味着这两个项目又延迟了9个月,但截至2020年1月,此发射日期仍由NASA领导层进行审核。
3.2020年火星(Mars 2020)计划报告称,由于多重开发困难,交付延迟和采购成本都高于预期,开发成本增长了3.109 亿美元。该计划没有延迟,在2020年7月进行发射。
4.激光通信中继演示(LCRD)计划报告的开发成本增长了3680万美元,这是由于其宿主航天器的发射准备期从2019年11月延误到2021年1月。
5.电离层连接浏览器(ICON)计划报告了720万美元的成本增长,由于运载火箭的延迟,项目又推迟了10个月。该项目于2019年10月成功启动。
此外,根据NASA 官员的说法,在2018 年12月至2019年1月期间政府停工对项目产生了多种影响,包括成本和进度储备金的使用。
(二)对NASA的技术和设计情况的评价
总体上NASA不断进步,其主要项目的技术和设计都趋于成熟。在设计方面,大多数NASA项目通过初步设计评审都达到了成熟技术的最佳实践,NASA在关键设计评审中具有稳定设计的项目数量恒定未变。在技术方面,与几年前相比,NASA后续报告的关键技术数量较少,这可能表明项目承担的技术风险较小,但是NASA在确定关键技术的过程中存在主观性,这也可能是原因之一。NASA已开始采取步骤解决关键技术识别过程中主观性的问题,GAO后面将持续跟踪关注这一领域。
1.NASA科技项目大体保持技术成熟度水平
GAO 发现,NASA 大多数科技项目(17 个中的12 个)通过了初步设计审查,使所有技术均达到TRL 6(衡量技术成熟度的指标,一种模拟太空恶劣条件的相关环境中展示该技术的测试)。初步设计能够在可接受的风险范围内、成本和进度约束范围内满足所有系统要求,并为进行详细设计奠定了基础,2020年NASA的技术成熟度水平与近年来基本一致。
截至2020 年1 月,有18 个项目正在开发中(这意味着该项目同时进行了初步设计评审和确认审查),平均报告了2.1 项关键技术,这与过去10年来报告的数量基本一致。在2020 年新增四个评价 项 目(Europa Clipper、PACE、Psyche 和SEP)中,只有PACE 和SEP 报告具有关键技术,它们分别报告了两项关键技术。但是与2009 年和2010 年分别报告的4.9 和4.5 项平均值相比,关键技术明显下降。关键技术平均数量下降可能表明最近的项目因为将更少的新关键技术纳入其设计,因而面临更少的技术风险。但是NASA用于识别和评估关键技术的过程存在主观性,这也可能是关键技术平均数量降低的一个因素。
2.项目设计稳定性总体平稳
NASA实施了严格的设计审查宁缺毋滥,但大多数项目仍不符合最佳实践。关键设计评审是指在项目生命周期中评估项目设计的完整性以及评估其满足任务要求的能力所需的时间。产品开发最佳实践要求在进行关键设计评审时,至少发布90%的工程图,可以降低项目经历设计变更和制造问题的风险,这些风险可能导致成本和进度的增长。工程图被认为是证明产品设计稳定性的一种很好的方法,因为工程图代表工程师用来与制造商沟通新产品设计详细信息的语言,即外观、组件接口如何使用、产品功能、如何构建以及制造和测试所需的关键材料和工艺。产品设计完成后,图纸即可发布。
截至2020 年1 月,在进行关键设计审查的12 个项目中,有4 个项目达到了最佳实践,即通过关键设计审查发布了90%的设计图,这与近年来类似。这12个项目在关键设计评审中可发布的工程图平均百分比为73%,与上年相同。尽管大多数项目都未达到最佳实践,但自2010年以来仍存在提高的趋势。
(三)NASA正在采取行动来识别和应对采购风险
NASA已经认识到成本和进度增长方面的最新挑战,并采取措施来识别和解决采购风险。在GAO的2019 年高风险评估中,发现NASA 已采取措施以降低采购风险,这些措施包括更新旨在改善成本和进度估算的工具,但仍存在一些问题。例如NASA在估算成本和进度以及挣值管理等领域并不总是遵循最佳实践,并且当新的风险出现时,不愿意更新项目的成本和进度估算。此外,在2018年5月对重大项目的评估中,发现几个NASA重大项目遇到了人员方面的挑战,包括人员不足或没有适当技能的员工。NASA还确定了在调度、挣值管理和成本估算等领域的能力差距。
2018 年12 月,NASA 制定了整改措施计划,以解决GAO 在《高风险报告》中指出的问题。该计划确定了一系列举措,这些举措将有助于制定更好的管理决策,但是其效果的评估尚需时日。整改措施计划涵盖面很广,主要如下。
1.加强挣值管理(EVM)的实施。挣值管理是一项关键的项目管理工具,可为管理人员和决策者集成有关项目成本、进度和技术工作的信息。它衡量截至某时间点实际已经完成工作量的价值,并将其与该时期内计划的工作计划价值和实际完成的工作成本进行比较。挣值管理是该机构了解项目开发需求、降低成本和确保进度的一个管理工具,NASA要求大型航天项目都要实施挣值管理。该计划还解决了挣值管理的监督问题,即对承包商的挣值管理系统的审查,旨在了解承包商使用挣值管理数据管理成本、进度和绩效的程度。
2.联合成本和进度计划置信度(JCL)策略。JCL会生成一个时间点估计,其中包括NASA太空飞行项目的生命周期从A到D阶段中的所有成本和进度元素,合并量化已知风险,评估迄今为止成本和进度的影响以及实现预定成本和进度目标的可能性,并解决可用的年度资源等问题。NASA已经实施了JCL政策,以帮助降低成本、提高透明度。
3.程序分析员的课程开发。NASA人力资源部门的调查和研究显示,科技项目缺乏足够的具有熟练技能的分析人员。所以正在建立培训课程体系,以增强项目的计划能力,并促进项目最佳实践和流程的一致性。NASA 已开始为28 项新课程中的10 项起草课程内容,并且对其中一门现有课程进行了重大更新。其中一些课程将在2020年由计划分析师进行试点。这些课程涵盖NASA 计划政策、JCL 实施、独立评估、进度、成本估算以及项目集成和沟通。
三、对我国科技项目绩效审计的借鉴
(一)审计内容上的借鉴
我国当前的科研项目审计主要侧重于财政收支审计,旨在审查重大项目研发和实施过程中资金使用的合法性[2]。例如项目管理人员是否存在虚构业务以套取资金,是否存在扩大项目财政资金的使用范围以挪用专项资金,以及财务人员的处理是否符合会计准则和制度的要求等。科研项目审计对项目执行的绩效关注较少,包括项目的计划完成情况、技术成熟度以及设计稳定性。这为我国大型科技项目的绩效审计提供了一种新的发展模式,总的来说可以总结为以下三点。
1.科研项目绩效审计应注重对项目技术方面的评估,了解和学习如何准备技术评估计划,并选择技术评估团队;如何选择关键技术;如何评估关键技术;如何准备技术评估报告[3]。审计中要结合外部专家、行业专家,在访谈和问卷的基础上分析项目的技术成熟度以及项目所拥有的关键技术数量,并将重大项目在实施阶段的技术水平与项目立项中的政策所确定的技术成熟度基准进行比较,以审查我国国内的重大项目在初步设计完成之后并在实施工作开始之前的技术成熟度。
2.在对重大科研项目进行绩效审计时,在最终设计和制造阶段的后半阶段,对重大项目的工程图纸数量进行审查,工程图是证明产品设计稳定性的一种很好的方法,它是工程师与制造商沟通产品设计详细信息的语言,即外观、组件接口如何使用、它的功能、如何构建以及制造和测试所需的关键材料和工艺。当审计人员审查重大项目的制造单位发布90%以上的工程图纸时才能被认为达到设计稳定,设计稳定可以降低项目经历设计变更和制造问题的风险。
3.在对重大科研项目进行绩效审计时,应注重分析项目的风险识别与应对措施。例如该项目有无识别其技术风险、人员风险和成本风险,有无进行挣值管理,项目的联合成本和进度计划置信度(它估计现有的成本、计划完成情况以及风险实现预定目标的可能性)措施等等。审计人员可以对项目管理人员风险管理进行持续跟踪以降低项目实施的风险[4]。
(二)审计方法上的借鉴
GAO 对NASA 重大科技项目的评估采用了比较分析法、问卷调查法、访谈法、审阅法等等。GAO注重各方沟通和联系,及时进行信息的汇总和共享,这对于复杂的大型项目尤为重要,可以节约大量时间和资源,值得学习借鉴[5]。在性质特殊、专业性强的审计项目中,GAO聘请专家指导,听取专家意见,同时在绩效审计中更重视质量分析方法及决策模型研究,广泛利用各方面专家的工作。这为我国大型科技项目的绩效审计提供了一种新的方法。总的来说,可以总结为以下三点。
1.对于生命周期比较长的重大科技项目,要注重用比较分析法将每年度跟踪审计的结果进行对比,以考察长期趋势,从中更能直观反映项目成本以及计划完成情况的变化。
2.对于复杂程度大、制作难度高的大型科技项目,审计人员往往很难对重大项目的设计稳定性以及技术成熟度作出判断,需要邀请相应的专家进行访谈,听取专家意见,可以更科学、更准确地得出评价结论。
3.不要盲目照抄照搬,在完善我国现有的成熟的科研项目财务收支审计的基础之上,合理借鉴他之所长,不断探索适合我国国情的绩效审计模式和方法。