航空相机成像技术研究
2020-05-07赵建川张润琦刘传明
赵建川,张润琦,王 杰,邵 毓,申 越,刘传明
(1.海军驻长春地区航空军事代表室,吉林 长春 130033;2.昆明物理研究所,云南 昆明 650223; 3.吉林东光精密机械厂,吉林 长春 130103;4.中国兵器科学研究院,北京 100089)
0 引言
自1915年,英国为了在一战中占据主动地位,首次使用半自动航空相机侦查德方占领区至今,航空相机已经历经了数代发展,其性能和功能都得到了不断提高[1]。早期的航空相机均为胶片相机,20世纪70年代起,使用电荷耦合器件(charge-coupled device,CCD)的数字相机步入人们视野。由于数字相机具备实时传输图像至地面的能力,因此数字相机逐渐占据主导地位,但胶片相机性能可靠且分辨率高,至今仍在航空相机中占有一席之地[2],因此也有胶片拍摄与数字拍摄双功能的相机。本文将数字航空相机按照成像方式分为3类:扫描型、步进凝视型和(无扫描)多镜头型。当然,同一航空相机可以使用多种探测器或设计成同时采用多类工作方式,以获取更多维度、更多波段和更高分辨率的信息。下文将分别介绍胶片航空相机和数字航空相机,并将数字相机上述3类分别进行介绍。
1 胶片式航空相机
胶片航空相机(以下简称为胶片相机)是使用感光材料附着在胶片作为载体,拍摄后的胶片要经过冲洗才能得到照片的相机。早在20世纪初,英、美等发达国家就已开始研制生产胶片式航空相机,此时的胶片相机处于起步阶段,其分辨率较低,焦距较短,载片量也较少。20世纪60年代~80年代,胶片航空相机进入了高速发展的时代。在这期间,很多载片量大、焦距长且地面分辨率高的胶片航空相机相继问世[3]。其中,1969年CAI制造的KS-87系列侦查相机是一款全球使用量最大的航空胶片相机并有多个衍生型号,相机配备于OC-135B、RF-4、RF-5E、RF-101、U-25B、F14、F16C等当时主流飞行器上,其中KS-87B结构分解如图1所示[4]。
1974年,随着航空侦查对侦查距离的要求不断提高,CAI研制出了世界上第一款焦距达66in并采用f/8光学设计的胶片相机KS-127A。在良好天气下,这款能获取30nm(i55.5km)外目标详细信息的相机,使配备了该相机的RF-4甚至拥有了战略侦查能力,KS-127A外观如图2所示[5]。
到了20世纪70年代末80年代初,体积更小、功能更多的全景胶片相机问世。配备于RF-5E的KA-95相机与配备于RF-4B的KS-116代表着这一阶段先进成熟的全景胶片相机。同之前提到的KS-87B与KS-127A一样,两者也均采用5in胶片格式,KA-95与KS-116采用焦距为125in、f/4.0的光学系统设计,它们的外形分别如图3所示[6]。
KS-116与KA-95拥有前向运动补偿,主动稳像控制,自动曝光控制和自动调焦控制以及扇区扫描等功能。前向运动补偿功能是为了避免载具向前运动造成成像模糊。主动稳像控制可以让相机自行感知运动状态,而不依赖外部总体系统也不受其影响。自动曝光控制可以使相机获得更高的成像质量,而自动调焦控制则可以使相机在拍摄过程中保持较高的成像清晰度,扇区扫描则能让相机以50°角度间隔自由选择扫描区域,范围从40°~190°。采用扇区扫描的KA-95拍摄的样本照片如图4所示[6]。
到了20世纪80年代末,胶片相机技术已发展得相当成熟。虽然胶片相机拥有上述同时代的CCD相机无法比拟的优势,但由于胶片相机无法像CCD相机那样,将拍摄的图像实时传输到地面,因此发达国家开始研制具备胶片与CCD拍摄双功能的航空相机。比如20世纪80年代,Eastman Kodak公司和Recon/Optical公司联合开发的具备CCD和胶片拍摄双能力的航空摄像机系统CA-990。该系统总重1082 kg,可装于机腹副油箱中并挂载于F-4和F15飞机上[7]。随着20世纪70年代以来CCD器件的高速发展,拍摄后的胶卷要经过冲洗才能得到照片,在拍摄过程中也无法知道拍摄效果的好坏的胶片相机,相继被改成具备CCD和胶片拍摄双功能的航空相机,比如KA-102A和KS-153A等。数字化相机由此登上了航空相机历史的舞台,并逐渐成为发展趋势[8-10]。
图1 KS-87B结构分解图Fig.1 Aerialcamera KS-87B
图2 胶片相机KS-127A外观Fig.2 Aerialcamera KS-127A
图3 KS-116(左)与KA-95(右)外形Fig.3 Aerialcamera KS-116 (left)and KA-95(right)
图4 KA-95使用不同角度扇区扫描拍摄的样本图 Fig.4 The photos of aerial camera KA-95 with sector scanning of different angle
2 数字航空相机
2.1 扫描型航空相机
扫描型数字相机采用线阵CCD或时间延迟积分(time delay integration,TDI)CCD进行扫描成像的相机。线阵CCD的长度决定了航空相机扫描地面覆盖范围,一般来说,扫描型数字相机线阵单元在4000~14000个之间。研制CCD探测器水平较高的公司主要有Atmel(法国),e2v(英国),Kodak(美国)和Fairchild(美国),一款e2v公司的线阵CCD探测器如图5所示[11]。
图5 e2v公司的的线阵CCD探测器 Fig.5 Line array CCD detector of e2v Ltd.
线阵CCD在拍摄运动目标的时候,需要良好的光照,TDI CCD则是一种能在低照度条件下捕捉运动物体的探测器,在获得高灵敏度的同时不牺牲空间分辨率和工作速度,还能一定程度上增加系统的信噪比、分辨能力和响应均匀性,因此TDI CCD在高速、微光领域具有广泛的应用前景。从其结构来看,多个线阵平行排列,像元在线阵方向和级数方向呈矩形排列[12]。TDI CCD的工作原理如图6所示,在第一个积分周期,目标在其中一列的第一个像元处进行曝光积分,但得到的光生电荷并非如线阵CCD一样读出,而是移动至下一个像元。在第二个积分周期,目标在该列的第二个像元处曝光,得到新的光生电荷与上一个像元移来的电荷相加再移到下一个像元,直到第M个积分周期结束时,第M个像元的光生电荷与第M个像元前面所有像元的电荷相加后读出。可见读出的电荷是单个像元的M倍,而噪声只增加了倍,从而信噪比提高了倍[13-14]。
图6 TDI CCD工作原理图 Fig.6 Diagram of TDI CCD
扫描型数字相机的拍摄方式主要分为推扫和摆扫两种,两种方式的瞬时视场均是一维视场,不需要快门,采用连续曝光的方式成像[15-16]。其中推扫式成像模型如图7所示,推扫式相机随飞行器沿X轴移动,在垂直于飞行方向(Y轴)的一维视场连续曝光成像[17]。根据图中角度Δ的不同,推扫式相机还可分为“前视型”与“后视型”相机,为了提高成像质量,获取空间多维度信息,也可同时装配多个角度Δ不同的线阵CCD同时扫描景物,比如下文介绍的三线推扫模式,在一个一维扫描行中,θmax为一行最大扫描角度,N为一行扫描的像元数,则焦距f可由公式(1)表示[18-19]:
图7 推扫式成像模型Fig.7 Push broom mode
摆扫式成像模型如图8所示,不同于推扫式相机,摆扫式相机通过一个伺服机构来回旋转使平行于飞行方向的一维视场覆盖整个地面场景。因此,摆扫式相机的视场范围不再受限于探测器,可根据设计需求做到很大[20]。
可以看出,摆扫式成像会带来一定的成像畸变,需要通过前向位移补偿技术消除。成像畸变是由快门打开时飞机前向运动造成成像偏移,成像偏移(blur)可由公式(2)计算得出。
式中:V为飞行器相对地面的飞行速度;f为焦距;H为飞行高度;Δt为快门曝光时间;θ为当前扫描位置与垂直扫描位置之间的夹角。表1总结了推扫式相机与摆扫式相机的特点。
图8 摆扫式成像示意图Fig.8 Whisk broom mode
表1 推扫式相机与摆扫式相机的特点Table1 Specificitiesof push broom and whisk broom camer a
下文介绍一些典型的扫描型相机,包括Thales Optronics公司(前身为Vinten公司)的单线阵推扫相机TYPE-8010与TYPE-8042,莱卡公司的三线推扫相机ADS40以及Goodrich公司的双波段相机DB-110。其中,DB-110相机可见光波段成像采用摆扫模式,而红外波段成像采用的是步进凝视,步进凝视将在本章2.2节介绍。
1992年起,Thales Optronics公司先后为英国配备了多款单线扫描型相机,在这些用以拍摄高清单色的相机中,具有代表性的是TYPE-8010与TYPE-8042,其外观如图9所示[21]。
图9 TYPE-8010(左)与TYPE-8042(右)Fig.9 Aerial camera TYPE-8010 (left)and TYPE-8042(right)
TYPE-8010是用于低空拍摄的推扫式相机,由英国e2v公司提供的线阵CCD拥有4096个像元,像元尺寸为12μm。该探测器波长覆盖范围均从500~950μm(绿光至近红外),扫描速率为1800行/s。TYPE-8010可以根据拍摄需求更换镜头,可选焦距有152 mm,76mm与38mm三种。TYPE-8042则是用于高空拍摄的摆扫式相机,同样是由英国e2v公司提供的线阵CCD波长覆盖范围也是从500~950 μm(绿光至近红外),扫描速率为1800行/s。但该线阵CCD拥有12228个像元,像元尺寸为8μm。为了实现广阔的视场覆盖范围,TYPE-8042采用的是450mm长焦距镜头。
1997年初,莱卡公司和德国航空航天公司签署了一项协议,合作设计和生产一种专门用于商业成像和测绘的机载推扫相机ADS40。首台样机于1998年底完成试飞实验,并于2001年首次交付投入使用,其安装在日本PASCO公司Cessna Caravan飞机上的外观如图10所示[22]。
图10 日本PASCO公司Cessna Caravan飞机上的ADS40Fig.10 Aerial camera ADS40assembled on Japan PASCO Cessna Caravanairplane
该样机是典型的三线推扫相机,三线推扫模式即采用推扫模式在前、下、后3个方向使用3个线阵CCD同时扫描,如图11[22]所示。这样的拍摄模式可以获取三维立体空间信息。ADS40相机的前视CCD阵列与下视CCD阵列之间的夹角为28.4°,后视CCD阵列与下视CCD阵列之间的夹角为14.2°。以上提到的这些CCD阵列均包含两个线阵CCD。这些线阵CCD像元尺寸均为6.5μm,像元数为12000,线阵CCD之间有半个像素(3.25μm)的错位,该设计用以提高几何分辨率。另外在焦平面上,ADS40还安装了4个额外的拥有12000像元线阵CCD,分别用来记录地面场景的RGB信息和近红外信息。飞行器飞行期间,每一个CCD阵列独立地连续记录每一列影像。由此,在全色波段的覆盖范围内,几乎每个物体都被摄影了3次(墙面等特殊情况除外),摄影区域内大部分范围实现了三度重叠,包含了足够的三维立体信息。如今,ADS40在测绘、精细农业、海岸资源勘察和管理等方面均得到了广泛的应用[23]。
图11 ADS40三线扫描示意图Fig.11 Scheme of ADS40 3linescan
从20世纪90年代中期,Goodrich公司开发了第一代DB-110至今,DB-110航空相机系列已广泛运用于Tornado,F-111,F4,P-3,F-15,F-16,Predator B等载人或无人飞行器上。
DB-110拥有可见光及近红外(VNIR)以及中波红外(MWIR)两个探测器以及两组光学系统,整个系统组成如图12所示,相机参数如表2所示[24-25]。
图12 DB-110相机系统结构Fig.12 Configuration of DB-110 camera
DB-110拍摄模式如图13所示,左图为相机使用TDI线阵CCD在飞行器左侧进行摆扫拍摄示意图,右图为面阵红外探测器在飞行器左侧进行步进凝视成像。DB-110双波段航空相机在白天所拍摄的样本图片如图14所示[26-28]。
2.2 步进凝视型相机
步进凝视型相机使用凝视型面阵CCD或CMOS传感器。面阵传感器单次曝光便可立即获得大面积区域的图像,这一特性使得飞机能够从安全高度快速上升,短时间内获取目标区域图像,再快速下降逃离危险区域。而线阵传感器,因其成像原理,一定程度上会限制飞机的机动。因此特别时刻使用面阵传感器能够提高飞机和机组人员生存率[29]。
步进凝视型相机,不像扫描型相机能那样够进行连续的图像采集,需要和视场中的场景保持相对静止,以完成一次有效的曝光(探测器积分)。如图15所示为3种步进凝视型相机的凝视方式及拍摄覆盖面。相机拍摄完一次航带旁向的刈幅(扫描带,图15中的swath)为一个周期。在一周期内,相机每对一个区域完成曝光后,相机视线沿刈幅移动到下一个相邻区域,进行下一帧的图像曝光。完成一周期拍摄后,相机的视线指向下一个刈幅,开始新一轮的图像拍摄。相机视线的运动轨迹可以为“S”形或“Z”形。拍摄过程中,要求相邻帧之间以及相邻刈幅之间有一定的重叠率。典型的步进凝视型相机的拍摄覆盖面如图15(d)所示。
步进凝视成像过程中要求一次曝光中,相机视场中的场景相对静止,因此需要进行前向位移补偿(FMC)[30-31]。FMC可以通过反射镜补偿[32]、二轴框架补偿[33-34]和FPA片上电子补偿[4,29]等多种技术实现。相机的视线移动方式有多种,比如通过框架直接旋转传感器[33-34],旋转步进扫瞄镜[35]和旋转棱镜[36]等等,如图15(a)~(c)所示。
表3列出了部分步进凝视型航空数字相机的型号和相关数据。
2.3 多镜头数字相机
多镜头数字相机使用多个镜头和面阵CCD/CMOS传感器,以达到高分辨、宽覆盖面、多波段和多视角的目标。本节讨论的多镜头数字相机仅限于无运动部件的相机。根据相机镜头光轴的朝向,将多镜头数字相机分为两类:多镜头倾斜数字相机和多镜头下视数字相机。
2.3.1 多镜头倾斜相机
航空倾斜相机在军事、科研和民用领域均有大量应用,诸如军事侦察监控、地图测绘和环境测控等等。最早的倾斜航空相片于1860年由J.W.Black和S.King在美国波士顿上空拍摄。20世纪期间出现了多款多镜头胶片倾斜航空相机,如图16中的Fairchild的3镜头T-3A和9镜头USGC-9,Zeiss的3/5镜头KS-153系列和3镜头KRb 8/24 F,主要用于军事侦察、监控和地图制图[37-43]。随着大面阵CCD和CMOS传感器技术的成熟和数字式多镜头倾斜成像技术的发展,多镜头倾斜数字相机的成像能力得以超越胶片式相机。近30年,出现了多款超高分辨率多镜头倾斜相机。
表2 DB-110相机两个波段参数Table 2 Parameters of DB-110 camera
图13 DB-110拍摄模式,左图为可见光摆扫,右图为红外步进凝视 Fig.13 Whisk broom in visible (left) and step-by-stare in IR (right) of DB-110 camera
表3 步进凝视型航空数字相机Table 3 E O/IR camera with step-by-starescan
图14 DB-110拍摄的样本相片,左图为可见光相片,右图为红外相片Fig.14 Imageryin visible(left)and in IR (right)from DB-110 camera
图15 三种步进凝视方式/结构以及拍摄覆盖面Fig.15 Three configurationswith step-by-stare scan and thecorrespondingcoverage
Continued Table 3
图16 多镜头胶片倾斜航空相机及典型的镜头布置方式和拍摄样例 Fig.16 Film oblique aerial cameras with multiple lenses, typical shot arrangement and film sample
多镜头倾斜相机根据镜头数量、传感器数量和结构结合布置等,可以有多种分类。Gordon Petri将倾斜相机分成了3类[44]:
1)扇形(Fan)排列:扇形排列的相机的视场覆盖了航迹旁向(Cross-track)以及正下(Nadir)方的区域,覆盖面构成一个狭长的区域。扇形排列三镜头和镜头阵列的布置形式,图16(e)是一种典型的三镜头布置方式。图17展示了扇形排列的多镜头相机,图17(a)的OSDC-4060是俄罗斯公司PO KSI生产的由40个镜头阵列组成的相机,镜头阵列分成了4组,分别对应高海拔、中海拔、低海拔和低海拔红外通道[45-46]。该公司类似产品的还有36个镜头的OSDC-3660。图17(c)的WB-57 ARGUS相机系统使用了12个配有400 mm镜头的单反相机,其拍摄覆盖角度约为60°×3.3°[46],如图17(d)所示。如文献[6,38,47]还将类似于ROI的CA295和Vision Map的A3 Edge使用了步进凝视技术的相机归于此类。
2)马耳他十字(Maltese Cross)排列:典型的按照马耳他十字排列的相机一般由5个镜头/相机组成,其中一个镜头朝向正下(nadir),两个镜头覆盖航线旁向的与正下区域相邻的两个区域,另外两个镜头指向沿航线的与正下区域毗邻的两个区域,其拍摄到的图像类似于图16(f)。图18展示了两款以此方式排列的相机以及它们的拍摄覆盖面示意图。
图17 扇形排列的多镜头相机及覆盖面示意图 Fig.17 Sector arranged multiple-lens aerial cameras and coverage diagram
图18 马耳他十字排列的相机及覆盖面示意图Fig.18 Maltese cross arranged aerial cameras and coverage diagram
3)Block排列:Block排列使用多个朝向略微不同的倾斜镜头/相机,相邻的镜头/相机间拍摄的图像有一定的重叠区域,这些同一时刻曝光得到的图像经过拼接可以组合成一幅更大尺寸的图像。此类相机和下视相机很相似,不过一定程度上它们能够拍摄到目标或者建筑物的侧面。图19(a)展示了Z/I Imaging公司在2000年左右推出的大画幅相机Z/I DMC,Z/I DMC共有8个镜头,中间4个镜头按照如图19(b)所示的排列方式,使用4块中等面阵CCD代替在当时大面阵CCD[48],其覆盖面如图19(c)所示。图19(d)展示了Rollei Metric使用4个AIC相机组合成一个大面阵成像系统。除了4镜头组合外,还有2镜头和更多数量镜头组合的方式。
多镜头倾斜相机具备视场大和分辨率高的特点,被广泛用于各种监控、侦察和制图等任务。除此之外,因为多镜头倾斜相机能够采集到场景中目标的不同视角的图像,比如建筑物的顶部和侧面图像,结合计算机视觉技术,这些图像能够被用于城市3D模型建立、建筑物识别和建筑物高度测量等任务[49]。
表4中列出了部分超高分辨率倾斜相机的型号及其相关参数,并按照上述3种方式进行了分类。
2.3.2 多镜头下视相机
下视(Nadir/ vertically downward)相机的光轴朝向正下方,对场景中朝向上方的表面(如屋顶和飞机机翼)能有良好的观测。多镜头下视相机,类似于Block排列的倾斜相机,通过将多个传感器和多个镜头结合,有效地增大相机的视场和拍摄覆盖面积,增强获取场景中多波段信息的能力。图20(a)、图20(b)和图20(c)分别展示了3款超高分辨率多镜头下视相机。表5中列出了几款超高分辨率多镜头下视相机的型号及相关参数。
为获得超高的分辨率,不同公司采用的不同的设计方案。Z/IDMCII系列产品,针对全色(Panchromatic)波段使用单块超大面阵的CCD,比如DMCII250使用了一块250 M像素分辨的CCD,针对R、G、B和NIR波段则使用4块四色的CCD并配合相应的滤光片[50]。Vexcel的Eagle系列为在全色波段获得4.5亿的分辨率的同时,确保图像质量以及图像帧率,使用了9块CCD作为全色波段图像的成像面[51]。图20(d)中标记的“MC”、“C1”、“C2”和“C3”的镜头的成像区域,分别对应于图21[44]中的“Mastercone”、“+cone1”中浅绿色区域、“+cone2”中左右两侧的浅绿色区域和“+cone3”中最中心的区域,相邻的图像间均有一定的重叠。
图19 Block排列的相机Fig.19 Block arranged aerial cameras
表4 超高分辨率多镜头倾斜相机Table 4 Multiple-lens oblique cameras with high resolution
Continued Table 4
图20 三款超高分辨率多镜头下视相机Fig.20 Three multiple-lens cameras with high resolution
图21 UltraCam Eagle使用9块CCD作为全色波段图像的成像面Fig.21 UltraCam Eagle full color camera with 9 CCD
表5 超高分辨率多镜头下视相机Table 5 Multiple-lens direct over flight cameras with high resolution
3 总结
本文综述了胶片航空相机和数字航空相机使用的技术。通过介绍几款典型的胶片相机,展示了相关成像技术。文中将航空数字相机分成扫描型相机、步进凝视型相机和多镜头型相机3类,并介绍了一些具有代表性的成像技术。经过一个多世纪的发展,各种航空相机相关技术相继涌现,使航空相机朝着“看得更远、看得更广、看得更细”以及多维度、多光谱的方向不断发展。如今的航空相机拍摄的单帧图像已能达到数亿像素,除了传统的军事侦查领域,还大量应用于测绘、精细农业、海岸资源勘察、城市3D建模、环境监控和地图导航等民用领域。