FABEMD和改进局部能量窗口的红外中波和长波图像融合
崔晓荣, 沈涛*, 黄建鲁, 孙宾宾
火箭军工程大学, 陕西 西安 710025
*通讯作者 e-mail: luckyshentao@126.com

作者简介: 崔晓荣, 1995年生, 火箭军工程大学硕士研究生 e-mail: cur1601645438@163.com

摘要

针对探测波段为3.7~4.8 μm的中波红外图像和探测波段为8~14 μm长波红外图像融合过程中存在场景对比度低, 显著性目标不够凸出, 伪影引入严重的问题, 采用快速自适应二维经验模态分解(FABEMD)对红外中波和长波图像进行多尺度分解以得到二维内蕴模函数(BIMFs)和残余分量(Residual)。 对于每一层内蕴模函数选用改进的局部能量窗口融合规则, 首先配置好加权算子以增加区域窗口中心像素的能量占比; 选用不同的加权算子, 经实验验证能有效突出红外中波和长波图像的能量特征信息; 其次充分利用内蕴模函数的相位信息, 当相位相反时, 采用能量加权平均的方式, 以解决融合系数的正负符号极性难以确定的问题; 当相位相同时, 判断二者的能量差距并依据差距大小选择设定的融合规则, 融合规则基于红外中波和长波图像的灰度差异特性设定。 对于残余分量则利用红外中波图像和改进区域能量窗口的最大对称环绕显著性权重图指导基础层系数的融合, 自适应的局部环绕窗口充分利用了低频显著性信息, 对无用背景的抑制效果也相当出色, 能够在复杂背景图像中突出显著性对象, 最终得到细节信息丰富, 对比度明显的指导图像。 最后通过FABEMD的逆变化重构过程得到融合图像, 对4组不同背景、 不同大小的红外中长波图像进行主观和客观性能评价, 4组图像均来自多波段红外采集系统且都经过严格配准并和7种相关算法进行对比实验, 在主观性能上显著性对象突出、 清晰度度高; 客观性能上在平均梯度和空间频率这两个评价指标上性能优异, 验证了该算法的有效性。

关键词: 图像融合; 快速自适应二维经验模态分解; 相位信息; 区域能量窗口; 显著性图
中图分类号:TP391.4 文献标志码:A
Infrared Mid-Wave and Long-Wave Image Fusion Based on FABEMD and Improved Local Energy Window
CUI Xiao-rong, SHEN Tao*, HUANG Jian-lu, SUN Bin-bin
Rocket Force University of Engineering, Xi'an 710025, China
*Corresponding author
Abstract
Aim

ing the scene contrast is low in the fusion process of the mid-wave infrared image with a detection band of 3.7 to 4.8 μm and the long-wave infrared image with a detection band of 8 to 14 μm, the saliency target is not enough to protrude, and the artifacts introduce serious problems. In this paper, Fast and Adaptive Bidimensional Empirical Mode Decomposition (FABEMD) is used to the multi-scale decomposition of infrared medium-wave and long-wave images to obtain two-dimensional intrinsic mode functions (BIMFs) and residual components (Residual). For each layer of bidimensional intrinsic mode function, this paper's improved local energy window fusion rule is selected. First, a weighting operator is configured to increase the central pixel's energy proportion for the regional window. In this paper, different weighting operators are selected, which have been verified to effectively highlight the energy characteristic information of medium-wave and long-wave images by experiments, and secondly, the phase information of BIMFs is fully used, when the phases are opposite, the energy weighted average method is used to solve the problem that the polarity sign of the fusion coefficient is difficult to determine. When the phases are the same, the energy gap is judged, and the set fusion rule is selected according to the size of the gap based on the grayscale difference characteristics of the infrared medium wave and long wave images. Using the infrared mid-wave image and improved the regional energy window of Saliency detection of maximum symmetric surround weight map guides the fusion of base layer coefficients for the residual components. The adaptive local surround window makes full use of the low-frequency saliency information and has a very good suppression effect on the useless background. It can highlight the saliency objects in the complex background image, and finally obtain the guidance image with rich details and obvious contrast. Finally, the fusion image is obtained through the inverse reconstruction process of FABEMD, and subjective and objective performance evaluations are performed on five sets of infrared medium and long-wave images with different backgrounds and different sizes. The four sets of images are all taken from multi-band infrared acquisition systems and are strictly registration and comparative experiments with 7 related algorithms. In terms of subjective performance, salient objects is standing out and the clarity is high, the objective performance is excellent in two evaluation indicators of average gradient and spatial frequency, the effectiveness of this algorithm is verified.

Keyword: Images fusion; Fast and adaptive bidimensional empirical mode decomposition; Phase information; Regional energy window; Saliency map
引言

随着多传感器技术的发展, 红外探测设备面临着任务复杂化以及目标隐身、 干扰等多方面的挑战, 因此近年来多波段多色红外探测器发展迅猛, 已经在红外搜索跟踪器(infrared search and track, IRST)、 红外制导系统、 红外热成像观察系统等[1]方面得到广泛应用。

红外中波和长波图像融合可以包含目标或者场景绝大部分的红外辐射信息, 在湿热环境中红外中波探测效果具有优势, 而对于气溶胶、 雾霾等气候条件长波更具探测优势, 对于一些高速移动目标则需要综合考虑目标辐射和背景辐射, 因此将红外中长波图像融合分析是提高抗干扰能力和有效决策的重要途经。 刘峰等[2]基于区域协方差矩阵将中波、 长波、 可见光三波段图像进行融合来对海上舰船目进行识别, 有效提高了检测率。 仇荣超等[3]在对海面舰船目标进行检测时, 采集了5种不同波段的中波红外图像, 利用多波段中波图像的差异性和互补性来降低复杂海天背景所带来的影响。

近年来基于像素级融合的多尺度分析工具因融合效果更加符合人眼视觉特性而得到迅速发展, Bhuiyan等提出的快速自适应二维经验模态分解[4](fast and adaptive bidimensional empirical mode decomposition, FABEMD)能够自适应的将图像分解为二维内蕴模函数(bidimensional intrinsic mode function, BIMF)和残差分量(residual), 对图像的轮廓、 强点等细节信息有着独特的描述能力, 近年来已逐渐成为研究热点。 视觉显著性检测在自适应压缩、 目标分割、 识别等方面逐渐得到应用, 通过显著性分析获取权重图并应用在图像融合上取得了优良的效果[5]。 Cheng等[6]提出基于直方图的全局对比度显著区域检测方法, 简单、 高效的得到了全分辨率显著性图, 但是对于高纹理场景的图像处理效果次优。 傅志中等[7]用引导滤波器改进FT显著性检测算法。 Achanta等[8]针对较大突出目标和复杂背景而无法突出显著性区域的情况又提出了最大对称环绕显著性检测(MSS)。 安影等[9]在MSS基础上做暗抑制改进(DSMSS), 充分抑制多余的背景信息, 但是也降低了融合图像的对比度。

图像融合的质量依赖融合规则的选取, 基于区域窗口的融合规则极大程度的考虑了中心像素和周围像素的相关性[10], 相对于全局像素, 整体特征能最大限度的突出图像的局部信息, 达到良好的融合效果。 红外中波和长波图像灰度差异敏感, 中波图像整体较暗, 对比度明显。 而长波图像整体较亮, 但是区分度不大, 对比度较小, 红外中长波融合图像的对比度和清晰度有待进一步提高。

针对以上问题, 提出了一种基于FABEMD分解并改进局部能量窗口的红外中波和长波图像融合方法。 对于每一层内蕴模函数选用改进局部能量窗口融合规则, 对于残余分量则利用中波红外图像生成的显著性权重图指导其系数的融合, 最后通过逆FABEMD过程得到融合图像, 经过对比证实本方法显著提高了融合图像的对比度和清晰度。

1 实验部分

针对红外中波和长波图像的灰度特性, 提出融合算法结构图如图1所示, 融合步骤如下所示:

步骤1: 输入红外长波图像和红外中波图像;

步骤2: 分别进行FABEMD分解得到细节层分量和和基础层分量;

步骤3: 采用改进局部能量窗口的融合规则对细节层分量进行融合得到融合图像FIMF;

步骤4: 采用EMSS获取中波红外图像的显著性权重图ω M来指导基础层分量融合得到融合图像FR;

步骤5: 通过逆FABEMD变化得到融合图像IF

图1 基于FABEMD的红外中波与长波图像融合方案Fig.1 Infrared mid-wave and long-wave image fusion scheme based on FABEMD

1.1 FABEMD分解

红外中长波图像灰度分布范围和亮度差异较大, 图像特征点不易寻找。 融合过程需要将二者的灰度信息进行精准判断, FABEMD[4]依赖顺序统计滤波器和平滑滤波器来生成上下包络曲面且允许最大迭代次数为1, 在保持BEMD性能的前提下, 极大提高了算法运行效率。 针对分解过程中出现的边界效应进行了等值延拓, 在分解层数小于4层时有效解决了边界出现的发散和失真现象。 设定原图像为I(x, y), 经过FABEMD筛选(sifting)得到

I(x, y)=j=1Lcj(x, y)+rL(x, y)(1)

式(1)中, rL(x, y)为最终趋势图像, c1(x, y)包含最高的局部振荡频率和空间尺度, cL(x, y)包含最低的局部振荡频率, 分解尺度L和保留的BIMFs的个数相同。

1.2 基于FABEMD和改进局部能量窗口的细节层系数融合

基于区域窗口的融合方法可以充分考虑到中心像素的局部信息以及自身幅度和相位信息, 因此适合对FABEMD分解后的细节层进行选择。 红外中长波图像往往对分解过程中信号强度敏感, 而基于局部能量的判准准则和图像信号强度息息相关, 能把局部特征信息利用的更充分。 中心像素及其周边像素应赋予较大的权重, 考虑到中心像素周围的灰度特征以后, 对中波和长波图像设计不同的加权算子以增加中心像素能量占比, 中波红外图像设计加权模板如式(2), M表示中波红外图像(medium wave infrared image)。

E^M(x, y)=m=-22n=-22WM(m, n)[BIMFM(x+m, y+n)]2WM=1451121112321235321232111211(2)

红外长波图像引入权值矩阵[11]后设计加权模板如式(3), L表示红外长波图像(long wave infrared image)。

E^L(x, y)=m=-22n=-22WL(m, n)[BIMFL(x+m, y+n)]2WL=1321111111211124211121111111(3)

当综合考虑两者的权重信息时, 需要用到加权平均融合规则, 由式(5)得到融合图像的细节层分量值。

wL=E^L(x, y)/[E^L(x, y)+E^M(x, y)]wM=E^M(x, y)/[E^L(x, y)+E^M(x, y)](4)

BIMFF^(x, y)=wL×BIMFL(x, y)+wM×BIMFM(x, y)(5)

经过FABEMD分解之后的细节层分量包含有正负相位信息, 式(5)的加权平均融合准则只考虑了中心像素及其周围像素的幅度能量信息, 忽略了中心像素本身包含的相位信息。 因此当中心像素相位相反时, 使用加权平均融合准则; 而当中心像素的正负极性信息相同时, 本研究结合夜间红外中波和长波图像的灰度差异特征信息, 通过分段保留最有效的特征以充分利用各个像素窗口内包含的独立信息, 对融合规则做式(6)改进。

BIMFF^(x, y)=BIMFM(x, y), E^M(x, y)2E^L(x, y)BIMFL(x, y), E^M(x, y)< E^L(x, y)Mean(BIMFLong, BIMFMed), others(6)

1.3 基于红外中波图像的EMSS显著性检测

MSS[8]通过像素与图像边界的距离改变中心环绕的窗口的带宽且使围绕中心的环绕窗口相对于图像边界对称, 如图2(b)像素A和B的环绕窗口所示, 在靠近图像边界部分环绕包围区域较小, 接近中心部位环绕包围区域较大, 增加了显著图对低频信息的捕获能力, 最大对称环绕子图像见式(7)—式(9)

Iμ^(x, y)=1SAi=x-x0x+x0j=y-y0y+y0I(i, j)(7)

x0=min(x, w-x)y0=min(y, h-y)(8)

SA=(2x0+1)(2y0+1)(9)

图2 基于MSS的对称环绕区域对比Fig.2 Comparison of symmetrical surrounding areas based on MSS

通过式(7)可求得中心像素的MSS检测值, w×h为图像大小, 式(9)为像素窗口面积。 考虑到红外中波图像和能量密度密切相关, 通过实验表明区域窗口能量平均值更容易突出其显著性目标, 如图2点C所示, 以点C为中心像素的区域窗口为例按式(10)作改进

Iμ^(x, y)=1SAi=x-x0x+x0j=y-y0y+y0I2(i, j)(10)

用环绕窗口EFGH的平均能量密度来代替环绕窗口的像素平均值, 并求其基于全图特征的平均能量值, 最终得到改进后的能量最大对称环绕(Energy MSS)显著性检测值为

Iμ̅=1w×hx=1hy=1wIμ^(x, y)(11)

将FT算法、 文献[7]算法、 MSS、 DSMSS、 本算法进行对比实验, 如图3(a)—(f)。 文献[7]方法中引导滤波器参数窗口半径为8, 修正参数eps=100/(m×n), 用原始图像作为引导图像, 其中m×n为图像的大小。

图3 原始中波红外图像不同显著性算法检测结果Fig.3 Original MWIR image detection results of different saliency algorithms

图3(b)中马路和车辆的对比度增加, 但是左上角红色方框内建筑物的细节纹理已经观察不到了。 图3(c)中车辆的显著性得到凸显, 但是周边树木细节纹理损失严重, 出现光晕和伪影。 图3(d)中图像周边灰度较小的区域得到抑制, 图像中间保留了路灯和部分车辆的显著性, 但是图像整体对比度较低。 图3(e)中图像周边低像素区域得到进一步抑制, 树木和建筑物绝大部分特征已经被掩盖, 但是马路上车辆和道路显著性信息保留的较少, 不适用于显著性融合技术。 图3(f)中本算法极大突出了马路上车辆、 分道线和周边景物的显著性, 对比度明显。 通过视觉比较, 本文所提出的显著性方法能够在复杂背景中突出显著性目标, 当显著性目标较大时也能较好突出整个对象区域, 这和改进的最大对称环绕目的相吻合。

1.4 融合规则的设计

1.4.1 细节层融合规则

为了充分利用红外中波和长波图像丰富的细节信息, 细节层融合规则采用改进局部窗口能量的融合规则, 如式(12)

BIMFjF(x, y)=BIMFjF^(x, y), ifg=0BIMFjF^(x, y), otherwiseg=sign(BIMFjL)+sign(BIMFjM)(12)

1.4.2 基础层融合规则

基础层包含了图像大量的能量信息, 在图像融合中至关重要, 本研究使用EMSS显著性指导基础层融合规则如式(13)

residueF=ωMresidueM+(1-ωM)residueL(13)

其中ω M为红外中波图像做显著性指导后的权重系数, 通过归一化得到, 如式(14)

ωM(x, y)=g-gmingmax-gmin(14)

式(14)中, g为红外中波图像做EMSS显著性指导后的值, gmingmax分别为显著性指导后的最小值和最大值。

1.4.3 重构融合图像

FBEMD分解的逆过程来重构得到融合图像, 重构过程如式(15)

IF=residueF+BIMF1F++BIMFlF(15)

式(15)中, j=1, 2, …, l为重构后的细节层分量, IF为重构后的融合图像。

2 结果与讨论

本实验所用红外中长波图像采用双探测器双波段成像设备采集, 并用遗传算法和灰度相关匹配结合方式进行严格配准。 其中制冷型中波红外探测器材料采用的是HgCdTe, 探测波段为3.7~4.8 μm, 长波红外探测器材料为多晶硅, 探测波段为8~14 μm。 所有实验均在MATLAB R2017a上仿真完成, 计算机处理器为Interl(R) Core(TM) i5-5200U CPU@2.20GHz, 安装内存(RAM)4.00GB。

2.1 主观质量评价

为了验证本算法的有效性, 选用五组不同背景的红外中波和长波图像进行对比实验, 其中Chimney图像大小为432×601, Building图像大小为381×531, Roof图像大小为411×601, Tank图像大小为361×661, Tree图像大小为361×626。 本方法分别和能量极大值、 能量加权平均、 区域窗口加权能量平均、 NSCT、 DWT、 DSMSS显著性融合方法、 NSST[12]融合方法进行对比实验, 融合结果分别如图4, 图5, 图6, 图7所示。

图4 Chimney融合后图像Fig.4 Chimney fusion image

图5 Building融合后图像Fig.5 Building fusion image

图6 Roof融合后图像Fig.6 Roof fusion image

图7 Tank融合后图像Fig.7 Tank fusion image

图4中本算法在主观视觉感受上对比度最高, 图像清晰, 其中图像右边建筑物的亮度较高, 显著性得到凸显, 图像中上部分的无用背景得到充分抑制。 图5中本文融合方法在保持楼层亮度的基础上引入了更少的伪影。 图6中本算法对天空背景和塔尖处引入的伪影信息抑制的最为充分, 图像左边窗口和围栏细节信息保留的最好。 图7中本算法对水箱周围景物清晰度和对比度呈现也较好。 因此本算法针对显著性区域较大和背景复杂的场景、 目标灰度源图像具有适用性, 能在突出显著性对象的同时表现出优良的清晰度和对比度。

2.2 客观质量评价

为了较全面评价本算法在融合性能上处理效果, 选用平均梯度(AG)、 空间频率(SF)、 归一化互信息(NMI)、 平均结构相似度(MSSIM), QAB/F, 信息熵[13](EN)来对融合过程进行客观评价。 表1为6种客观评价指标的数值, 最优值用黑体标出, 次优值用下划线标出。

表1 指标1—6客观评价结果 Table 1 Objective evaluation results of indicators 1—6

通过数值分析, 本算法在AG, SF和NMI这三个指标上排在靠前位置, 其他三个指标排在中间位置, 而AG和SF值较大则体现在图像清晰度较高, 这和主观视觉感受一致。 综上, 本算法在实现显著性融合的同时保证了客观评价指标的整体性能。

3 结论

针对现有红外中波和长波图像融合过程中存在对比度低, 伪影较多的问题, 依据多尺度分析工具FABEMD进行了改进局部能量窗口的细节层系数融合和改进MSS显著性指导基础层系数的融合过程, 并进行对比实验和主客观评价, 本算法得到融合图像细节信息丰富, 目标突出, 图像清晰度较高, 主观评价结果基本和客观评价指标一致, 反应了本融合算法的有效性。 但是本方法的客观评价指标处于次优水平的还较多, 还需要进一步提高相关指标的性能。 基于最大对称环绕改进的显著性检测方法, 在图像尺寸变大时, 耗时将会明显增加, 因此对环绕过程进行优化以提高效率也是后续研究中的重要内容。

参考文献
[1] Rogalski A. Proc. SPIE, 2017, 10433: 1. [本文引用:1]
[2] LIU Feng, SHEN Tong-sheng, GUO Shao-jun, et al(刘峰, 沈同圣, 郭少军, ). Spectroscopy and Spectral Analysis(光谱学与光谱分析), 2017, 37(6): 1934. [本文引用:1]
[3] QIU Rong-chao, LOU Shu-li, LI Ting-jun, et al(仇荣超, 娄树理, 李廷军, ). Spectroscopy and Spectral Analysis(光谱学与光谱分析), 2019, 39(3): 698. [本文引用:1]
[4] Bhuiyans M A, Adhami R R, Khan J F. Eurasip Journal on Advances in Signal Processing, 2008, 2008(1): 1. [本文引用:2]
[5] LIN Zi-hui, WEI Yu-xing, ZHANG Jian-lin, et al(林子慧, 魏宇星, 张建林, ). Infrared Technology(红外技术), 2019, 41(7): 640. [本文引用:1]
[6] Cheng M M, Mitra N J, Huang X, et al. IEEE Trans. on Pattern Analysis and Machine Intelligence, 2015, 37(3): 569. [本文引用:1]
[7] FU Zhi-zhong, WANG Xue, LI Xiao-feng, et al(傅志中, 王雪, 李晓峰, ). Journal of University of Electronic Science and Technology of China(电子科技大学学报), 2017, 46(2): 357. [本文引用:3]
[8] Achanta R, Susstrunk S. Saliency Detection Using Maximum Symmetric Surround. IEEE International Conference on Image Processing, 2010: 2653, doi: DOI:10.1109/ICIP.2010.5652636. [本文引用:2]
[9] AN Ying, FAN Xun-li, CHEN Li, et al(安影, 范训礼, 陈莉, ). Systems Engineering and Electronics(系统工程与电子技术), 2019(11): CN 11-2422/TN. [本文引用:1]
[10] PENG Zhi-yong, WANG Xiang-jun, LU Jin(彭志勇, 王向军, 卢进). Infrared and Laser Engineering(红外与激光工程), 2014, 43(6): 1772. [本文引用:1]
[11] Yang Jinku, Guo Lei, Yang Haiku. IEEJ Transactions on Electrical and Electronic Engineering, IEEJ Trans, 2015, 10: 447. [本文引用:1]
[12] Yin Ming, Liu Xiaoning, Liu Yu, et al. IEEE Transactions on Instrumentation and Measurement, 2018, (99): 1. [本文引用:1]
[13] Cui G, Feng H, Xu Z, et al. Optics Communications, 2015, (341): 199. [本文引用:1]