结合小波变换和高光谱影像的壁画线条增强方法研究
段鲁楠1,2, 张爱武1,2,*, 陈云生1,2, 高峰3, 郭巨文3
1.首都师范大学三维信息获取与应用教育部重点实验室, 北京 100048
2.首都师范大学空间信息技术教育部工程研究中心, 北京 100048
3.中国文化遗产研究院, 北京 100029
*通讯作者 e-mail: zhangaiwu@cnu.edu.cn

作者简介: 段鲁楠,女, 1999年生,首都师范大学资源环境与旅游学院硕士研究生 e-mail: 2220902179@cnu.edu.cn

摘要

由于年代久远, 古代壁画往往画面模糊、 线条丢失, 难以辨别, 而高光谱成像技术可以捕捉目标物质和能量的微变化, 有利于增强壁画模糊或丢失的细节信息。 因此, 利用成像高光谱数据, 提出了一种结合小波变换的壁画线条信息增强方法。 首先, 运用分段最小噪声分离(MNF)变换, 用最大平均梯度法选择最优MNF波段影像, 提取纯净端元, 通过全约束最小二乘光谱解混反演对应丰度图, 选择线条丰度图与最优MNF波段影像进行波段运算, 获得线条增强影像。 然后, 用MNF逆变换后的影像合成真彩色影像, 将线条增强影像与真彩色影像通过高斯滤波增强细节信息, 分别进行Haar小波分解, 并将两者对应的高频信息融合, 保留真彩色影像分解的低频信息, 重构得到线条增强的彩色影像。 实验表明: 通过山西义居寺壁画进行验证, 与主成分分析线条特征增强方法对比, 该方法平均梯度和边缘强度分别增加0.083 7和15.253 1, 具有更好的线条特征增强效果, 为后续壁画的保护修复提供帮助。

关键词: 成像高光谱; 端元提取; 小波变换; 图像融合; 线状特征增强
中图分类号:TP79 文献标志码:A
Research on Mural Line Drawing Enhancement Method Combining Wavelet Transform and Hyperspectral Imagery
DUAN Lu-nan1,2, ZHANG Ai-wu1,2,*, CHEN Yun-sheng1,2, GAO Feng3, GUO Ju-wen3
1. Key Laboratory of 3D Information Acquisition and Application, Ministry of Education, Capital Normal University, Beijing 100048, China
2. Engineering Research Center of Spatial Information Technology, Ministry of Education, Capital Normal University, Beijing 100048, China
3. Chinese Academy of Cultural Heritage, Beijing 100029, China
*Corresponding author
Abstract

Ancient murals have often suffered from blurring and loss of line structures over time, making their interpretation challenging. Hyperspectral imaging technology, capable of capturing subtle variations in material and energy, provides valuable information for enhancing these faint or missing details. Therefore, this paper proposes a method for enhancing mural line information that combines the wavelet transform with hyperspectral imaging data. Firstly, the dimensionality of the mural hyperspectral image was reduced by using the Minimum Noise Fraction (MNF) transform. The optimal MNF band image was selected using the maximum average gradient method. The MNF results were used to extract the pure end members, and the corresponding abundance maps were inverted by fully constrained least squares spectral unmixing. The line abundance map was combined with the optimal MNF band image through band operations to obtain a linear feature-enhanced image. Then, the true color image was synthesized using the inverse MNF transformation. Both the linear feature-enhanced image and the true color image were processed with Gaussian filtering to enhance detail. Haar wavelet decomposition was applied to both images. The corresponding high-frequency components were fused, while the low-frequency component from the true color image was retained to reconstruct the final color image with enhanced line features. The experimental validation on murals from Yiju Temple (Shanxi) shows that, in comparison with a PCA-based enhancement technique, the proposed approach achieves an increase of 0.083 7 in average gradient and 15.253 1 in edge intensity, indicating more effective enhancement of line features and offering valuable insights for mural preservation and restoration efforts.

Keyword: Hyperspectral imaging; Endmember extraction; Wavelet transform; Image fusion; Linear feature enhancement
引言

古代壁画是文物遗产的重要组成部分, 但是随着年代变迁及环境变化等多种因素影响, 出现褪色、 线条细节模糊或丢失、 颜料层脱落等各种退化现象。 线条是壁画重要的主体内容之一, 增强壁画线条信息对于壁画的修复与保护具有重要意义。

近年来, 高光谱技术因其无接触、 光谱分辨率高、 “ 图谱合一” 等显著优势, 为文物保护领域带来了新的机遇[1], 在文物保护中的应用日益广泛[2, 3, 4], 涉及颜料光谱分析[5, 6]、 病害自动检测[7, 8, 9, 10]、 污渍虚拟修复[11, 12]等方面。 壁画的线条信息对于后续修复至关重要, 可借助高光谱影像中丰富的图谱信息, 对模糊丢失的线条信息进行增强。

在壁画高光谱影像处理中, 常用主成分分析(PCA)、 最小噪声分离变换(MNF)和独立成分分析(ICA)等方法进行信息增强。 主成分分析是常用的高光谱降维方式之一, 通过对主成分波段进行选择和分析, 达到壁画轮廓线的增强[13, 14, 15]; MNF变换本质上是进行两次PCA变换, 也常用来增强壁画轮廓信息, 曹鹏辉等[16]提出了结合MNF变换与Haar小波变换的壁画模糊线条信息增强方法。 此外, Wu等[17]利用连续最大角凸锥(SMACC)算法提取高光谱影像端元, 从而增强肉眼不可见的线状特征信息。

上述这些方法在壁画信息增强方面均取得了一定效果, 但是大多数壁画线条特征增强的结果为灰度影像, 丢失了重要的色彩细节。 而色彩信息对壁画的后续修复非常重要。 Pan等[18]用MNF变换和最大似然分类法提取线状信息, 并用Gram-Schmidt融合方法与高光谱影像进行融合, 增强线条信息并保留原始色彩及光谱曲线; Peng等[19]利用MNF选取平均梯度最大的主成分影像, 并与高光谱合成的真彩色影像进行SRDI融合来增强陶瓷和壁画影像上的线条特征; Han等[20]利用红外高光谱成像, 增强缺失的边缘信息, 并与数码相机采集的图像融合, 提取了秦二号青铜战车彩绘中模糊不可见的花纹; Han等[21]利用光谱角匹配算法(SAM)提取石墨轮廓线, 将原始可见光影像与石墨信息图像进行alpha融合, 重构出增强后的影像。 这些研究通过将提取出的线条增强灰度影像与可见光影像进行融合, 既增强线条信息, 又保留色彩。

虽然上述融合方法在细节增强方面效果良好, 但可能仍存在细节丢失或颜色失真的问题。 小波变换已被广泛应用于图像增强和融合[22, 23], 具备出色的多尺度分析能力, 能够增强图像的边缘等细节信息, 同时保留完整的低频色彩, 基于小波的融合方法在减少颜色失真方面效果显著。

基于上述分析, 本文提出了一种结合小波变换和高光谱影像的壁画线条增强方法。 该方法利用数据降维、 端元提取和图像融合等处理手段, 提取并增强壁画中模糊或缺失的线条信息, 最后将其与由高光谱影像合成的真彩色影像融合, 获取壁画线条增强的真彩色影像。 选取在山西义居寺获取的壁画高光谱影像作为实例数据进行验证分析。

1 实验部分
1.1 实验数据与预处理

实验数据为2023年5月采集于山西义居寺的高光谱影像数据, 光谱分辨率为2.8 nm, 光谱范围为400~1 000 nm, 840个波段。 采集现场无直射自然光, 采用与太阳光谱接近的卤素灯作为光源, 拍摄时相机镜头的主光轴保持与壁画墙面垂直, 拍摄距离约为0.6 m, 高光谱影像的空间分辨率为0.193 mm。 由于拍摄的大幅影像中含有大片泥斑和脱落等瑕疵, 故对原始影像进行裁剪分区域进行研究, 文中选取了2处代表性的数据进行实验, 数据1壁画的大小为1 420× 1 066像素, 整体线条及色彩信息比较丰富但存在部分线条模糊丢失, 数据2壁画的大小为850× 640像素, 该部分线条信息模糊较严重且色彩丢失, 在RGB照片中大部分线条图案颜色信息已肉眼不可见, 如图1所示。

图1 代表性区域图Fig.1 Map of representative areas

高光谱成像系统采集的原始数据数字影像的DN值不能直接用于光谱分析, 在使用前需要对其进行辐射校正转换为反射率影像。 对原始高光谱数据的辐射校正的公式为(1)

R=Rraw-RdarkRwhite-Rdark×98%(1)

式(1)中, R是校正后的反射率影像, Rraw是高光谱原始数据, Rwhite是白板原始数据, Rdark是暗电流数据。

白板原始数据是在与采集壁画同时的环境和仪器参数情况下, 扫描反射率为98%的标准白板得到的全白的影像, 暗电流数据是在相同环境下且无光源, 盖上高光谱镜头盖时得到的全黑的高光谱影像数据。

1.2 研究方法

综合利用高光谱数据的降维方法最小噪声分离变换(MNF)、 端元提取及图像融合技术, 设计了壁画线条信息增强融合的流程, 如图2所示。 通过数据预处理与分段MNF降维、 线状特征增强影像提取、 增强真彩色影像重构, 将增强的线条图案信息与壁画的色彩信息进行有效融合, 从而提高壁画影像的视觉表现和信息量, 为后续的壁画修复、 分析提供更清晰的图像参考。

图2 线状特征增强流程图Fig.2 Flowchart for linear feature enhancement

预处理与分段MNF降维: 首先, 对原始高光谱影像进行预处理, 包括辐射校正和匀色。 接着, 对处理后的高光谱影像去除前后50个噪声较大的波段, 分别对740个波段进行整体MNF和分段MNF变换方法, 从而分离噪声并实现数据降维, 将高光谱数据信息集中于前面波段。

线状特征增强影像提取: 计算分段MNF结果的前十个波段平均梯度(average gradient, AG)值, 并从中挑选出平均梯度最大的波段, 该波段包含较多的线条信息, 将分段得到的7个AG最大的波段进行加权平均后与整体MNF的AG最大波段相比效果较好, 故将其作为最优MNF波段影像。 利用整体MNF变换的输出结果, 执行了快速PPI算法以提取纯净端元, 并借助全约束最小二乘法(fully constrained least squares, FCLS)来反演丰度信息, 得到含有线条信息的线条丰度图, 这一过程从光谱维角度获得含有线条丰富的影像。 将两者信息叠加, 得到增强影像。

增强真彩色影像重构: 将线状特征增强影像与高光谱合成的真彩色影像的每个波段分别进行高斯滤波处理增强细节信息。 再经过Haar小波分解, 得到一个低频信号和三个高频信号, 其中, 低频信号反映了图像的主要信息内容, 而细节信息则隐藏在高频信号中。 所以将两者的高频信号取绝对值最大值后进行BayesShrink软阈值处理, 再与真彩色每个波段的低频信号进行小波重构, 从而得到既包含图案信息又具有色彩信息的影像。

1.3 评价指标

平均梯度(AG): 描述了图像在垂直方向和水平方向上的平均变化率, 如果AG值较大, 则图像图案有明显变化, 也就是说图像包含大量信息。 通过以下方式计算图像的AG值

AG=1M* Ni=1Mj=1Nfx2+fy22(2)

式(2)中, MN分别对应影像的宽和高; fx是水平方向的梯度; fy是垂直方向的梯度。

信息熵: 衡量图像中信息丰富程度的指标, 值越高表示所含信息量越丰富。

H=-i=0mpilogpi(3)

式(3)中, m是图像的灰度级; pi表示灰度级i出现的概率。

边缘强度: 指的是图像中边缘区域的梯度幅度, 用于表示边缘的清晰程度。

G=Jx2+Jy2(4)

式(4)中, JxJy表示边缘像素点在xy方向的一阶差分。

2 结果与讨论

选取山西义居寺的壁画进行分析, 在ENVI 5.6上对原始影像进行裁剪、 MNF正逆变换, 其余均使用PyCharm 2023实现。

2.1 最优MNF波段选择

对初步预处理的数据1中的壁画高光谱数据做整体MNF和分段MNF, 随后计算变换结果归一化处理后的前10个波段AG值, 并进一步确定了AG值最大的波段影像。 图3 中(a)是整体MNF变换后的第2波段, (b)是分段变换后每个AG值最大的波段加权平均结果。 与整体降维相比, 分段降维的加权波段噪声较少且含有的线状特征较为丰富, 故选定该波段影像作为最优MNF波段影像, 以更好地提取影像中的细节信息。 为了定量对比结果, 分别计算整体降维和分段降维归一化后的平均梯度和图像信息熵, 结果如表1 所示。

图3 整体MNF和分段MNF对比Fig.3 Comparison of overall and segmented MNF

表1 对比结果 Table 1 Comparison results
2.2 端元提取与丰度反演

将上述整体MNF变换后的结果在ENVI软件中进行快速PPI, 以计算结果为基础, 在N维可视化器中提取6个纯净端元, 然后通过FCLS进行丰度反演, 得到的各个端元曲线对应的丰度图, 如图4所示, 对比得到的丰度图发现第2个丰度图含有的线条比较丰富, 所以选择其为线条丰度图。

图4 端元丰度图Fig.4 Endmember abundance maps

2.3 线状特征增强结果

为了增强线条信息, 将高光谱影像的空间信息和光谱信息得到的含有线条信息丰富的图像进行信息叠加融合, 分别计算归一化后的最优MNF波段影像与线条丰度图和线条丰度图取倒归一化进行叠加, 是由于线条丰度图的像素值是在0~1之间, 而直接对像素值为0的部分取倒数会导致无效值, 故先将其像素值整体加1后再取倒数归一化。 分别计算两者的AG值和图像信息熵, 如表2所示, 发现后者结果高于前者, 将其称为线状特征增强影像, 如图5(c)所示。

表2 波段运算对比结果 Table 2 Comparison results of band operations

图5 增强对比
(a): 最优MNF波段; (b): 线条丰度图; (c): 线状特征增强影像
Fig.5 Comparison of enhancement
(a): Optimal MNF band; (b): Line abundance map; (c): Linear feature-enhanced image

为了定量分析数据1中除泥斑外的各个线条丰富区域的线状特征增强结果, 从图5中选择三个区域, 对比增强前后的信息熵, 结果如表3, 增强后影像的信息熵均较高, 表明了线状特征增强影像线条信息更加清晰, 将最优MNF波段影像与线条丰度图进行信息融合对壁画中的模糊线条有一定的增强作用。

表3 区域对比结果 Table 3 Regional comparison results

高光谱影像中波段范围是可见光的整个波段范围, 我们选择红色光谱范围为605~700 nm、 绿色光谱范围为510~570 nm和蓝色光谱范围为450~510 nm, 将MNF逆变换后的影像在各个颜色范围内的波段加权平均后合成真彩色影像。 使用不同标准差(sigma为1、 3和5)的高斯滤波分别对真彩色和线状特征增强影像进行平滑处理, 将原图与平滑处理后的结果进行相减提取细节信息, 将三个细节信息加权平均后与原始影像相加进行细节增强。 利用Haar小波变换将线状特征增强影像和真彩色影像的各个波段分别分解, 每幅影像都得到一个低频信号(LL)和三个高频信号(HL、 LH、 HH), 高频信号中蕴含了图像中的细节特征信息, 例如边缘轮廓、 线条以及纹理图案等, 分别考虑将两者的高频信号直接平均加权融合和取高频分量绝对值最大值后再用BayesShrink软阈值处理, 然后小波重构得到的重构影像, 计算平均梯度和信息熵, 结果如表4所示。 通过对比可以看到将高频信号取绝对值最大值结合软阈值处理融合的结果更高。

表4 不同融合方法对比 Table 4 Comparison of different fusion methods

在图6对比发现在RGB图片中线条信息肉眼已经不可见, 但在合成的真彩色影像中部分线条信息显现出来了, 融合后的影像相比真彩色影像, 在线状特征信息的呈现上更为清晰, 模糊的线条得到了有效增强。 为了进一步量化这种增强效果, 采用Sobel边缘检测算子对指定区域及整个影像边缘提取, 并计算各区域的AG值, 结果如表5所示。 与真彩色影像相比, 融合影像的值均有明显的提升, 即信息得到了增强。

图6 融合对比
(a): RGB图像; (b): 合成真彩色影像; (c): 融合影像
Fig.6 Fusion comparison
(a): RGB; (b): Composite true color image; (c): Fusion image

表5 平均梯度对比结果 Table 5 Comparison of the average gradient
2.4 与其他线条增强方法对比

为了验证所提方法的有效性, 选用了文献[14]中提出的线条增强方法作为对比实验。 由于其生成的结果为灰度影像, 为确保实验结果具备可比性, 本文使用线状特征增强影像, 并将其与对比方法的结果进行比较。 结果如图7所示。

图7 对比结果
(a): PCA增强; (b): 线状特征增强法
Fig.7 Methods comparison
(a): PCA; (b): Linear feature-enhanced

分别计算了指定区域及整个影像的平均梯度和边缘强度的数值, 并将结果展示在了表6中。 这表明线状特征增强影像更有效地突出了线条细节。 这种增强方式通过融合线条丰度图和最优MNF波段信息, 从而强化了壁画中线状特征的表现。 因此, 线状特征增强影像比PCA增强影像在细节丰富性和视觉显著言上具有更大优势。

表6 不同方法对比结果 Table 6 Comparison of different methods
2.5 在其他区域数据的实验结果

利用同样的方法对数据2壁画进行实验, 壁画表面泥斑覆盖或脱落而导致线条模糊和色彩信息退化较严重, 在RGB中已肉眼不可见。 图8中(a)是数据2经分段MNF变换后的最优MNF波段影像, (b— f)是得到的端元丰度图, 可以看出第1个丰度图包含的线条信息比较丰富, (g)为最优MNF波段影像与第1个丰度图进行波段运算得到的结果, (h— j)分别为RGB、 合成真彩色影像和融合影像。 通过对比分析, 可以明显看出, 在融合后的影像中, 原始影像中模糊线条信息得到了有效增强, 还保留了图案的色彩信息。 对比结果如表7所示, 融合后的AG值和边缘强度均高于合成真彩色影像。

图8 数据2实验结果
(a): 最优MNF波段影像; (b— f): 端元丰度图; (g): 线状特征增强影像; (h): RGB; (i): 合成真彩色影像; (j): 融合影像
Fig.8 Experimental results from data 2
(a): Optimal MNF band image; (b— f): Endmember abundance map; (g): Linear feature-enhanced image; (h): RGB; (i): Composite true color image; (j): Fusion image

表7 数据2线状特征融合前后影像对比结果 Table 7 Comparison of the images before and after linear feature enhancement in data 2

通过对比两个研究数据融合前后的影像, 发现融合后显著增强了线条信息, 使得在RGB和合成真彩色影像中不可见的图案线条在融合后的影像中清晰呈现, 并保留了原始图像的色彩信息。 这表明, 该方法能够充分利用高光谱数据中丰富的信息, 实现壁画中不同模糊程度的线状特征的增强, 使得微弱和退化的图案信息更加清晰, 揭示传统RGB中难以观察到的细节, 有助于文物保护工作者在不破坏原始材料的前提下, 进行更加深入的分析与研究, 对文物的数字化保护、 历史信息的发掘以及后续的修复具有重要的应用价值。

3 结论

鉴于壁画受自然环境等多种因素的干扰, 产生了褪色等病害现象, 致使部分线条变得难以用肉眼辨识, 甚至发生色彩信息丢失, 我们提出了结合壁画数据降维与融合的线条信息增强方法, 利用壁画高光谱中的丰富信息, 不仅显著提升了线条的清晰度, 而且成功地维持了原始的色彩特征。 将壁画高光谱数据进行分段MNF降维后, 根据AG最大波段选择最佳的影像, 将每段的最佳影像进行加权平均, 利用光谱信息生成线条丰度图, 将两者进行波段合成, 以获得增强后的影像。 随后, 用高斯滤波进一步增强细节信息, 再利用Haar小波变换将此增强影像与真彩色影像进行分解与融合处理, 最终生成一幅既包含增强线条细节又保留原有色彩信息的影像。 该方法在山西义居寺的壁画数据上进行了实践验证, 结果表明, 可以揭示出壁画图案中原本模糊的细节信息。 与PCA线状特征增强方法相比, 该方法的AG值和边缘强度明显增加, 在细节展示和线条信息的增强方面表现出更好的效果。 通过将含有图案信息的影像与真彩色影像融合, 融合后的影像增强了视觉效果, 实验结果为后续保护提供参考。 但本研究融合得到的结果主要是三波段的真彩色影像, 未能完整保留高光谱数据的光谱信息, 后续应考虑融合影像同时保留光谱信息, 为后续光谱分析提供更多的基础数据。

参考文献
[1] Capobianco G, Prestileo F, Serranti S, et al. Periodico di Mineralogia, 2015, 84(3A): 407. [本文引用:1]
[2] Liang H. Applied Physics A, 2012, 106(2): 309. [本文引用:1]
[3] Tonazzini A, Salerno E, Abdel-Salam Z A, et al. Journal of Advanced Research, 2019, 17: 31. [本文引用:1]
[4] Pillay R, Hardeberg J Y, George S. Journal of the American Institute for Conservation, 2019, 58(1-2): 3. [本文引用:1]
[5] Delaney J K, Zeibel J G, Thoury M, et al. Applied Spectroscopy, 2010, 64(6): 584. [本文引用:1]
[6] LI Jun-feng, WAN Xiao-xia(李俊锋, 万晓霞). Spectroscopy and Spectral Analysis(光谱学与光谱分析), 2018, 38(1): 200. [本文引用:1]
[7] Cao J, Li Y, Cui H, et al. Heritage Science, 2018, 6: 67. [本文引用:1]
[8] Deng X, Yu Y. Heritage Science, 2022, 10: 163. [本文引用:1]
[9] Wu M, Jia M, Wang J. Applied Sciences, 2022, 12(21): 10940. [本文引用:1]
[10] Yu K, Li Y, Yan J, et al. Proceedings of SPIE, Optics for Arts, Architecture, and Archaeology VIII. 2021, 11784: 1178409. [本文引用:1]
[11] Hou M, Zhou P, Lv S, et al. Journal of Cultural Heritage, 2018, 34: 136. [本文引用:1]
[12] Zhou P, Hou M, Lv S, et al. Remote Sensing, 2019, 11(11): 1384. [本文引用:1]
[13] Pan N, Hou M, Lv S, et al. Journal of Cultural Heritage, 2017, 27: 80. [本文引用:1]
[14] HOU Miao-le, LEI Yong, LU Xin, et al(侯妙乐, 雷勇, 芦鑫, ). Science of Surveying and Mapping(测绘科学), 2014, 39(10): 89. [本文引用:2]
[15] MAO Jin-cheng, Shu-qiang, HOU Miao-le, et al(毛锦程, 吕书强, 侯妙乐, ). Journal of Graphics(图学学报), 2022, 43(3): 425. [本文引用:1]
[16] CAO Peng-hui, Shu-qiang, HOU Miao-le, et al(曹鹏辉, 吕书强, 侯妙乐, ). Sciences of Conservation and Archaeology(文物保护与考古科学), 2021, 33(1): 26. [本文引用:1]
[17] Wu T, Cheng Q, Wang J, et al. Archaeological and Anthropological Sciences, 2019, 11(8): 4147. [本文引用:1]
[18] Pan N, Hou M. The Extraction and Fusion of Faint Mural Based on Feature Transform of Hyperspectral Images. 2016 4th International Workshop on Earth Observation and Remote Sensing Applications (EORSA), 2016, 161. [本文引用:1]
[19] Peng J, Yu K, Wang J, et al. Journal of Cultural Heritage, 2019, 36: 32. [本文引用:1]
[20] Han D, Ma L, Ma S, et al. Journal of Physics: Conference Series, 2019, 1237(3): 032028. [本文引用:1]
[21] Han X, Hou M, Zhu G, et al. Tehnički Vjesnik—Technical Gazette, 2015, 22(6): 1567. [本文引用:1]
[22] LI Jing-yu, ZHANG Rong-fen, LIU Yu-hong(李景玉, 张荣芬, 刘宇红). Optical Technique(光学技术), 2021, 47(2): 217. [本文引用:1]
[23] XU Jing-xiu, ZHANG Qing(徐景秀, 张青). Computer Engineering & Science(计算机工程与科学), 2022, 44(1): 92. [本文引用:1]