藕粉来自湖北忆荷塘荷莲产业开发有限公司, 执行标准号 GB/T25733; 红薯淀粉、 木薯淀粉、 马铃薯淀粉、 玉米淀粉来自河北古松农副产品有限公司, 执行标准号GB/31637。

一台GaiaField-N17E-HR高光谱相机(光谱范围900~1 700 nm, 光谱分辨率5 nm, 波段数512个), 江苏双利合谱科技有限公司; 四个FSL卤素灯光源(功率55 W), 佛山电器照明股份有限公司; 一台ASUS计算机(配备高光谱数据采集软件SpecVIEW), 中国台湾华硕电脑股份有限公司; 一台BCE55I-10CN电子天平(测量精度0.01 mg), 北京赛多利斯仪器系统有限公司。

藕粉和四种普通淀粉各制备10个样品, 每个样品重量20 g, 一共50个纯淀粉样品。 对于掺假藕粉样品的制备, 通过将一种、 两种、 三种和四种不同掺假物(红薯淀粉、 木薯淀粉、 马铃薯淀粉、 玉米淀粉)掺入纯藕粉中, 依次制备了二元、 三元、 四元和五元混合掺假藕粉, 共四类掺假藕粉。 在每类掺假藕粉中, 每种掺假物的浓度有0.2%、 0.4%、 0.6%、 0.8%和1%共五个梯度。 因此, 每类掺假藕粉制备了5个样品, 每个样品重量20 g, 一共20个掺假样品。 掺假浓度可由式(1)得到

掺假浓度/%=m1m2×100(1)

式(1)中: m₁为掺假物的质量, m₂为纯藕粉的质量。

为了确保每种掺杂物都能够均匀分布在藕粉中, 将准确称量配比后的掺假样品置于50 mL的聚丙烯离心管中, 用漩涡混合器震荡混合1 min。

高光谱成像系统如图1所示。 将样品置于直径10 cm, 高度2 cm的圆形玻璃培养皿中, 使用玻璃压板将表面压平, 保证表面的平展和充实。 然后放到距离高光谱成像仪镜头40 cm的采集平台中央处, 采集得到640× 666像素× 512波段的高光谱图像数据。 为获获取准确的高光谱图像数据, 提前设置好SpecVIEW软件的相关参数。 图像的R、 G、 B通道值分别设置为954.15、 927.55、 904.28 nm, 相机增益设置为2, 曝光时间设置为2 ms。

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 高光谱成像系统Fig.1 Hyperspectral imaging system

由于相机中的暗电流和系统光源强度分布不均匀, 所采集的高光谱图像受大量噪声影响, 不能反映样品的真实情况。 因此, 需要采集白板和黑板图像对采集到的高光谱图像进行黑白校正, 用于降低相机噪声和光源强度不均匀对数据的影响, 获得相对稳定的光谱反射率^[21]。 根据式(2)对原始图像进行黑白校正

Rc=R0-RdRw-Rd(2)

式(2)中: R_c是校正后的高光谱图像, R₀是校正前的高光谱图像, R_w为白色参考图像, R_d是黑色参考图像。

每张高光谱图像都包含样品和背景。 其中背景为无用信息, 因此, 采用大津阈值算法分割图像中的样品和背景, 分割出感兴趣区域(regions of interest, ROI)。 对于纯淀粉样品, 每份样品以像素点为单位, 随机划分40个圆形ROI, 每个ROI的半径为10个像素点。 通过计算ROI内所有像素的平均光谱值得到光谱曲线, 由此得到每类纯淀粉各400条光谱曲线。

提取出有效的光谱数据后, 需要对数据进行清洗, 剔除影响建模效果的异常数据^[22]。 采用孤立森林(isolation forest, IF)算法剔除异常数据。 孤立森林是由众多的孤立树构成, 通过对光谱数据集中的样本进行连续的随机划分来构建这些孤立的树。 在这个过程中, 所有的样本都被反复分割, 直到它们都被归入某个孤立树的左侧或右侧, 最终形成了孤立森林。 然后, 根据每个样本在孤立森林中的路径长度计算相应异常得分。 最后, 通过设置异常得分阈值剔除异常样本。 根据多次调参实验, 将异常得分阈值设置为0.5。 剔除掉异常得分大于0.5的样本后, 模型的稳定性和准确性有显著提高, 证明在该阈值下, IF算法能够有效去除对建模效果有负面影响的异常样本。

光谱数据通常包含大量复杂和冗余的波段信息。 直接使用高维数据可能会导致计算量激增, 从而延长计算时间, 这会影响模型在实际检测应用中的运行效率^[23]。 因此, 需要使用特征波长提取算法从全波长中提取出具有代表性、 稳定性和区分度的特征波长。

竞争性自适应重加权算法(competitive adaptive reweighted sampling, CARS)的变量选择策略模仿了达尔文进化论的“ 适者生存” ^[24]。 其主要方法是以迭代竞争的方式依次选择一定数量的变量子集, 通过交叉验证选出交叉验证均方根误差(root mean-squared error of cross validation, RMSECV)最小值对应的子集, 即为筛选出的特征波长。

自助软收缩算法(bootstrapping soft shrinkage, BOSS)是一种基于变量空间的波段选择方法。 来源于加权自助抽样(weighted bootstrap sampling, WBS)和模型总体分析(model population analysis, MPA)的思想^[25]。 变量的权重由回归系数(regression coefficients, RC)的绝对值确定。 根据权重利用WBS生成子模型, 利用MPA对子模型进行分析, 更新变量的权重。 优化过程遵循软收缩规则, 即不直接消除不重要的变量, 而是赋予较小的权重。 该算法多次迭代运行, 直到变量数量减少至1才终止。 最终, 选取RMSECV最小的最优变量集。

CAMM是通过引入通道注意力机制, 用来学习波段权重的深度学习神经网络模块^[26]。 如图2所示, 将CAMM表示为一个函数g, 它以S个样本和b个光谱波段组成的全波段光谱向量集Ι ∈ R^{S× b}为输入, 充分学习波段之间的非线性关系, 并产生一个非负波段权重张量w∈ R^{1× b}, 其表达式为

w=g(I; Θb)(3)

式(3)中: Θ _b表示CAMM中涉及的可训练参数。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 CAMM特征提取流程图Fig.2 Feature extraction flowchart of CAMM

为了保证学习到的权值的非负性, CAMM中使用Sigmoid函数作为输出层的激活, 其表达式为

ϕ(w)=11+e-w(4)

此外, 为去掉一些无用波段的同时, 实现特征波段的稀疏分布, 增强模型的可解释性, 对波段权重施加了L₁范数约束^[27]。 得到的损失函数如式(5)

L(Θb, Θc)=12S∑i=1S‖xi-x^i‖22+λ∑i=1S‖wi‖1(5)

式(5)中, S为训练样本的个数, λ 是一个正则化系数。

上述方程采用自适应矩估计法(adaptive moment estimation, Adam)进行优化。 下一步, 根据学习到的稀疏波段权重, 通过对所有输入样本的波段权重求平均值来确定特征波段。 第j个波段的平均权重计算为

w-j=1S∑i=1Swij(6)

最后选择前C个平均权重最高的波段作为特征波段构成特征光谱向量子集 Ι^∈ R^{S× C}。 如图3所示, BAM被设计为具有多个全连接层的瓶颈结构, 这有利于特征信息的提取^[28]。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 CAMM的全连接神经网络结构Fig.3 Fully connected neural network architecture of CAMM

分别采用偏最小二乘判别分析(partial least squares-discriminant analysis, PLS-DA)、 支持向量机(support vector machine, SVM)算法和卷积神经网络(convolutional neural network, CNN)对提取特征波长后的光谱数据进行建模。 通过对比分析, 确定分类效果最好的模型。

SVM是将原始特征空间中的样本映射到高维空间中进行分类^[29]。 原理是使用映射函数将输入的光谱数据映射到高维特征空间中, 然后在高维特征空间中找到一个使得样本点到超平面的距离最大化的超平面, 将不同类别的样本点分隔开。 通过将新的样本点映射到特征空间, 并根据其在超平面的位置来进行分类。 如果新的样本点位于最优超平面的一侧, 那么它将被划分为一个类别, 而位于另一侧的样本点则被划分为另一个类别。

PLS-DA是一种基于多元线性回归与主成分分析的判别算法^[30]。 该算法的目的是寻找自变量(光谱数据)与因变量(指定淀粉类别)之间协方差最大的潜在变量。 这些潜在变量是通过将自变量投影到一个低维子空间中, 利用PLSR计算得到的, 它们能最有效地区分不同类别之间的差异。

CNN是一种带有卷积结构的前馈神经网络, 作为深度学习的代表算法之一, 与其他传统的机器学习模型相比, CNN在捕捉获取输入数据的特征方面表现出更强大的能力^[31]。 本研究从输入数据大小、 模型计算速度和分类效果等方面考虑, 设计了一个轻量的1D-CNN深度学习模型来完成本研究的分类任务。 如图4所示, 模型主要包含两个一维卷积层, 一个展平层和三个全连接层。 将S个波段数为C的一维光谱输入网络, 每个大小为C× 1的一维光谱向量首先经过第一个一维卷积层提取一维光谱的局部特征, 得到16张大小为C/2× 1的特征图, 再将这些特征图通过第二个一维卷积层进一步提取特征, 得到32张C/4× 1的特征图, 接着将32张特征图展平变成一个长度为32× C/4的特征向量, 展平后的一维特征向量依次通过三个全连接层FC1, FC2, FC3将所有局部特征连接起来, 输出经过Softmax激活函数转换为红薯淀粉(H)、 木薯淀粉(M)、 藕粉(O)、 马铃薯淀粉(T)和玉米淀粉(Y)共五个输出类别的概率分布, 从而实现对不同淀粉的识别和分类。 其中, 每个卷积层和全连接层都使用了Relu激活函数, 因为Relu函数没有复杂的指数运算, 可以提高运算效率且收敛速度更快^[32]。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 1D-CNN深度学习模型结构Fig.4 Architecture of 1D-CNN deep learning model

为了更好地评估模型的性能, 采用训练集和测试集的准确率和精确率作为模型评价指标。 准确率是所有样本中被正确预测的样本个数占总样本个数的比值, 是最直观的模型性能评估指标。 准确率越高, 说明模型的判别效果越好。 精确率定义为模型预测为正类的样本中, 实际为正类的比例, 用于衡量模型对正类预测的准确性。 准确率和精确率的计算方法如式(7)和式(8)

准确率/%=TP+TNTP++TN+FP+FN×100(7)

精确率/%=TPTP+FP×100(8)

式(7)和式(8)中: TP表示正类淀粉被正确预测为正类的样本数; TN表示负类淀粉被正确预测为负类的样本数; FP为负类淀粉被错误预测为正类的样本数; FN表示正类淀粉被错误预测为负类的样本数。

在使用IF算法剔除异常光谱数据之前, 需要去除光谱数据前后受噪音影响的异常波段。 具体去除了全波段中最前端33个波段和最后端36个波段, 从而保留了940~1 675 nm之间的443个波段。 随后, 利用IF算法剔除光谱数据中的异常数据。 图5以纯藕粉为例, 展示了从光谱数据中剔除异常数据的效果。 其中红线对应的是正常藕粉样本的光谱曲线, 黑线对应的是异常藕粉样本的光谱曲线, 可以清楚的观察到部分离群的光谱曲线被“ 孤立” , 从而识别为异常数据。

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 藕粉样本的光谱曲线Fig.5 Spectral curves of lotus root starch samples

图6(a)展示了所有样本的光谱曲线和红薯淀粉、 木薯淀粉、 藕粉、 马铃薯淀粉和玉米淀粉五种纯淀粉的平均光谱曲线。 可以看出五种淀粉的光谱曲线表现出相似的趋势、 波峰和波谷。 在1 150~1 200 nm波段, 光谱反射率急剧降低, 然而, 峰谷位置略有不同, 这主要是由于不同淀粉的化学成分含量不同。 在980 nm左右的吸收峰O— H第二泛频的伸缩振动有关, 1 200 nm左右的吸收峰归因于C— H第二泛频的伸缩振动, 在1 450 nm附近的吸收峰来自O— H第一泛频的伸缩振动, 1 620 nm附近的吸收峰对应C— H第一泛频的伸缩振动^{[33, 34]}。

图6

Fig.6

	Figure Option ViewDownloadNew Window
	图6 藕粉和四种普通淀粉的光谱曲线 (a): 原始光谱曲线; (b): 平均光谱曲线Fig.6 Spectral curves of lotus root starch and four common starches (a): Original spectral curve; (b): Average spectral curve

图7展示了CARS算法和BOSS算法提取的特征波长位置, 它们主要集中在1 400~1 650 nm之间, 这可能是因为样品的光谱曲线在这些波段有着更明显的区分度。 将CAMM算法迭代过程中的所有波段权值缩放到[0, 1]范围内, 波段权重变化如图8所示。 可以看到, 随着迭代次数的增加, 波段权重分布逐渐变得越来越稀疏。 同时, 由于冗余波段最终会被赋予很小的权值, 使得特征波段更容易被区分。

图7

Fig.7

	Figure Option ViewDownloadNew Window
	图7 CARS和BOSS提取的特征波长分布Fig.7 Distribution of characteristic wavelengths extracted by CARS and BOSS

图8

Fig.8

	Figure Option ViewDownloadNew Window
	图8 CAMM迭代过程中的波段权重可视化Fig.8 Visualization of band weight during CAMM iteration process

为了分析CAMM的收敛性和效果, 将每次迭代中波段权重最大的12个波段构成特征波段向量集, 输入到PLS-DA分类模型中。 CAMM的损失函数曲线和PLS-DA分类精度变化可视化如图9所示。 从图中可以看出, 随着迭代次数增加, 训练损失快速减小, PLS-DA分类精度逐渐提高。 当迭代到20次左右, CAMM的损失值非常接近于零。 而PLS-DA经过80次迭代, 训练集和测试集的分类准确率都稳定在96%左右。 同时, 可以发现PLS-DA的分类准确率从88%提高到96%, 提高了8%, 进一步证明了CAMM的有效性。 以上分析表明, CAMM易于训练且收敛速度快。

图9

Fig.9

	Figure Option ViewDownloadNew Window
	图9 CAMM迭代过程中的损失和分类准确率Fig.9 Losses and classification accuracy during CAMM iteration process

为了挑选出最佳特征提取算法, 基于PLS-DA分类算法, 对比了CARS、 BOSS和CAMM算法提取特征波长后的模型分类效果, 具体分类结果如表1所示。 从表中可以看出, CARS, BOSS和CAMM选择的波长数分别为45, 32和12。 虽然基于CAMM算法的分类准确率和全波段相比, 训练集和测试集分别降低了1.11%和1.77%, 但远远高于CARS和BOSS算法下的分类准确率, 并且明显CAMM筛选的特征波长数更少, 说明CAMM在选择更少特征波段的同时, 取得了更好的分类效果。 造成这种情况的原因可能是CARS和BOSS没有完全消除冗余波长, 而且消除了部分弱特征波长, 导致模型精度有所降低。 此外, 这两种算法以RMSECV和RC的绝对值为评价指标, 搜寻具有最小RMSECV和最大RC绝对值的特征波段子集。 这种基于极值搜索的波段选择过程具有一定的随机性, 需要研究人员不断的进行实验选择出最佳的特征波段子集, 具有很大的不稳定性并加大了计算量^[35]。 而CAMM的神经网络结构能够充分学习波段之间的非线性关系, 并在迭代过程中, 不断增加重要特征波段的权重, 降低无关或冗余波段的权重, 这就避免了随机划分特征波段子集的不确定性。 综合以上分析结果表明, CAMM在保证模型效果的同时, 极大的降低了模型的复杂度。 因此, 本研究将选择CAMM作为最佳特征提取算法应用于藕粉的真伪判别。

表1

Table 1

表1(Table 1)

表1 不同特征提取算法的建模结果 Table 1 Modeling results of different characteristic extraction algorithms 分类算法 特征算法 选择波 段数 训练集 准确率/% 测试集 准确率/% PLS-DA None 443 97.77 98.22 CARS 45 91.09 89.32 BOSS 32 90.35 87.54 CAMM 12 96.66 95.25

表1 不同特征提取算法的建模结果 Table 1 Modeling results of different characteristic extraction algorithms

前面的分析表明CAMM提取的特征波长分类效果更优异, 因此将CAMM选择的特征波长构成特征光谱数据集输入到不同分类算法中探寻最佳分类模型。 在特征波段大小为3~ 50、 波段间隔为1的情况下, SVM、 PLS-DA和CNN三种分类算法的分类准确率如图10所示。 在图中, 首先发现了一个反自觉的现象, 即准确率并不会随着特征波段子集的增大而一直提高。 一开始随着特征波段的增大, 三种算法的准确率均有一定程度的提高, 但当特征波段大小增大到35后, 准确率又有缓慢降低的趋势, 这种现象可以被称呼为休斯现象, 即当特征维度增加时分类精度会上升, 但增加到某个临界值时, 如果继续增加维度, 分类精度反而会下降^[26]。 导致这种现象的原因可能是特征波段子集较小时, 都是一些波段权重大的显著特征波段, 可以帮助提高模型分类精度, 但当特征波段子集大小到达到一定数目后, 再增加的波段权重较小, 特征较弱, 对模型效果提升不大, 甚至是冗余、 无关的干扰波段, 反而影响模型分类精度。 在图10中, 可以看到SVM和CNN均在特征波段子集大小为35时表现出最佳的分类性能, 而PLS-DA在特征波段子集大小为12达到最佳。 虽然PLS-DA取得最佳分类性能所需的特征波段最小, 但在同样特征波段大小的情况下, CNN有着比PLS-DA更高的分类准确率。 进一步地, 绘制了它们各自取得最佳分类性能时的测试集混淆矩阵(图11), 以及对应的详细分类结果(表2)。 通过图11和表2的结果可以直观地看到, CNN只有一个红薯淀粉样本被误判为玉米淀粉样本, 其他类别全部分类正确, 总体准确率达到了99.69%, 精度高于SVM和PLS-DA。 考虑到CNN的优异分类效果, 进一步分析CNN的收敛性和有效性。

图10

Fig.10

	Figure Option ViewDownloadNew Window
	图10 (a)SVM、 (b)PLS-DA和(c)CNN基于CAMM选择特征波段的分类表现Fig.10 Classification performances of (a) SVM, (b) PLS-DA, and (c) CNN based on CAMM selected characteristic bands

图11

Fig.11

	Figure Option ViewDownloadNew Window
	图11 (a)SVM、 (b)PLS-DA和(c)CNN最佳分类效果下的测试集混淆矩阵Fig.11 Test set confusion matrices for (a) SVM, (b) PLS-DA, and (c) CNN with optimal classification performance

表2

Table 2

表2(Table 2)

表2 (a)SVM、 (b)PLS-DA和(c)CNN最佳分类效果下的测试集分类结果 Table 2 Test set classification results of (a) SVM, (b) PLS-DA, and (c) CNN with optimal classification performances 特征算法 分类算法 特征波段数 精确率/% 总体准确率/% 红薯淀粉 木薯淀粉 藕粉 马铃薯淀粉 玉米淀粉 SVM 35 68.66 89.04 98.46 100.00 100.00 91.10 CAMM PLS-DA 12 79.11 98.63 100.00 100.00 98.44 95.25 CNN 35 98.51 100.00 100.00 100.00 100.00 99.69

表2 (a)SVM、 (b)PLS-DA和(c)CNN最佳分类效果下的测试集分类结果 Table 2 Test set classification results of (a) SVM, (b) PLS-DA, and (c) CNN with optimal classification performances

基于CAMM选择出的35个特征波段对CNN进行100次迭代训练, 并绘制训练过程中的损失变化曲线和测试集准确率变化曲线, 如图12所示。 从图中可以看出, CNN的收敛速度较快, 在迭代次数到达40次左右达到收敛。 同时, 测试集准确率从最初的80.88%提升到了98.84%, 之后逐渐趋于平稳, 在99%左右波动, 最终达到99.69%的分类准确率, 说明CNN的训练效果优秀, 能够有效的学习输入光谱数据的特征。

图12

Fig.12

	Figure Option ViewDownloadNew Window
	图12 CNN迭代过程中测试集的损失和准确率Fig.12 Loss and accuracy of test set during CNN iteration process

综上所述, CAMM比CARS和BOSS提取的特征波长更具区分度, 特征信息更明显, 能带给模型更好的分类效果。 同时CNN比SVM和PLS-DA的分类准确率更高, 分类效果更好。 因此, 选择CAMM-CNN作为最佳分类模型, CAMM-CNN的最佳分类表现筛选出了波段权重最大的35个波段, 仅占全波段的7.9%, 同时模型训练集和测试集分类准确率分别达到了100%和99.69%, 取得了令人满意的结果。 CAMM-CNN的关键参数如表3所示。

表3

Table 3

表3(Table 3)

表3 CAMM-CNN模型的关键参数 Table 3 Key parameters of the CAMM-CNN model 模块 Layer Neurons Kernel Size, stride, padding 激活函数 CAMM Input 483 - - FC1 64 - ReLU FC2 128 - ReLU FC3 483 - Sigmoid CNN Conv1 - (3, 2, 1) ReLU Conv2 - (3, 2, 1) ReLU FC1 128 - ReLU FC2 64 - ReLU FC3 5 - Softmax

表3 CAMM-CNN模型的关键参数 Table 3 Key parameters of the CAMM-CNN model

建立的CAMM-CNN分类模型不仅能够利用光谱数据鉴别出藕粉和普通淀粉, 还可以通过高光谱数据中的二维图像在空间维度上对掺假藕粉进行可视化。 在二元混合掺假藕粉中掺入马铃薯淀粉, 接着加入玉米淀粉制备三元混合掺假藕粉, 再掺入红薯淀粉构成四元混合掺假藕粉, 最后加入木薯淀粉得到五元混合掺假藕粉。 通过提取掺假样品所有像素点的光谱数据, 输入到训练好的CAMM-CNN模型中得到每个像素点的所属类别。 为了直观表现分类结果, 对不同类别的像素点赋予不同的颜色, 并根据每个像素点的坐标信息在伪彩色图像中呈现出来, 从而实现对掺假藕粉的可视化分析。

图13展示了20个混合掺假藕粉的伪彩色图像, 其中白色像素点代表藕粉, 绿色像素点代表马铃薯淀粉, 蓝色像素点代表玉米淀粉, 紫色像素点代表红薯淀粉, 橙色像素点代表木薯淀粉。 从可视化结果来看, 掺假物像素点的数量随着掺假浓度的提高而增加, 说明CAMM-CNN模型能够准确识别藕粉中的掺假物。 此外, 最低0.2%掺假浓度的混合掺假藕粉样品也被CAMM-CNN模型成功识别出掺假物, 证明了高光谱成像技术结合深度学习方法对粉状物质进行快速准确判别的巨大潜力。

图13

Fig.13

	Figure Option ViewDownloadNew Window
	图13 四种混合掺假藕粉不同掺假浓度下的可视化结果 (a)— (d)图依次是二、 三、 四、 五元混合掺假藕粉Fig.13 Visualization results of four types of mixed adulterated lotus root starch with different adulteration concentrations Figures (a) to (d) represent binary, ternary, quaternary, and quinary mixed adulterated lotus root starch, respectively