在近红外光谱定性分析时, 为取得最优识别效果, 首先需对原始光谱数据预处理, 并进行特征提取。 预处理主要目的是为消除样品自身与外界环境干扰因素对近红外光谱数据影响, 常用预处理方法包括平滑、 一阶导、 归一化等^{[1, 2]}; 而特征提取方法能够剔除近红外光谱数据中的无关信息, 保留有效信息, 常用特征提取方法有偏最小二乘(partial least squares, PLS)、 主成分分析(principal component analysis, PCA)、 线性判别分析(linear discriminant analysis, LDA)、 正交线性判别分析(orthogonal linear discriminant analysis, OLDA)等^{[3, 4, 5]}。 不同预处理方法及特征提取方法具有不同特点, 构建近红外定性分析数学模型时, 单独使用某种预处理方法或特征提取方法往往难以取得理想结果, 常将多种预处理方法及多种特征提取方法组合使用以提升模型性能, 在各种预处理及特征提取方法中往往需要设定一些可变参数, 这些可变参数对定性分析的性能有重要影响, 因此采用多个预处理方法及多个特征提取方法就存在多个参数需要确定的问题。

常用的确定各参数的方法包括试凑法及多重循环嵌套寻优方法。 试凑法求取各待定参数最优值时难以求得全局最优解; 多重循环嵌套寻优方法需要消耗大量计算机内存与时间, 存在效率低的缺点。 为高效确定预处理环节及特征提取环节的多个待定参数, 提出了一种基于粒子群算法的近红外光谱预处理及特征提取参数组合寻优方法, 并以玉米籽粒单倍体二倍体光谱为例, 对两种方法进行了实验验证。 可以快速获得预处理与特征提取环节的最优参数组合, 并保证代入最优参数组合的近红外定性分析模型具有最优的识别性能。

粒子群算法(particle swarm optimization, PSO)首先由Eberhart博士和Kennedy博士在1995年提出, 该算法是一种进化算法, 从随机解出发, 通过迭代搜寻最优解, 具有较强的自适应能力及解决问题能力, 在很多领域获得了成功应用^[4]。

PSO算法基于对鸟群觅食行为的模仿: 鸟群在自然界随机搜寻食物时, 若所在区域里只有一块食物, 所有的鸟在搜索前均不知食物具体位置, 但是鸟群可以判断感知当前位置与食物的距离, 最有效食物搜索策略就是搜索当前离食物目标距离最近的鸟的附近空间。

用于参数组合寻优的PSO算法流程如图1所示。

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 预处理及提取最优参数组合粒子群算法流程图Fig.1 Flow chart of Pretreatment and extraction parameters combination search based on PSO method

在参数寻优过程中, 待求最优解等价于鸟类欲搜寻的食物, 而鸟类觅食的搜索区域则对应于待求解问题的变量范围, 在搜寻食物目标过程中, 各个个体的鸟不仅需要自己的知识积累, 还需根据整个鸟群的搜索经验来修正自己的速度, 从而使自己不断靠近食物。

提出的基于粒子群算法的特征提取参数优化方法实现步骤如下:

(1)参数初始化: 首先设定各待定参数变化范围, 学习因子设定为C₁和C₂, 最大进化代数G, kg表示当前进化代数。 在一个D维的搜索空间中, 粒子种群规模为size, 每个粒子代表解空间的一个候选解。 其中, 第i(1< i< size)个粒子在解空间的位置表示为X_i, 速度表示为V_i。 第i个粒子从搜寻开始到当前迭代次数搜索得到最优解、 个体极值P_i、 整个种群目前的最优解BestS。 初始化步骤随机生成size个粒子, 并随机生成初始种群的位置及速度矩阵。

(2)个体评价(适应度评价): 将各粒子初始位置作为个体极值, 计算群体中各粒子的初始适用值f(x_i), 并求出种群最优位置, 在本节中使用预处理、 特征提取、 分类器等环节构成近红外定性分析模型对实验数据所得的鉴别准确率作为适应度函数值。

(3)更新粒子速度和位置, 生成新种群, 并对粒子速度与位置进行越界检查。

Vikg+1=w(t)Vikg+c1r1(Pikg-Xikg)+c2r2(BestSikg-Xikg)(1)

Xikg+1=Xikg+Vikg(2)

其中, kg=1, 2, …, G, i=1, 2, …, size, r₁和r₂为0到1的随机数, c₁为局部学习因子, c₂为全局学习因子, 一般取c₂为较大值。

(4)比较粒子当前适应值f(x_i)与自身历史最优值P_i, 如果f(x_i)优于P_i, 则设置为当前值f(x_i), 并更新粒子位置。

(5)比较粒子当前适应f(x_i)与种群最优值BestS, 如果f(x_i)优于BestS, 则BestS为当前值f(x_i), 更新种群全局最优值。

(6)判断粒子群算法收敛条件, 若满足, 则结束寻优, 输出最优参数组合及其对应适应度函数值, 否则kg=kg+1, 转至步骤(3)。 结束条件一般是最大迭代次数或评价值小于设定精度。

基于上述粒子群算法原理, 未对该算法进行验证, 选择如下近红外光谱数据集作为实验数据集:

以中国农业大学国家玉米改良中心提供的某品种玉米单倍体和二倍体籽粒作为研究对象, 分5日连续采集其近红外光谱, 使用自制近红外光谱采集装置^{[5, 6, 7]}, 并以漫透射采集方式交替采集单倍体、 二倍体单籽粒近红外光谱各100条, 共5组数据, 5个实验数据集按时间顺序依次编号为T1— T5。

针对近红外光谱定性分析模型中预处理及特征提取参数优化问题对算法设计如下:

(1)适应度函数设计

适应度函数可用于评价粒子群算法所搜寻的各个参数组合的质量, 根据适应度函数值的变化, 进行迭代进化搜索粒子最优值, 并对粒子群中其他粒子状态进行更新, 利用粒子适应度函数值能够反映粒子质量, 即粒子是否能够使适应度函数取得最优值。 拟进行参数优化的适应度函数模型如图2所示, 在特征提取参数优化问题中将整个定性分析模型作为适应度函数, 由图2可知, 适应度函数由平滑、 一阶导、 归一化、 PLS特征提取、 OLDA特征提取、 SVM分类器等环节构成, 其中待寻优参数有: 平滑系数、 一阶导系数、 PLS特征提取维数、 OLDA特征提取维数。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 粒子群算法适应度函数流程图Fig.2 Flow chart of fitness function of PSO algorithm

(2)算法参数设计

粒子群算法相对于其他优化算法, 其特点是需要设置参数相对较少, 参数变化与算法寻优能力、 收敛速度密切相关。

算法中需要确定的参数有: 种群规模、 粒子长度、 粒子范围、 粒子速度范围、 加速度常数等。

①种群规模

图3是模型识别率随粒子种群规模变化曲线, 由图3可以看出, 种群规模, 即同一批粒子的种群数量增加到40后便对识别率的影响很小, 种群数目取 40时, 适应度函数值即分类器对待分类数据的识别率就能够达到95%左右, 其后识别率增长速度较慢。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 识别率随粒子种群规模变化曲线图Fig.3 Recognition rate curve with particle population size changing

图4是算法收敛速度随粒子种群规模变化曲线, 由图4可以看出。 随着粒子种群数目增大, 粒子间相互配合能力随之增强, 每个粒子负责搜寻空间相对变小, 较大的粒子种群数更易搜索到全局最优解, 但易带来负面问题, 即算法运行时间直线上升。

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 算法收敛速度随粒子种群规模变化曲线图Fig.4 Curve of convergence time with particle populationsize changing

综合考虑寻优能力与收敛时间, 本节中粒子群种群规模适宜设置为40。

②粒子长度

粒子长度即每个粒子所包含的待定参数的维数, 对应本节中的适应度函数, 本节中粒子的长度为4维。

③粒子范围

粒子范围指粒子在多维解空间中寻优区域, 由具体优化问题与目标确定, 一般将待优化参数取值范围固定为粒子范围, 本研究中粒子的每一维搜索范围并不相同, 具体设置如下:

平滑参数(smooth parameter)用SP表示, 其最大值用maxSP表示, 步长为2, 变化范围为[3, 5, 7, …, maxSP]; 一阶导参数(FD parameter)用FDP表示, 其最大值用maxFDP表示, 步长为2, 变化范围为[3, 5, 7, …, maxFDP]; PLS特征提取的维数(PLS parameter)用PLS表示, 其最大值用maxPLS表示, 步长为1, 变化范围为[3, 4, 5, …, maxPLS]; OLDA特征提取后的维数(OLDA parameter)用FDP表示, 因为其最大值不可能超过PLS特征提取后的维数, 因此其最大值用PLS表示。

④粒子速度范围

粒子飞行速度范围表示粒子搜索过程中单次运动距离, 若粒子飞行的速度过高, 粒子飞行跨度过大, 易错过最优解。 若飞行的速度太低, 粒子只能在一个小的局部范围内进行搜索, 可能搜寻到局部最优解。 本节规定粒子飞行速度为k· xmax, 其中k在0.1至1之间变化, xmax为各维粒子飞行速度的最大值, 粒子每一维都采用相同取值方法。

⑤加速度常数c₁, c₂

加速度常数代表粒子群算法中的学习因子, 两值分别代表各粒子向个体极值与全局极值飞行时的加速度权重比值。 较小的加速度值允许粒子在被拉回目标值前能够扩展搜索目标值范围之外的区域。 加速度值设置过大则会导致粒子越过目标搜索范围。 根据实际调试过程, 本节中PSO算法加速度常数c₁为1.48, c₂设为1.85。

基于上述分析, 针对参数优化问题, 粒子群算法参数设置如下:

粒子种群规模为40, 最大进化代数为200, c₁为1.48, c₂设为1.85。

适应度函数: 使用平滑、 一阶导、 归一化、 PLS特征提取、 OLDA特征提取、 SVM分类器等环节构成近红外定性分析模型, 随机抽取T1数据集的一半作为训练集, 另一半作为测试集, 重复20次, 将识别率取平均后作为适应度函数值。

对比实验算法设计: 循环嵌套方法与所提出的粒子群算法进行对比实验, 循环嵌套方法的流程图如图5所示, 程序利用4个循环嵌套实现4个待确定参数寻优。

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 预处理参数及特征提取参数循环嵌套寻优流程图Fig.5 Flow chart of loop nesting optimization method

图5中近红外定性鉴别子程序包括平滑、 一阶导、 归一化、 PLS特征提取、 OLDA特征提取、 SVM分类器等环节, 多个环节组合实现对单倍体与二倍体两类籽粒的分类。 在分类时, 随机抽取T1数据集的一半作为训练集, 另一半作为测试集, 重复20次, 将识别率取平均得到平均识别率, 分类完成后保存所得平均识别率与对应的参数组合, 并对识别率进行排序。

利用图2所示的PSO算法流程以及图5所示的多重循环嵌套方法分别对上述近红外定性分析模型最优参数组合进行搜寻, 近红外光谱定性分析模型中待寻优的参数包括平滑参数、 一阶导系数、 PLS维数、 OLDA维数共4个。

实验数据: 使用玉米单倍体二倍体光谱数据作为实验数据集。

针对上述数据建立近红外光谱定性分析模型, 定性分析模型中数据预处理采用平滑(Smoothing)、 一阶导(first Derivative, FD)、 矢量归一化(vector normalization, VN)三种方法相结合^{[8, 9]}, 特征提取环节采用PLS+OLDA组合的方式, 最后利用SVM方法进行分类鉴别。

将T1作为预处理与特征提取参数组合优化算法的实验数据集, T2— T5数据集作为测试集验证所获得优化参数组合的推广性能, 使用上述两种方法所得实验结果及其分析见表1和表2。

表1

Table 1

表1(Table 1)

表1 识别率及其对应参数列表(PSO方法) Table 1 Recognition rate and its corresponding parameter list (PSO method) 序号 SP FDP PLS OLDA 平均识别率/% 1 11 7 11 5 96.2 2 13 9 9 4 96.5 3 9 9 11 4 96.9 4 11 13 7 4 97.0 5 11 11 9 5 96.3

表1 识别率及其对应参数列表(PSO方法) Table 1 Recognition rate and its corresponding parameter list (PSO method)

表2

Table 2

表2(Table 2)

表2 识别率及其对应参数列表(多重循环嵌套方法) Table 2 Recognition rate and its corresponding parameter list (multiple loop nesting method) 序号 SP FDP PLS OLDA 平均识别率/% 1 13 7 11 4 96.9 2 13 9 9 4 96.6 3 9 9 11 5 97.2 4 11 11 9 4 96.8 5 11 11 9 5 96.4

表2 识别率及其对应参数列表(多重循环嵌套方法) Table 2 Recognition rate and its corresponding parameter list (multiple loop nesting method)

表1及表2是分别使用粒子群算法与多重循环嵌套方法寻优得到模型识别率最高时的几组参数组合, 由两表可以看出, 在两种方法中识别率较高时对应参数有多种组合。

选择表2中任意一组数据可以发现: PSO算法与多重循环嵌套方法获得的参数值比较接近, PSO算法与多重循环嵌套方法所获的第二组参数组合则完全一致。

此外, 在同一种方法所获的几种参数组合中, 参数之间相差并不大, 基本在小范围内波动。 以PSO算法为例, 平滑参数在9~11范围内波动, 而OLDA维数在4~5之间波动。 因此, 在模型实际使用时, 为获得较优或者最优的识别性能, 可以将参数设置在一定范围内。

对于本实验数据与对应分类任务, 最优识别效果对应平滑参数一般可设置为9, 11和13, 而一阶导参数可设置为7, 9, 11和13, PLS参数可设置为7, 9和11, OLDA可设置为4和5。

在构建近红外光谱定性分析模型时, 选择表格中任一组参数组合代入模型, 均可获得最优或者较优的预测性能。

表3是利用PSO方法在数据集T1上获得的最优预处理与特征提取参数组合代入近红外定性鉴别模型后, 在多个测试数据集上所得识别率。 对每一个数据集进行实验时, 从各数据集中随机抽取一半作为训练集建立定性分析模型, 剩余一半作为测试集对所建模型进行测试, 抽取样本时, 两类样本各占50%, 20次实验所得识别率取均值。

表3

Table 3

表3(Table 3)

表3 最优参数组合在其他数据集的识别结果表 Table 3 Recognition results of optimal parameter combination tested with other data sets 测试集 T1 T2 T3 T4 T5 正确识别率/% 96.2 95.6 95.2 96.2 94.6 正确拒识率/% 97.4 95.2 94.8 93.4 94.0 平均识别率/% 96.9 95.4 95.0 94.9 94.3

表3 最优参数组合在其他数据集的识别结果表 Table 3 Recognition results of optimal parameter combination tested with other data sets

建立模型阶段代入PSO方法搜寻得到的预处理与特征提取参数组合SP=9, FDP=9, PLS=11, OLDA=4。 由表3可以看出, 所获参数组合在几个数据集上均能获得高于95%的识别率, 说明粒子群方法所获取优化参数组合在不同数据集均具有较好推广性能。

表4是在同一台计算机分别使用多重循环嵌套方法以及PSO方法对最优参数组合进行寻优所消耗的时间。 由表4可知, PSO方法只需586 s, 而循环嵌套方法需要2 825 s, PSO方法寻优效率较高, 而多重循环嵌套方法寻优效率需要消耗大量的计算机内存与计算时间, 效率较低。

表4

Table 4

表4(Table 4)

表4 程序消耗时间对比表 Table 4 Comparison of program consumption time 方法 多重循环嵌套方法 PSO方法 时间 2 825 s 586 s

表4 程序消耗时间对比表 Table 4 Comparison of program consumption time

针对近红外光谱定性分析模型中预处理及特征提取环节多参数需要寻优, 当前常用试凑法及多重循环嵌套方法存在无法获得全局最优解、 效率低的问题。 研究中提出了一种基于粒子群算法的定性分析模型预处理与特征提取参数组合优化方法, 首先采用粒子群算法与SVM算法对预处理与特征提取的多环节参数组合进行寻优, 再利用多个测试集对代入最优参数组合的定性分析模型进行测试, 实验结果证明了方法的有效性。