局部保持投影(LPP)算法作为一种经典的无监督的特征提取算法, 由He^[8]等首次提出。 LPP算法综合了PCA算法和LE算法的优点, 有较强的泛化能力, 在模式识别、 数据挖掘等领域取得了显著成效^[9]。 假设在高维欧氏空间R^D中有n个D维数据集X={x₁, x₂, x₃, …, x_n}, x_i∈ R^D, (i=1, 2, 3, …, n), LPP算法的核心思想是选取一个最佳的变换矩阵U将高维数据集X映射到低维空间R^d(d≪D)^[10], 在低维空间重构局部邻域信息, 获得低维特征矩阵Y={y₁, y₂, y₃, …, y_n}, 使得降维之后的特征空间仍保持高维空间局部邻域信息不变。

LPP算法的基本步骤如下:

Step1: 通过欧氏距离的计算为样本点x_i(i=1, 2, 3…, n)选出k个距离最近的点作为近邻点并构建邻接图G=(V, E)。

Step2: 利用热核函数 Sij[11]度量样本点x_i和邻近点x_j的相似性, 即两点之间边的权重值。 计算公式为

Sij=exp-‖xi-xj‖2t, ifxi∈Nk(xj)∀xj∈Nk(xi)0, otherwise(1)

式(1)中, t为无关参数, N_k(x_j)可表示x_i所有的邻近点。

Step3: 利用y_i=U^Tx_i获得由高维数据X映射到低维空间的矩阵Y。 定义目标函数O(u)为

O(u)=∑i, jn‖uTxi-uTyj‖2Sij(2)

为了得到最佳变换矩阵U, 变换目标函数并将其最小化。

然后根据矩阵论通过式(3)计算广义特征方程的特征值。

XLXTu=λXDXTu(3)

其中, 对角矩阵 Djj=∑iSij, L=U-S为拉普拉斯矩阵。 假定所求广义特征特征方程前d个特征值为 λ1≥λ2≥λ3…≥λd, 那么对应的特征向量解为, u1, u2, …, ud, 由此得出最佳变换矩阵为, U=[u1, u2, …, ud]。

rank-order距离作为一种新的距离度量方式, 由Zhu^[12]在2011年提出。 rank-order距离是利用数据点间共同的邻近点信息来计算样本间的距离, 在高维空间中两点之间的直线距离不一定准确, 但是加上邻近点的共享信息会极大的提高距离度量的准确性^[13]。 rank-order距离计算步骤如下:

Step1: 计算每个样本点x_i和其他样本点的欧氏距离, 并根据距离的远近排序得到x_i邻近点的顺序表。

Step2: 计算每两个样本点x_i和x_j间的不对称rank-order距离d(x_i, x_j)。 分别定义 fxi(m)为样本点x_i在顺序表中第m个邻近点, Rxi(x_j)表示x_j是x_i在邻近顺序表中第几个邻近点, 即样本点x_j在x_i邻近顺序表中的序号。 则 Rxj( fxi(m))表示的是样本点 fxi(m)在x_j邻近点顺序表中的序号。 因此样本点x_j和x_i的非对称rank-order距离公式如式(4)

d(xi, xj)=∑k=0Rxi(xj)Rxj(fxi(m))(4)

由式(4)可知, d(x_i, x_j)表示的是样本点x_i的几个最近邻点在x_j的邻近点顺序表中所在位置序号的总和, 并且d(x_i, x_j)的值越小, 空间中的样本点的局部邻域信息越准确。

如图1所示, 样本点x_i和x_j之间的非对称rank-order距离为

d(xi, xj)=∑k=04Rxj(fxi(m))=Rxj(fxi(0))+Rxj(fxi(1))+Rxj(fxi(2))+Rxj(fxi(3))+Rxj(fxi(4))=6+2+0+3+5=16(5)

图1

Fig.1

	Figure Option ViewDownloadNew Window
	图1 样本点xi和xj共享邻近点信息Fig.1 Shared neighbor information of sample points xi and xj

Step3: 将Step2中计算得出的不对称rank-order距离进行归一化, 可得对称的rank-order距离为

dR(xi, xj)=d(xi, xj)+d(xj, xi)min(Rxi(xj)+Rxj(xi))(6)

为了能准确地找出样本的邻近点, 提出了基于核映射和rank-order距离的局部投影(KRLPP)算法, 先通过核变换将数据集映射到更高维的空间, 同时引入rank-order距离替换欧氏距离, 通过共享局部邻近点的信息来重新度量样本点的相似关系, 以此提高低维空间中相似性度量结果的精度。

KRLPP算法步骤如下:

Step1: 将近红外光谱数据矩阵X中每个样本通过高斯核函数 K(m, n)=exp‖m-n‖22σ2进行核变换 x→Φ(x)[14],

非线性映射到希尔伯特空间H中。由核函数 K=Φ(X)TΦ(X)可得 K(xi, xj)=< Φ(xi), Φ(xj)> =Φ(xi)TΦ(xj)。

Step2: 根据1.2中算法的描述计算得出矩阵中任意两点间的rank-order距离 dR< Φ(xi), Φ(xj)> ,并以 dR< Φ(xi), Φ(xj)>寻找样本点的邻近点。

Step3: 在H空间中, 最小化目标函数, 则式(3)可写为

Φ(X)LΦ(X)Tu=λΦ(X)DΦ(X)Tu(7)

用核变换后的核矩阵 K=(Kij)表示式(8)为

KLKu=λKDKu(8)

核矩阵K为半正定矩阵。

求式(8)的前d个广义特征值及特征向量得到最佳变换矩阵, 并求出低维映射矩阵Y。

Step4: 对于降维得到低维特征矩阵Y, 通过欧氏距离进行相似样本点的寻找, 样本个数自行设定。 相似点的距离度量公式作为相似度的度量标准定义如式(9)

W(xi)=mind1, 2, …, l(xi, xj)=‖xi-xj‖L2(9)

选取2017年—2019年300个用于调配卷烟配方的单料烟和1个需要维护的某品牌卷烟叶组配方(叶组配方是专家根据各种烟叶的主要化学成分、 物理特征及感官等品质因素, 将不同的单料烟按照一定原则和比例配制而成具有特定吸味风格和品质要求的卷烟产品)。 将烟叶样品放置于60 ℃的烘箱中干燥4 h, 用旋风磨磨碎过40目筛, 密封平衡后进行光谱数据的采集。

选用尼高力公司的Antaris Ⅱ 近红外光谱仪, 扫描范围为4 000~10 000 cm^-1, 分辨率为8 cm^-1。 每个实验样品称重15 g, 放于在样品杯中用压样器压实进行光谱采集, 室温保持在18~25 ℃, 为减少不确定性, 每个样品扫描3次, 取平均值作为该样品的最终光谱。

为消除高频噪声和基线漂移等对光谱造成的影响, 选取二阶导数加Savitzky Golay平滑对光谱进行预处理。

烟叶中总烟碱、 总糖、 还原糖、 总氮等化学成分^[15]及感官质量对烟叶的品质有重要影响, 本研究主要以化学成分及感官评吸打分两种方式对替换前后的烟叶和叶组配方进行了对比。 其中化学成分通过近红外方法检测三次取平均值得出, 感官评吸由10位配方专家组成感官质量评价小组, 依据YC/T 497—2014《卷烟中式卷烟感官评价方法》, 对烟叶的香气、 烟气、 口感特性(各占比40%, 40%和20%)分别打分, 总分为百分制。 同时为了更直观的展示替换前后烟叶及叶组配方的总体质量差异, 以0.5为梯度进行质量特征差异评价打分, 评价标准如表1所示。

表1

Table 1

表1(Table 1)

表1 总体质量评价标准 Table 1 Evaluation criteria of overall quality 质量偏差档次 质量偏差描述 0 无 1 轻微 2 略有 3 有 4 稍大 5 较大

表1 总体质量评价标准 Table 1 Evaluation criteria of overall quality

近邻点个数k和降维后的维数d为LPP算法中两个重要的参数。 k取值过大会使部分重要的邻域结构信息被忽略, 取值过小得到的邻域信息会比较局限; d选取过大则可能会包含较多的噪声信息, 在以往的算法中, 往往都是根据经验选择, 因此不同参数的选取对降维结果的影响颇大。 本工作根据降维前后数据集信息残差的变化来确定参数。 残差的计算公式如式(10)

R=1-ρ(DX, DY)(10)

式(10)中, D_X和D_Y分别为降维前后数据的距离矩阵, ρ 为两者的线性相关系数, ρ 越大, 代表高维数据降维之后得到的D_Y的信息量越大。 图2为选取不同k值和d值的残差图。

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 不同参数取值残差图Fig.2 Residual diagram with different parameter values

可以看出, 当k值为6, d为3时, 残差最小, 表示此时映射到低维空间的特征矩阵获得最大的信息量。

针对烟叶光谱数据的内在规律提取和相似性度量, 有学者提出了改进邻域的局部保持投影方法INLPP, 将类别信息参数加入到距离计算中, 对于不同香型风格的烟叶有较好的区分效果。 图3为分别采用PCA, LPP, INLPP和KRLPP对烟叶光谱数据进行降维的投影效果对比。

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 PCA, LPP, INLPP和KRLPP算法降维投影图Fig.3 Dimensionality reduction projection of PCA, LPP, INLPP, KRLPP algorithms

不同部位的烟叶在化学成分、 质量方面存在较多的差异, 烟叶能提供的香味与部位间存在直接的相关性, 因此配方设计和维护中配方人员要充分考虑烟叶部位的差异。 由图3投影图可以看出, PCA算法无法有效区分上、 中、 下不同部位的烟叶, LPP算法对于区分不同部位烟叶边界仍明显存在交叉现象, INLPP算法对于部位的区分效果明显优于PCA和LPP算法, 但是中部和下部还是有少部分重叠的区域, 而KRLPP算法对于烟叶上部、 中部、 下部三部分区分边界较为明显, 降维效果优于INLPP方法。

为进一步验证投影结果的有效性, 表2为分别采用PCA, LPP, INLPP和KRLPP四种算法进行特征提取, 使用SVM分类器建立不同部位烟叶的分类模型正确识别率的对比。

表2

Table 2

表2(Table 2)

表2 不同降维算法烟叶部位分类结果对比 Table 2 Comparison of the classification results of tobacco stalk position based on different dimensional reduction algorithms 算法 正确识别率/% PCA 66.2 LPP 77.6 INLPP 87.8 KRLPP 91.2

表2 不同降维算法烟叶部位分类结果对比 Table 2 Comparison of the classification results of tobacco stalk position based on different dimensional reduction algorithms

由表2可以得出, 由KRLPP算法进行降维操作后的烟叶光谱不同部位的识别率为91.2%, 明显高于其他算法, 说明该方法对于烟叶部位分类信息特征提取更为有效。

从卷烟叶组配方中选取5个代表性烟叶作为目标替换烟叶, 然后分别采用PCA, LPP和KRLPP方法从300个用于配方维护的烟叶样品中为每个目标烟叶寻找相似烟叶, 用于叶组配方中原料的替换。 其中LPP和KRLPP用于降维的参数选择保持一致, PCA选择前6个主成分。

为了验证实验结果的准确性, 本文采用化学成分和感官评吸打分两种评价方式, 分别从替换前后的单料烟和叶组配方两个角度进行了评价, 从而保证了配方维护结果的可靠性。

3.3.1 单料烟替换前后评价结果对比

表3列出了1个目标烟叶分别采用PCA, LPP和KRLPP三种方法, 根据相似度计算标准, 从单料烟度量角度选出的3个替换烟叶与目标烟叶的化学成分和感官评吸结果对比。 其他4个目标烟叶的替换推荐结果与该表所列的结果类似, 不再详细列出。

表3

Table 3

表3(Table 3)

表3 替换烟叶与目标烟叶评价结果对比 Table 3 Evaluation comparison of replacement tobacco and target tobacco 方法 单料烟 烟叶相 似性 化学成分/% 感官特征 质量差异 总烟碱 总糖 还原糖 总氮 香气特征 烟气特征 口感特征 总分 目标烟叶 - 2.24 25.51 21.83 1.97 35.1 34.4 15.0 84.5 - 替换烟叶1 10.8 2.42 25.62 21.94 1.92 34.8 34.0 14.7 83.5 1.5 PCA 替换烟叶2 11.2 2.44 25.65 21.92 1.91 34.7 34.1 14.6 83.4 2.0 替换烟叶3 11.5 2.44 25.64 21.89 2.03 34.8 33.9 14.7 83.9 2.5 替换烟叶1 9.27 2.32 25.54 21.86 1.94 34.9 34.2 14.8 83.9 1.0 LPP 替换烟叶2 9.56 2.34 25.56 21.86 1.93 34.8 34.1 14.8 83.7 1.5 替换烟叶3 9.73 2.36 25.57 21.87 1.93 34.9 34.1 14.7 83.7 1.5 替换烟叶1 4.54 2.22 25.52 21.83 1.96 35.1 34.4 15.0 84.5 0 KRLPP 替换烟叶2 7.90 2.20 25.53 21.84 1.95 35.0 34.4 15.0 84.4 0 替换烟叶3 7.78 2.18 25.52 21.82 1.95 35.0 34.4 14.0 84.4 0.5

表3 替换烟叶与目标烟叶评价结果对比 Table 3 Evaluation comparison of replacement tobacco and target tobacco

由表3可得, 三种方法所选出的替换烟叶与目标烟叶从化学成分和感官特征两方面皆有较小的偏差。 其中由PCA算法选出的替换烟叶较目标烟叶偏差相对略大, LPP次之, KRLPP偏差最小。 特别是KRLPP算法选出的3个替换烟叶, 在总糖、 还原糖、 总烟碱、 总氮等化学成分指标以及香气、 烟气、 口感等感官特征上与目标烟叶非常接近。 说明该方法在卷烟配方维护中寻找相似烟叶的效果最好。

3.3.2 叶组配方替换前后评价结果对比

烟叶有效替换是配方维护的重要环节, 但由于烟叶的种植受气候、 土壤、 栽培甚至是年份的影响, 为保证产品质量的稳定性, 通常要根据原料库存等实际需要对配方进行调整, 寻找相似度高的替换烟叶决定了最终配方维护的稳定性和一致性, 因此从叶组配方整体角度对比替换前后的配方产品评价更能体现配方的维护效果。

表4为采用PCA, LPP和KRLPP方法选出的3个替换烟叶(表3结果), 从叶组配方整体角度使用上述替换烟叶对目标烟叶进行替换, 从而调配生成3个不同的替换配方与原配方的化学成分和感官评吸结果对比。

表4

Table 4

表4(Table 4)

表4 替换配方与原配方评价结果对比 Table 4 Evaluation comparison of replacement formula and original formula 方法 叶组配方 烟叶相 似性 化学成分/% 感官特征 质量差异 总烟碱 总糖 还原糖 总氮 香气特征 烟气特征 口感特征 总分 原配方 - 2.23 25.53 21.87 2.00 36.4 34.7 16.0 87.1 - 替换配方1 10.8 2.42 25.61 21.98 1.98 36.1 34.5 15.7 86.4 1.5 PCA 替换配方2 11.2 2.43 25.66 21.95 1.96 36.2 34.4 15.8 86.4 1.5 替换配方3 11.5 2.45 25.65 21.93 2.06 36.1 34.4 15.7 86.2 2.0 替换配方1 9.27 2.31 25.55 21.89 1.98 36.3 34.7 15.9 86.9 1.0 LPP 替换配方2 9.56 2.34 25.56 21.91 1.97 36.2 34.7 15.7 86.6 1.5 替换配方3 9.73 2.37 25.58 21.90 1.97 36.3 34.6 15.8 86.7 1.0 替换配方1 4.54 2.22 25.53 21.87 2.00 36.4 34.7 16.0 87.1 0 KRLPP 替换配方2 7.90 2.20 25.54 21.86 2.00 36.4 34.6 16.0 87.0 0.5 替换配方3 7.78 2.20 25.52 21.87 1.99 36.3 34.7 16.0 87.0 0.5

表4 替换配方与原配方评价结果对比 Table 4 Evaluation comparison of replacement formula and original formula

由表4可得, KRLPP算法所得的替换配方在化学成分和感官指标上较PCA和LPP最接近于原配方, 尤其是替换配方1, 各种指标几乎相同, 配方质量差异最小, 说明该方法得到的度量结果准确度最高。 主要原因是该方法经过核变换和rank-order距离改进, 使得高维数据在降维之后更能有效的保持局部邻域信息, 因此相似性度量结果的稳定性和准确性更好, 该方法能更有效地指导烟叶的配方设计与维护工作。