团队科研成果分享-06
2022-9-12 16:12:6 Author: 网络与安全实验室(查看原文) 阅读量:22 收藏

团队科研成果分享

2022.09.12-2022.09.18

标题:  A Lightweight Specific Emitter Identification Model for IIoT Devices Based on Adaptive Broad Learning

期刊: IEEE Transactions on Industrial Informatics

作者: Zhengwei Xu, Guangjie Han, Li Liu, Hongbo Zhu, and Jinlin Peng.

分享人: 河海大学——徐政伟

01

研究背景

BACKGROUND

研究背景

目前国内外SEI技术的研究在辐射源指纹特征提取和分类识别方面获得了丰硕成果,但是由于电磁环境越来越复杂化,各类辐射源设备迅速更新换代,传统辐射源识别方法已经无法满足现代通信领域对于SEI的性能要求。深度学习因其端到端的识别方式以及强大的特征提取能力成为SEI领域的主流方法。但是该类方法通常需要大量的计算资源和模型训练时间,主要原因有:1)模型存在大量的参数、超参数导致固有的计算量大;2)依赖反向传播更新权重参数,计算效率低;3)当模型架构改动时需要重新训练模型,导致资源浪费严重。目前已有一些工作,如采用剪枝、知识蒸馏等方式降低计算量,构建轻量级的SEI模型,但是并不能从根本上解决深度学习(Deep Learning,DL)方法的固有缺陷。

02

关键技术

TECHNOLOGY

关键技术

为了解决上述问题,本方案首先提出了一种基于自适应宽度学习的轻量级辐射源个体识别模型。相较于深度,宽度学习的结构是一种根本性的颠覆,它可以有效解决深度学习的固有缺陷:其结扁平形的设计可以避免过量的冗余节点,降低了需要计算的参数量;使用伪逆求解权重,过程是一步到位,避免了深度学习方法的反复迭代求解权重参数;其架构是可扩展的,当需要新增节点时,可以通过已有权重计算新的权重,从而避免了场景更新后需要重新训练模型的问题。本方案提出的自适应的宽度学习方案进一步解决了传统宽度学习需要人工确定特征节点和增强节点的问题,优化了模型构建需要调参的问题。

03

算法介绍

ALGORITHMS

算法介绍

1. 系统模型

图1为轻量级辐射源识别系统模型的示意图,可分为三个步骤:首先,采集设备收集辐射源信号。然后,将采集的信号样本进行预处理以匹配自适应宽度学习网络的输入格式。最后,采用本方案设计的自适应宽度学习网络从信号样本中提取射频指纹信息,并对辐射源进行分类。

图1 轻量级辐射源识别系统模型示意图

2. 数据预处理

设定辐射源发射的数据是I/Q调制信号,由I载波和Q载波组成,其中Q载波是通过将I载波旋转90度获得:

其中,A表示振幅,φ代表频率。但是宽度网络仅支持实数域,所以需要将I载波和Q载波合并:

其中xi为第i个输入样本,k代表每个信号样本中包含的符号总数。通过这种方式将复数信号转换为宽度网络支持的实数信号。

3. 自适应宽度学习网络模型

自适应宽度学习网络包括特征、增强和输出节点,如图2所示。设定处理后的I/Q信号样本数据集为X,作为模型的输入。模型的输出为Y属于RN*C,其中N代表数据集中样本的个数,C代表需要识别的辐射源的总数。则第i个特征映射节点Zi可以计算为:

其中Wei和βei是特征节点的权重和偏置。它们是以随机的方式生成的。δ(*)为Sigmoid线性激活函数。

图2 自适应宽度学习网络模型

求得特征节点后,为了进一步表征信号特征,需要构建增强节点:

其中δ(*)为sigmoid激活函数,这里需要注意的是,根据信号的特征不同,可以选择不同类型的激活函数。此外,δ(*)可以为不同类型的激活函数。Whm和βhm是以随机方式产生的权重和偏置。

本方案构建模型的输出可以表示为:

其中Y是训练阶段样本的标签。所以权重矩阵Wm可以表示为:

其中[Am]+是Am的伪逆,由于Y和Am是已知的,所以可以通过伪逆求解权重矩阵,从而得到初始化的宽度网络。

4. 节点增量扩展

由于增加节点数目后会改变宽度网络的整体架构,从头训练模型会造成资源浪费,所以本方案考虑在已有模型的基础上计算新的特征参数。当在模型中增加特征节点时,其表征形式更新为:

对应更新的增强节点可以表征为:

所以增加特征节点后与对应的特征节点,其整体表征形式更新。更新后的伪逆可以计算为:

最终权重矩阵可以更新为:


对于主流的基于深度学习的辐射源个体识别模型,如果它们改变了网络结构,例如增加了滤波器或层的数量,则需要重新训练模型的所有参数。在所开发的自适应宽度学习网络中,采用了增量扩展方法,因此在添加新的特征映射时,模型只需训练新添加的部分,而不需要从头开始。

5. 自适应结点扩展

采用自适应节点增加策略确定最优的特征节点数目,节点数量与模型精度的关系如图3.5所示。设第t次增量任务中,增加特征节点的数目为xt个,每个特征节点对应需要增加k个增强节点,其总数为xt×k个。通过结点增量扩展方式更新模型,此时其识别精度为axt。令xt+1=xt,表示在t+1次增量任务中,增加的特征节点数,此时增加的对应的增强节点数目为xt+1×k。此时其识别精度为axt+1。比较t时刻与t+1时刻模型的精度,若模型性能提升,即axt+1> axt则继续重复该过程。反之则将模型回档至t时刻,令xt+1=1/2xt,继续通过上述方式判定模型性能是否提升,直到xt+1<δx,其中δx表示每次增加特征节点的最小阈值。当该条件触发后,结束特征节点增量任务,此时模型中的特征节点数目为最优数目。

图3 节点数目与模型精度关系示意图

当确定特征节点的数量时,可以通过继续增加增强节点以进一步的提升模型性能。设第i次增量任务,增加的增强节点数目为ui个。通过节点增量扩展更新模型,此时的识别精度为aui。同理,令ui+1=ui,表示在i+1次增量任务中,增加的增强节点数。比较i时刻与i+1时刻模型的精度,若模型性能提升,即aui+1>aui则继续重复该过程。反之则将模型回档至i时刻,令aui+1=1/2aui,继续通过上述方式判定模型性能是否提升,直到ui+1<δu,其中δu表示每次增加特征节点的最小阈值。当该条件触发后,结束增强节点的增量任务,此时模型中的增强节点数目为最优数目。

传统的宽度学习网络需要人工确认最优节点数目,调参过程不可避免的会导致大量计算资源的浪费以及训练时间的大幅度延长。本方案提出的方法可以有效的避免上述问题。

04

实验结果

EXPERIMENTS

实验结果

本方案将提出的ABL方法的性能与其他四种最先进的基于深度学习的SEI方法进行了比较,分别为轻量级自动调制分类(Lightweight Automatic Modulation Classification, LightAMC)、深度信号网络(Deep Signal Network, DSN)、多采样卷积神经网络(Multi-Sampling Convolutional Neural Network, MSCNN)和卷积神经网络(Convolutional Neural Network, CNN)。此外,选取了两种基于手动特征提取的SEI方法,即希尔伯特黄变换 (Hilbert–Huang Transform, HHT)和等势星座图(Contour Stella Image, CSI)用作对比方法以进一步验证本方案方法的优越性。

对于所提出的自适应宽度学习网络,使用Sigmoid函数构造增强节点,随机选择80%的样本训练模型,20%的样本测试性能。此外,本方案在ADS-B数据集上采用10、20、30、40和50个类别验证ABL增量性能。若仿真实验中连续20个周期内模型的精度没有进一步提升,则模型停止训练。模型仿真结果分别列于表1和表2。

表1 ABL和对比算法在ADS-B数据集的识别率(%)

表1列出基于ADS-B数据集自适应宽度学习和其他对比SEI方法的识别精度。当类别数为10时,ABL的精度仅低于MSCNN。在其他情况下,自适应宽度学习优于对比方法。可以发现,随着类别数量从10增加到50,自适应宽度学习始终可以保持较高的识别精度。当类别数增加到50个时,所有对比方法的准确率都低于90%,所提出的自适应宽度学习网络仍能保持91.23%的准确率。这是因为,当添加新的发射器和信号样本时,如果不加深基于深度学习的SEI模型中的网络层,性能会下降,但本方案提出的自适应宽度学习方法可以根据需求动态调整结构,在一定程度上避免了上述问题。

表2  ABL和对比算法在ADS-B数据集的训练时间(秒)


从表2可以看出,在ADS-B数据集上ABL的训练时间非常短,当类别数从10增加到50时,训练时间的增长幅度只从5.16s增加到了50.05s,远优于其它对比算法。这是因为它的参数是通过伪逆运算直接获得的而不需要反向传播。此外,随着类别数的增加,ABL在训练时间方面的优势更加明显。相较之下,基于深度学习的SEI方法需要通过反向传播更新参数,传统SEI方法需要通过专家经验对数据进行特征提取,均需要花费大量的时间才能完成模型的训练。

表3列出了在XSRP数据集上基于ABL和其他比较SEI方法的测试精度和训练时间。可以发现ABL的精度低于DSN、MSCNN和LightAMC。这是因为XSRP数据集中的每个样本都比ADS-B数据集中的样本有更多的采样点,这使得它包含更多的冗余信息。在这种情况下,具有多层网络结构的基于DL的方法比ABL方法具有更强的特征表示能力。但从训练时间的角度进行分析,ABL的训练时间仍然比基于DL和手动特征提取识别方法短得多,仅需31.59秒。这表明,所提出的ABL方法在资源受限场景中仍然具有很高的实用价值。

表3 基于XSRP数据集ABL与其他识别方法性能比较


另外,本方案验证了ABL网络在不同SNR条件下的鲁棒性。为此,本研究采用MATLAB的agwn函数在原始ADS-B信号样本中添加高斯白噪声。图4.1显示了在SNR在{-5,0,5,10,15,20}范围内时上述方法的识别精度。图4.1(a)-4.1(e)对分类数分别为10、20、30、40和50的ADS-B数据集进行测试。可以看出,当SNR小于5dB,ABL网络的识别精度仅低于MSCNN。在其他情况下,ABL方法的性能优于对比方法。当信噪比等于0dB时,ABL的识别率稳定地保持在80%以上。在这种情况下,随着类的数量增加,基于深度结构的方法的性能持续下降。此外,可以观察到,当SNR大于5dB时,ABL很少受到高斯白噪声的影响。

图4 不同SNR下的性能比较

05

总结

CONCLUSION

总结

辐射源个体(SEI)是一种通过区分发射器发送信号的特征,识别不同个体的技术。通过作用于互联网的物理层,可以有效提高工业物联网(IIoT)的安全性。目前,对SEI的研究集中于深度学习(DL)模型,该类方法以端到端的方式从原始信号中自动学习发射器的固有特征。但该类模型往往具有大量的超参数并依赖方向传播更新网络参数,导致其计算成本非常高昂,这限制了基于DL的SEI模型在某些计算资源受限场景中的应用。为了解决这个问题,本文提出了一种自适应宽度学习(ABL)来构建轻量级SEI模型。在所提出的模型中,原始信号样本被映射到特征节点,发射器表示为输出节点。隐藏节点通过宽度网络直接连接到输出节点。通过这种扁平结构,可以有效地减小模型的尺寸和计算量。为了进一步节省计算成本,本文进一步设计了一种自适应节点扩展策略,用于快速获得模型的最优超参数。最后,通过在真实场景中构建的ADS-B数据集上测试,验证了本文方法的有效性。

END

扫描二维码关注我们

==河海大学网络与安全实验室==

微信搜索:Hohai_Network

联系QQ:1084561742

责任编辑:何宇


文章来源: http://mp.weixin.qq.com/s?__biz=MzI1MTQwMjYwNA==&mid=2247494114&idx=1&sn=630184d193be43415cd6c5515e4f9757&chksm=e9f129e1de86a0f727bcad0f9855d2069509b5e30e3a4089df5e0bd7f3a3eb50bea1a6f7b072#rd
如有侵权请联系:admin#unsafe.sh