基于改进交叉熵损失函数与Transformer的心电信号高风险分类研究

发布时间:2026/7/7 16:46:48
基于改进交叉熵损失函数与Transformer的心电信号高风险分类研究
导读在心血管疾病早期筛查过程中能够有效检测出心电信号中高风险部分对于防止患者发生心跳骤停有重大作用在此背景下我们利用PhysioNet带有高风险标签的心电图小片段数据集(ECG Fragment Database with High-Risk Labels, v1.0.0)进行研究提出了一种基于随机森林特征选择以及 Transformer 分类器的心电图高风险分类算法同时提出一种新的交叉熵损失函数ECGLoss。此损失函数包括焦点损失以及置信度惩罚两部分焦点损失通过对权重放大难以区分样本梯度影响置信度惩罚给低置信度正确分类增加约束使网络更关注边缘样本分类。使用5折分层交叉验证评价此模型性能在ECGLoss与普通交叉熵损失之间比较两者分类准确率及收敛速度。实验结果显示提出的ECGLoss比普通的交叉熵损失有更高的分类准确率说明此损失函数对于心电信号高危分类是有效的。作者信息李嘉言北京工商大学数学与统计学院北京论文详情本文采用的数据集是来自 PhysioNet 的带有高风险标签的心电图片段数据(ECG Fragment Database with High-Risk Labels, v1.0.0)。此数据集共有 537 段心电信号其中高风险样本有 337 个(占 62.8%)低 风险样本有 200 个(占 37.2%)每个样本有 21 个数值型特征以及一个二分类标签。见表 1。我们提出了 ECGLoss由焦点损失项以及置信度惩罚项构成ECGLoss 具有 4 个超参数每个参数的作用以及推荐设置见表 2。采用 5 折分层交叉验证划分数据集保证每一折内各类别比例与整体数据集相同基于全部特征进行 随机森林(n_estimators 100)训练之后根据 Gini 重要性由大到小选取最前面的 20 个特征。前五类重要指标如图 1 所示本文所使用的 Transformer 分类器结构见表 3训练参数详见表 4。表 5 给出了 ECGLoss 和标准交叉熵损失在测试集上分类效果比较。图 2 是两类损失函 数的分类指标对比。图 3 给出了 ECGLoss 在测试集上混淆矩阵。图 4 是两种损失函数在训练过程中所对应的损失的变化情况在第 11 轮时标准交叉熵损失在测试集上的准确率为 97.22%训练损失下降到一定程度后不再下降并且触发早停在第 38 轮时 ECGLoss 在测试集上准确率为 98.15%。为了考察 ECGLoss 的鲁棒性我们在两个重要的超参数即置信度阈值 τ 以及惩罚权重 λ 上做了敏感性实验。在实验中我们通过改变一个参数同时保持另一个参数不变来进行实验然后记录下每次实验得到的平均 Validation Loss、Accuracy 和 F1-score 以及它们的标准差来判断模型性能的稳定性。由表 6 所示的结果我们可以看出ECGLoss 对于这两个超参数而言具有良好的鲁棒性。从实验效果上看ECGLoss 相对于普通的交叉熵损失有两个方面的提升。一个是对分类准确率提高准确率以及 F1 都提高了大约 1%而且假负例也显著下降另一个是训练更加稳定在测试集上的损失曲线比较平稳并且没有明显的过拟合现象。 ECGLoss 缺陷是收敛速度慢需要接近四倍的时间才能获得最优效果这是由于置信度惩罚增加优化难度造成的在使用时可以调节 λ 和 τ 以取得较好效果。原文链接https://doi.org/10.12677/csa.2026.166222