【二等奖方案】Web攻击检测与分类识别赛题「爆汁大橘少糖」团队解题思路

团队成员来自海康威视研究院，目前从事大数据算法相关的工作，具有丰富的数据挖掘实践经验。曾获得过2022绿色计算大赛数据中心流量时序预测赛道冠军，2022科大讯飞人岗匹配挑战赛冠军，2021 CCF BDCI系统认证风险预测冠军，2021ATEC科技精英赛科技新星榜冠军，2021招商银行FinTech精英训练营冠军，2020链想家计算科技大赛冠军等奖项，对数据挖掘及人工智能有浓厚的兴趣。

团队基于HTTP协议内容相关的字段来识别Web攻击的种类，构建Web攻击检测模型。我们进行了数据探索，并进行多维度的特征工程构造以表征Web攻击模式特点，基于轻量梯度提升树搭建了Web攻击检测模型，同时调整特征与参数，实现鲁棒、高质量的攻击检测，在最终的排行榜测评中得分为0.9727，位列第一名。

Web攻击检测、特征工程、TF-IDF、

梯度提升树

1.1 赛题背景

某业务平台平均每月捕获到Web攻击数量超过2亿，涉及常见注入攻击，代码执行等类型。传统威胁检测手段通过分析已知攻击特征进行规则匹配，无法检测未知漏洞或攻击手法。如何快速准确地识别未知威胁攻击并且将不同攻击正确分类，对提升Web攻击检测能力至关重要。利用机器学习和深度学习技术对攻击报文进行识别和分类已经成为解决该问题的创新思路，有利于推动AI技术在威胁检测分析场景的研究与应用。

1.2 赛题任务与评价指标

参赛团队需要对前期提供的训练集进行分析，通过特征工程、机器学习和深度学习等方法构建AI模型，实现对每一条样本正确且快速分类，不断提高模型精确率和召回率。待模型优化稳定后，通过无标签测试集评估各参赛团队模型分类效果，以F1-score评估各参赛团队模型质量。

整体评价指标的F1-score公式为如下所示，

其中，TP表示为将正样本预测为正的数量，FP表示将负样本预测为正样本的数量，FN表示将负样本预测为负的数量。

2.1 数据概览

本次赛题一共提供了id、method、user_agent、url、refer、body和label共计7个字段，其中id为样本编号列，label为攻击类型的编号，其他5个字段为HTTP协议的内容。

本赛题数据集分为训练集与测试集，训练集包含33219条数据，测试集包含4000条数据。两个数据集都包含5个HTTP协议特征，另外测试集不包含label字段。

2.2 缺失值

首先根据特征字段info图查看空值情况，如图2-1和图2-2所示，训练集字段id、method以及label不存在缺失值，字段user_agent缺失2630条数据，字段url缺失1条数据，字段refer缺失24675条数据，缺失率高达74.27%，字段body缺失12348条数据，而测试集具有相似的情况（字段缺失比例相当），字段id、method不存在缺失值，字段user_agent缺失327条数据，字段url缺失2条数据，字段refer缺失2856条数据，缺失率同样超过70%，字段body缺失1731条数据。

图2-1 训练集信息

图2-2 测试集信息

2.3 探索性分析

本赛题存在样本较不均衡的情况，如下图2-3所示，标签1（SQL注入）具有最多的样本高达14038条，占比高达42.25%，而标签3、4、5具有较小的样本量，其中标签5（XSS跨站脚本）更是只有659条数据，占比仅为1.98%，约为最高占比标签样本的二十分之一。因此后续需要进行相应处理以提升模型的性能。

图2-3 标签分布

对HTTP协议特征字段进行长度统计，如下图2-4所示。可以看到method、refer字段长度一般较小，而user_agent和url的长度中位数分别为48和62.5，body的长度一般较长，中位数达到462。使用预训练模型可能需要注意token的长度限制。

图2-4 字段长度统计

在前述数据探索的基础上，我们进行了多维度的特征提取Web攻击的特征，极大提升模型准确性，主要包括原始特征、常规统计特征、TF-IDF特征以及业务相关特征。

3.1 原始特征

对于数据集的原始特征，method、user_agent、refer属于基数较小的类别变量，我们通过Label Encoder对其直接进行编码，而url、body属于高基数类别特征，我们将这两个特征去除。

3.2 常规统计特征

基于上述数据探索，我们发现该数据集存在较多的缺失，且其缺失程度和标签具有一定的相关性，于是构造了缺失值列和特征。

对于每个类别字段，我们都进行计数统计，来描述每个类别的出现频繁程度。

3.3 TF-IDF特征

HTTP协议内容相关字段也可以被视作一种特殊文本，对其进行TF-IDF统计有助于在不考虑语义信息的情况下提取不同文本中重要的字词，从而对Web攻击进行表征。

TF-IDF^【2】的具体公式如下所示：

其中，n表示某个词在文档中出现的次数，N表示文档中所有词出现的总和，这是一个归一化的过程，目的是消除文章篇幅长短上的差异。D表示语料中所有文档的总数，d表示语料中出现某个词的文档数量。TF-IDF为两者的乘积。用TF-IDF可以弱化常见词，保留重要的词。

对于TF-IDF生成的高维稀疏向量，我们主要有三种处理方法，第一种是直接将该特征送入树模型，第二种是通过SVD等方法进行降维再作为特征送入树模型，第三种则是通过简单的线性模型对TF-IDF矩阵进行学习，得到预测概率作为特征送入树模型。第一种方案效果与第三种效果相当但具有耗时巨大的特点，第二种方案则存在降维信息损失，效果相对较差，因而我们最终采取第三种方案来进行TF-IDF特征提取。

对于TF-IDF，依然有许多细节要明确，首先我们采取的方式是以char为单位的，通过1-3Gram以及4Gram分别进行特征提取，最终将他们提取的特征进行拼接。其次，我们处理的文本第一种为原始的url、user_agent以及body，第二种为对这些字段进行逆向处理以及数字泛化处理（连续的数字转化为一个零来表示）。最终将两种处理方式以及两种Gram生成的TF-IDF特征进行拼接。

3.4 业务特征

对于特殊词，例如alert、script、onerror、eval等进行正则匹配与统计计数。对于url字段中最后一个字符进行是否为“/”的判断。对于字符的数字字符频率、大写字母频率进行正则提取^[3]。

对于SQL注入，做进一步的特征提取。包括and、or、xor、inner join、order等关键词的计数提取，对空格占字段的百分比进行统计，对{、}、=、@、*等特殊符号进行百分比统计，对前缀做&、%等字符的百分比统计。

对于XSS静态特征，做进一步的特征提取。包括java、script、iframe等特殊字符的计数提取。

4.1 模型选择

因为赛题的模型限制，我们只采用了具有代表性的梯度提升树模型Lightgbm^[1]进行模型搭建。

4.2 数据集划分

为了保证训练集和验证集正负样本比例与原始数据集相同如图4-1所示，我们采样五折分层交叉验证（StratifiedKFold）的方法进行训练集与验证集的划分。

图4-1：分层交叉验证示意图

4.3 训练细节

我们发现模型在本地验证时多数类错例极少，而几个多数类存在错误率较高的情况。这是因为样本的不均衡情况的存在，模型过多的关注了多数类样本。

因此我们采用给样本加权的方式来进行模型训练，权值来自于各自类别的线下验证评分，线下验证评分越高采用越低的权重，这在线上评测中取得了较大成绩的提升。模型最后训练采用multi-logloss作为早停的评价指标。

感谢我的导师俞颖晔俞工，在比赛中给予了我很多建设性的意见，使我能够在赛题中取得更为突出的成绩。

感谢竞赛主办方提供的平台与机会，感谢360信息安全中心提供的宝贵数据集。

[1] Ke G, Meng Q, Finley T, et al. Lightgbm: A highly efficient gradient boosting decision tree, Advances in neural information processing systems. 2017: 3146-3154.

[2] Jones K S. A statistical interpretation of term specificity and its application in retrieval[J]. Journal of documentation, 1972.

[3]月亮与六便士. Web攻击检测机器学习深度实践.

https://www.freebuf.com/articles/web/205760.html

—End—