大数据的挖掘方法有哪些:分场景选用

大数据的挖掘方法有哪些,主流分为分类、聚类、关联规则、回归、时序分析、异常检测、特征挖掘这七类,分类适合带标签的业务预测,聚类适合无标签数据分组,关联规则用来找事物共现关系,回归用来量化数值变化趋势,时序分析专门处理按时间顺序采集的数据,异常检测用来识别偏离正常分布的样本,特征挖掘用于从原始数据里筛选有效变量;你在数据量小于十万条、字段少于二十个的中小业务场景,优先选用分类和回归,数据没有标注标签、需要自主分组时优先聚类,零售、电商找商品搭配规律优先关联规则,该体系参考中国电子技术标准化研究院2023年《大数据挖掘技术白皮书》,不适合非结构化原始文本直接套用,文本类数据需要先做分词、向量化预处理。

大数据的挖掘方法基础分类与实操

分类是给数据打上预先定义好的标签,训练模型之后对新样本做判定,常用算法包含决策树、随机森林、逻辑回归,你准备训练的时候,要提前划分训练集和测试集,比例大多设置为七比三,标签必须人工整理校验,标签错漏会直接降低模型输出结果的可靠程度。

聚类不需要提前准备标签,依靠样本之间的距离相似度自动划分族群,K-Means是使用较多的算法,使用前你要先确定族群数量K,K值设置不合理会出现分组重叠或者拆分过细的情况,它适合用户分层、货品分组这类没有现成标注的业务。

关联规则挖掘核心是寻找不同项目同时出现的概率,经典算法为Apriori,支持度、置信度、提升度是三个核心判断指标,支持度代表组合出现频次,置信度代表因果关联强度,提升度用来区分随机巧合带来的虚假关联,商超购物篮分析是它最典型的落地场景。

挖掘方法输入要求输出形式算力消耗
分类带标签结构化数据类别判定结果中等
聚类无标签结构化数据数据分组族群较低
关联规则事务型离散数据项目关联规则偏高
回归带标签数值型数据连续预测数值较低

回归方法用来拟合自变量和连续数值因变量之间的关系,线性回归适合简单线性变化,梯度提升回归树可以捕捉非线性关系,它多用于销量预估、价格测算、流量预判,输出结果是具体数值,不是类别标签。

时序分析专门处理带有时间戳的连续数据,ARIMA、Prophet是常用算法,它会拆分趋势项、周期项、噪声项,你做流量预测、设备指标监控时会高频用到,它的局限是对突发无规律事件的预判能力偏弱。

异常检测用来抓取和大部分样本分布差异明显的数据点,孤立森林、一类SVM是常用方案,风控识别、设备故障预警是它的主流场景,正常样本充足、异常样本稀少的不平衡数据集,选用这类方法会更适配。

特征挖掘负责从海量原始字段里筛选、构造有区分力的变量,方差筛选、互信息计算、特征重要性排序都属于这个方向,它很少单独作为最终挖掘任务,一般作为前置步骤,减少冗余字段,加快后续模型训练速度。

无标签文本、音频、图像这类非结构化数据,不能直接用上面的方法。

敬慕百科汇集百科知识与游戏文化,带你发现世界的每一个精彩角落。

想要了解更多关于大数据的挖掘方法有哪些的文章欢迎访问:百科