稀疏化模型

稀疏模型在机器学习和图像处理等领域发挥着越来越重要的作用，它具有变量选择功能，可以解决建模中的过拟合等问题.Tibshirani提出的Lasso使得正则化稀疏模型真正开始流行.稀疏化模型包含稀疏模型，组稀疏模型，树稀疏模型和图稀疏模型。稀疏模型将大量的冗余变量去除，只保留与响应变量最相关的解释变量，简化了模型的同时却保留了数据集中最重要的信息，有效地解决了高维数据集建模中的诸多问题。稀疏模型具有更好的解释性，便于数据可视化、减少计算量和传输存储。1996年Tibshirani把岭回归估计的L2范数罚正则化项替换为L1范数罚正则化项得到了Lasso(Least Absolute Shrinkage and Selection Operator， Lasso)。L1范数罚具有产生稀疏模型的能力，使用L1范数罚作为正则化项的Lasso具有变量选择功能和变量空间降维功能。