稀疏学习(sparse learning),理学-计算机科学技术-人工智能-机器学习-特征学习-特征选择,能得到稀疏模型的机器学习范式。一个模型是稀疏的,是指模型的参数是稀疏的,即模型参数中的元素大部分为0。为了得到稀疏模型,常用的方法是对模型参数采用1-范数来约束或者正则化。稀疏学习常用于线性模型,如果要用于非线性模型,一种常用的方式是基于非线性特征变换。稀疏学习的主要作用是用来进行特征选择以利于模型的解释,同时也可以用来降低模型的复杂度以增强模型的泛化能力。稀疏学习已经被广泛应用于信号处理、计算机视觉和模式识别等领域。 稀疏学习的代表模型之一是Lasso(least absolute shrinkage and selection operator),Lasso是平方损失函数加上模型参数的1-范数作为正则项。除了Lasso,将不同的损失函数加上模型参数的1-范数,能得到不同的稀疏学习模型。早期的稀疏学习模型(例如Lasso)中,1-范数作用于整个参数向量(或者参数矩阵)。后期出现了不同的变种,这些变种常被称为结构稀疏学习。常用的结构稀疏学习包括融合Lasso和组稀疏学习。