非凸优化（nonconvex optimization），理学-计算机科学技术-计算机科学理论-数值计算-离散连续混合优化，相对于凸优化而言的一类一般的优化问题。非凸优化针对于传统的最小化问题，其目标函数一定不是凸函数。实际问题中产生的优化模型一般都是非凸优化。例如，压缩传感中的零范数最小化问题：式中；表示向量的非零分量的个数；。这就是一个典型的非凸优化问题，在稀疏优化、图像处理、机器学习中有着重要的应用。非凸优化一般都是NP-难问题，求解非常困难，给科学工作者带来了极大的挑战，也是优化领域当下最热门的研究重点之一。