非线性模态（nonlinear mode），理学-力学-动力学与控制-振动力学-模态，描述在特定条件下系统响应所包含的单频成分的模态。是模态概念在非线性振动系统中的推广。非线性模态的概念最初由R.M.罗森伯格在1966年提出。针对无阻尼非线性振动系统，他将非线性模态定义为系统的同频或一致运动，系统的各广义坐标同时达到极值和同时通过平衡位置；若各广义位移之间存在线性关系，则称之为相似非线性模态；否则即为非相似非线性模态。这种定义有内在局限性，仅限于无阻尼系统，而且在有内共振情形下，系统可能出现快慢运动破坏了非线性模态所要求的一致性。1991年，S.W.肖和C.皮勒提出了阻尼非线性系统的非线性模态，把相空间的不变流形定义为非线性模态。在这样的定义下，如果初始位移和速度符合某一非线性模态或在该其吸引盆内，随后系统就按该非线性模态运动。通常理解的线性模态是固有模态，它具有模态振动的各自由度同频性、对初始条件的不变性、模态间不传递能量的正交性和系统响应为模态振动的叠加性；复模态不具有不变性。