张量广泛应用于信号处理、大数据科学、高阶马尔科夫链、机器学习和量子计算等领域中。近年来，张量特征值问题被提出并受到人们广泛关注和研究，它在齐次多项式系统、超图谱理论、超图划分、自动控制、图像处理、高阶马尔科夫链和多项式优化等领域有着重要应用。非线性系统是重要的动力学系统。稳定性是系统的一个基本属性，是系统理论研究中的重要问题，使用张量特征值研究非线性系统稳定性是一个新的研究课题，对系统的理论研究有重要意义。
　　张量乘积是张量基本运算，应用在众多的张量问题的研究中。本文首先用映射的方法研究了张量乘积，给出了具有更广泛意义的张量乘积和一些性质。由于张量特征值是张量的特征多项式的根，而特征多项式是由高次方程组的结式定义的，所以迄今还没有很好的方法来计算张量特征值。本文主要研究张量特征值理论及其在非线性系统稳定性中的应用，给出了张量特征值的包含集和谱半径的一些界，进而给出张量正定性的一些判别定理，这对后续研究张量特征值在非线性系统稳定性中的应用具有重要意义。主要工作如下：
　　利用映射的分段复合，定义了具有更广泛意义的张量乘积运算问题。给出了张量的两类乘法及乘法的结合律等性质，这两类乘法推广了张量一般积、爱因斯坦乘积和n-模积等。给出了quiver的张量表示的性质，利用quiver的张量表示给出了张量特征值的新的性质；
　　给出了随机张量和不可约张量的Brauer-型特征值包含集定理。给出了张量一般积的Ger(s)gorin-型、Brauer-型和Brauldi-型特征值包含集定理。多项式的正定性对非线性系统稳定性的研究具有重要作用，而齐次多项式的正定性就是张量的正定性。本文利用张量的特征值包含集给出了张量正定性的一些判别定理；
　　将非负矩阵的Minc-型谱半径的界的结果推广到张量，给出了非负张量的Minc-型谱半径的界，并利用它得到了张量正定性的判别定理。给出了非负弱不可约张量的广义极大极小定理。利用张量A和B的特征值，刻画了张量一般积A·B的谱半径的界；
　　提出了非线性多项式系统的张量表示方法，并利用该张量构造了系统的李雅普诺夫函数，进而结合张量特征值和李雅普诺夫稳定性定理分析了该系统的稳定性，给出了两类非线性多项式系统(张量系统)是李雅普诺夫意义下稳定、渐近稳定和不稳定的一些充分条件。