超越朗道对称性自发破缺相变理论,物质的拓扑相和拓扑相变理论拓展了凝聚态物理的新领域。在近几十年的发展中,拓扑绝缘体和拓扑超导体的概念和分类逐渐完善。随着空间晶体对称性的引入,高阶拓扑绝缘体的理论也建立起来。由于实际物理系统中存在大量的开放系统,厄米的哈密顿量不再适用,有效的非厄米哈密顿量提供了研究实际系统简单直观的方案。如果一个一维非厄米系统的周期边界能谱具有点能隙,那么其开放边界的能谱中存在大量局域在系统边界的体本征态。这是非厄米系统独有的现象,被称作非厄米趋肤效应。为了解析地描述非厄米趋肤效应,布洛赫能带理论被拓展为非布洛赫能带理论,相应的布里渊区推广为广义布里渊区。在非厄米系统中,由于复能谱的存在,能带简并可能伴随着奇异点的出现,这也是厄米系统中不存在的。由于非厄米系统的这些新奇特性,对非厄米系统特性的研究成为近期国际凝聚态理论研究的前沿领域之一。在该研究领域中,我们系统地、解析地研究了非厄米系统开放边界能带、本征态以及简并和奇异点的一般性质,并得到了一系列有创新性的研究成果。博士论文的结构如下:第1章介绍拓扑绝缘体和高阶拓扑绝缘体的背景知识。基于整数量子霍尔效应、反常量子霍尔效应和量子自旋霍尔效应,拓扑绝缘体和拓扑超导体的概念和分类逐渐建立起来。在引入空间的晶体对称性后,出现了性质更加丰富的高阶拓扑绝缘体。第2章介绍和讨论我们在一维非厄米系统的开放边界一般理论方面的研究工作。在一维非厄米系统中,由于拓扑非平庸的周期边界点能隙的存在,非厄米趋肤效应出现。在开放边界条件下,我们建立了一套系统的一般理论,给出了一维非厄米系统本征能谱和本征态的一般形式。我们发现一维非厄米系统的开放边界能谱由连续能带和孤立能带组成。连续能带给出非布洛赫能带理论,进而给出非厄米趋肤效应的局域体本征态的一般形式;孤立能带多数情况对应拓扑保护的边界态。我们指出一维非厄米系统趋肤效应的拓扑起源和体边对应的拓扑不变量的重要区别。衡量非厄米趋肤效应的拓扑不变量是周期边界能谱的环绕数,而保护拓扑边界态的拓扑不变量则通过非布洛赫哈密顿量的本征态得出。第3章介绍和讨论我们在非厄米系统能带简并和奇异点方面的研究工作。在分析动量空间中的厄米系统无能隙点和非厄米系统奇异点的基本性质后,利用我们自己建立的非厄米系统开放边界的一般理论,我们系统地研究孤立能带和连续能带的简并。我们发现当在简并点处边界矩阵零空间的维度小于简并能带数目时,开放边界能谱的奇异点出现。我们解析地研究了推广的非厄米Su-Schrieffer-Heeger模型的能带简并和奇异点,并且求解了简并零本征能量的本征态。在广义布里渊区和非布洛赫能带理论失效的情况下,我们发现一维非厄米系统存在一类新奇的简并点,在这些点处简并能带的数目与系统的格点数相当,我们把这类点命名为infernal点,我们将一维系统的infernal点推广到四维系统的infernal纽结。第4章介绍和讨论我们在二阶非厄米系统的研究工作。我们构建了嵌套紧束缚形式理论,并用它来解析地研究二阶非厄米系统的局域模。基于一维非厄米系统局域的非厄米趋肤效应体本征态和拓扑边界态,在二维的二阶非厄米系统中,我们严格地分析了二阶趋肤-趋肤（SS）、趋肤-拓扑（ST）和拓扑-拓扑（TT）角局域模的存在,并把嵌套紧束缚形式理论应用于二维非厄米单能带、二能带和四能带模型。我们解析发现二维非厄米单能带模型中存在SS角局域模,二维非厄米二能带模型中存在ST角局域模,二维非厄米四能带模型中存在SS、ST和TT角局域模。我们还给出了角局域模的解析形式和保护它们的拓扑不变量。第5章,对本篇博士论文做了一个总结和展望。