二维拓扑绝缘体又被称为量子自旋霍尔效应绝缘体,是一种受自旋轨道耦合作用影响体态表现为绝缘态,表面态表现为金属态的二维材料。这类材料有希望成为低耗散传输器件的候选材料。本文采用第一性计算原理对于二维功能化修饰的第五主族材料以及第五主族化合物的拓扑性质展开研究。主要研究了以下内容:基于第一性原理计算,在第三章我们证明了羟基（巯基）修饰的锑烯（铋烯）为拓扑绝缘体,记为Sb/BiXH（XH=OH,SH）,SbOH的带隙为330 meV,SbSH的带隙为400 meV,BiOH的带隙为820 meV,BiSH的带隙为850 meV,并提出了一种考虑自旋轨道耦合的紧束缚模型来描述Sb/BiXH的电子特性。我们使用轨道过滤机制来解释Sb/BiXH的拓扑性质:XH基团和Sb/Bi原子发生轨道杂化作用,移除了费米面附近的Sb/Bi-p_z轨道,费米面附近独留Sb/Bi-p_xy轨道,即将平庸的6带晶格能带结构减少为非平庸的4带晶格能带结构,这是Sb/BiXH薄膜成为二维拓扑绝缘体的机理。我们通过计算分析Sb/BiXH薄膜的拓扑不变量Z₂=1和体带隙中的无能隙边缘态来证实了该二维材料的拓扑性质。具有量子自旋霍尔效应拥有较大能隙的Sb/BiXH薄膜有望成为制造在室温下工作的量子器件的理想材料。制备二维拓扑绝缘体需要衬底材料的支持,因此在传统半导体表面上设计二维拓扑绝缘体是有研究意义的。在第四章我们设计了在1/3 Cl原子覆盖的Ge（111）表面外延生长六角结构的锑烯、铅烯的理论模型,记为Sb/Pb@Cl-Ge（111）。结构分析表明Sb/Pb原子在Ge（111）表面形成了稳定的六角蜂窝状的晶格结构,且材料具有拓扑性质。Sb@Cl-Ge（111）的带隙为810 meV,Pb@Cl-Ge（111）的带隙为270 meV。我们用衬底轨道过滤机制解释了其拓扑性质的机理:Cl-Ge（111）衬底有效地去除Sb/Pb的p_z轨道,使它们远离费米能级,仅在费米能级附近留下Sb/Pb的p_x和p_y轨道,这是Sb/Pb@Cl-Ge（111）具有拓扑性质的原因。Sb/Pb@Cl-Ge（111）的理论研究结果为在传统半导体表面上设计二维拓扑绝缘体提供了一种可行的方法,这项研究有望使二维拓扑绝缘体材料在室温下的自旋电子学和量子计算器件中的应用成为可能。在材料制备过程中受到复杂化学环境的影响,二维拓扑绝缘体产生缺陷是无法避免的,这些缺陷会导致空间反演对称性的破缺。在第五章,我们构建了12种氟化甲基功能化修饰的铋烯薄膜(Bi₂C₂H_6-xF_x),通过第一性原理研究表明氟化甲基功能化修饰的铋烯薄膜(Bi₂C₂H_6-xF_x)可以实现量子自旋霍尔效应,谷霍尔效应和自发电极化共存。Bi₂C₂H_6-xF_x薄膜具有1.08 eV的拓扑带隙,拓扑性质对于氟原子的吸附比例具有鲁棒性。由于空间反演对称性的破缺,最强的面外电极化高达0.25×10^-10 C/m,某些Bi₂C₂H_6-xF_x构型在布里渊区的K和K’点处的能带劈裂表现出额外的谷自由度,导致量子自旋和谷霍尔效应的共存。材料的掺杂和表面的化学吸附常使材料具有磁性。在第六章,我们设计了一组具有量子反常霍尔效应的二维X₃Y₂（X=Na和K,Y=As,Sb）薄膜,并分析了该材料的磁性和磁交换机制。第一性原理研究表明Na₃As₂拓扑带隙达到112.7 meV,对于Na₃Sb₂,则达到196.5 meV。我们通过研究陈数（C=1）和手性边缘态证明了X₃Y₂的量子反常霍尔效应性质。X₃Y₂是具有3.0μB磁矩的面外自旋极化的铁磁材料,使用X⁺阳离子的p轨道作为桥梁,实现Y阴离子之间的双交换磁耦合机理。我们还构造了X₃Y₂薄膜放在H-Si（111）衬底上的异质结构,研究发现H-Si（111）是支撑薄膜而不破坏其量子反常霍尔效应的良好衬底。X₃Y₂晶格是具有量子反常霍尔效应的铁磁材料,这表明它在自旋电子器件中具有广阔的应用前景。