本论文的研究内容主要分为两方面：一方面是硅的新结构和性能的理论研究；另一方面是过渡金属硼化物的新结构和性能的理论和实验研究。研究方法主要分为两方面：一方面采用基于第一性原理计算的CALYPSO晶体结构预测程序搜寻硅和过渡金属硼化物中可能存在的亚稳相，另一方面采用高温高压实验技术合成新型过渡金属硼化物，并对其物理性能进行测试和分析。硅材料太阳能电池在工业上已获得广泛的应用，但是其间接带隙的特点，极大地限制了其性能的提升。尽管人们也在积极的寻找硅的新型同素异形体，但是至今只找到一些间接带隙或者准直接带隙的硅的新结构。本论文通过结构搜索程序搜寻硅的亚稳相，发现了六种具有直接带隙或者准直接带隙的硅的新型同素异形体，分子动力学研究表明这些结构具有良好的高温稳定性。其中五种结构的带隙值位于具有较高光电转化效率的最佳带隙范围内，将这些结构的硅串联起来就可以吸收不同波段的太阳光，有希望应用于串联太阳能电池器件中。通过结构预测程序发现了一种低密度的硅的新型笼型结构T-Si12，这种结构通过Si24十四面体共面连接构成，所有原子都以sp3杂化方式成键。相比已知的笼形结构而言，这种结构中只含有一种多面体，因此结构更加简单。能带结构计算表明，这种结构具有比立方金刚石结构的硅更宽的带隙，位于可见光的范围内，是一种潜在的硅基发光材料。此外，多面体中较大的空隙可以容纳其他金属原子，可以通过填充不同原子来调控其导电性。在过渡金属硼化物中寻找超硬材料是近年来材料研究的一个热点。经过大量的理论和实验研究，人们澄清了过渡金属硼化物晶体结构中长期存在的一些争论，但并没有在中找到超硬材料。硼化物良好的导电性是限制硬度提高的主要原因。通过结构预测程序发现了一种RhB的高压相。在大约22GPa的压力下，RhB由常压下的anti-NiAs型结构转变为更加稳定的FeB型结构，并且FeB型的RhB在常压下也可以亚稳存在，其导电性由良好的金属性变为半金属性。金属性的降低显著地提高了RhB晶体的硬度。化学键中金属性成分的存在对硬度的提高是极为不利的，因此降低过渡金属硼化物的金属性是寻找超硬材料的关键。本论文通过晶体预测程序发现了一种新型半导体性质的tP10-FeB4晶体结构，可以由实验上已知的oP10-FeB4为前驱体通过高压相变获得。tP10-FeB4晶体主要由B-B两中心键和Fe-B-B三中心键组成，其化学键主要由共价键成分和部分离子键成分构成。硬度计算表明tP10-FeB4是一种本征的超硬材料。通过高温高压实验方法合成了一种新型的FeB4晶体；借助XRD、SEM、TEM、拉曼光谱等分析方法确定其晶体结构为人们理论上预测的oP10型结构；其维氏硬度为15GPa左右，与他人的纳米压痕硬度62GPa的结果相矛盾；磁矩和电阻的测量结果没有发现FeB4晶体超导的迹象。此外，在15GPa，低于FeB4的合成温度下，还合成了两种铁硼化合物新相，其中一种具有铁磁性和金属导电性。