分子间相互作用是基团或分子间除去共价键、离子键、和金属键外一切相互作用力的总称。超分子通常指分子依靠分子间相互作用结合在一起,组装成复杂的、有组织的聚集体,并保持一定的完整性,使其具有明显的微观结构和宏观性质。分子晶体及超分子晶体的宏观性质一方面由分子的结构决定,另一方面也和分子的排列方式有关。连接单个分子的分子间相互作用在很大程度上决定了晶体的机械性能、电学和光学性质。因此研究分子间相互作用可以找到物质结构和性质之间的关系。高压实验对研究分子间相互作用非常适合:（1）高压可以在不改变物质化学组分的情况下压缩分子间的距离;（2）分子间相互作用的能量较弱,在高压的作用下比较容易发生变化;（3）金刚石对顶砧（DAC）的应用可以对高压状态下的样品进行原位测量。本论文以研究高压下超分子晶体中分子间相互作用为出发点,主要研究了氢键和卤键这两种常见的分子间相互作用在高压下变化。我们选择了三种典型的氢键型和卤键型的超分子晶体,通过原位高压拉曼光谱、原位高压同步辐射X光衍射技术和第一性原理计算等手段来研究它们的晶体结构和分子排列方式在高压下的改变,取得了以下创新性的结果:利用金刚石对顶砧装置、原位高压拉曼光谱和原位高压同步辐射X光衍射技术对氢键超分子晶体三聚氰酸?三聚氰胺（CA·M）进行了高压研究,实验最高压力为15.8 GPa。我们首先从光学观察中可以看到透明的CA·M单晶在4.4 GPa左右会突然破碎,说明在这个压力下有可能发生了相变。我们又对CA·M进行了拉曼光谱的研究,发现拉曼光谱在4.4 GPa左右也发生了很大的变化。所以我们认为CA·M单晶样品在4.4 GPa左右确实有相变的发生,高压相可稳定存在到本实验的最高压力15.8 GPa。相变后很多拉曼峰的劈裂说明高压相的对称性应该比初始相的对称性低。高压同步辐射X光衍射实验证实了CA·M的相变,并确定了它是由空间群C2/m到P21/m的相变。通过第一性原理的计算机模拟,我们讨论了相变机制并给出了氢键超分子网状结构的高压模型,此相变应归因于氢键网状结构的改变所引起的超分子结构重新排列。需要注意的是这个压致相变是不可逆的,完全卸压后高压相可稳定保存到常压。利用金刚石对顶砧装置、原位高压拉曼光谱和原位高压同步辐射X光衍射技术对氢键超分子晶体三聚氰胺·硼酸（M·2B）进行了高压研究,实验最高压力为18 GPa。与三聚氰胺分子晶体的高压相变和硼酸分子晶体的压致分解不同,M·2B氢键超分子晶体在高压下经历的是一个可逆的压致非晶化过程。通过分析M·2B的晶体结构和氢键结构,我们认为此压致非晶化是由于高压下M·2B的氢键网状结构的扭曲所导致的,压致非晶化的机制在于晶体中分子的紧密堆积和长程有序的相互竞争。同步辐射X光衍射结果表明M·2B在高压下表现出很大的压缩率和各向异性,这是由于氢键的扭曲和准层状的分子排列所致。另外,M·2B中的氢键的拉曼振动峰在高压下表现出红移的特性,这与我们的计算结果和氢键在高压下的变化规律相一致。利用金刚石对顶砧装置、原位高压拉曼光谱和原位高压同步辐射X光衍射技术,结合第一性原理计算,对三聚氰氯晶体的晶体结构和卤键相互作用进行了高压研究,实验最高压力为30 GPa。原位同步辐射X光衍射研究结果表明,三聚氰氯在30 GPa的压力范围内没有发生明显的结构相变,说明卤键是一种有效的分子间相互作用,尤其是多重卤键的共同作用。另外,三聚氰氯晶体在高压下有着较大的压缩率和明显的各向异性,这和它的层状晶体结构有着很大的关系。原位高压拉曼光谱结果表明,高压下大部分的拉曼振动峰都是蓝移,而分子环面外的振动峰却有着明显的红移,这是因为高压下三聚氰氯中一个卤键键角保持180°不变,而另外一个卤键的键角一直在减小,导致了卤键连接的分子面在高压下采取了鱼鳞状排列。在本研究中,我们利用第一性原理计算很好的解释了实验结果和高压下的卤键相互作用。