近年来，宽带无线接入技术受到了人们的广泛关注。其中，基于IEEE802.16标准的WiMAX技术更是成为关注的热点。在WiMAX系统中，相邻小区之间的同频干扰，是影响系统性能的一个重要因素。本文通过研究WiMAX系统中下行小区间同频干扰的抑制算法，旨在提高WiMAX系统的QoS(Quality of Service，服务质量)性能。 首先，分析了IEEE 802.16协议中定义的子载波配置模式AMC (Adjacent Subcarrier Permutations for AMC，连续子载波配置模式)和PUSC(Partial Usageof Subchannels，子信道部分使用)，并介绍了OFDMA系统中抑制小区间同频干扰的主流算法FFR(Fractional Frequency Reuse，部分频率复用)。 其次，在灵活结合功率分配和频率复用的基础上，通过利用无线信道的时间和频率选择性特点，提出了一种改进型FFR(Enhanced FFR，EFFR)算法，并通过建立WiMAX系统的仿真平台进行了算法的性能比较。仿真实验结果表明：EFFlR算法能在满足一定的系统频谱效率的基础上，有效地提高边缘用户的数据吞吐量和系统的公平性，保障系统的QoS性能。 然后，为了降低同频干扰对于WiMAX系统频谱效率的影响，提出了一种基于历史信息的随机波束成形算法(Historical based Random Beam Forming，HRBF)，并通过结合EFFR算法的特点，进一步提出了优化的EFFR-HRBF算法。该算法对时间、频率、空间和功率等无线资源进行了综合利用。仿真结果表明：HRBF算法能有效地改善系统的频谱效率，而EFFR-HRBF算法可以使系统的频谱效率和边缘用户的吞吐量都得到提高，该算法下系统的QoS性能最优。 最后，对全文的工作进行了总结，并对下一步的工作进行了展望。