多波束天线技术是实现地面移动卫星通信的有效途径。良好的系统容量分析模型是通信系统设计实现的重要环节，不仅可以为系统设计提供理论依据和参考，还能作为核心指标应用于多波束天线赋形技术的优化以及轴比损耗对系统影响的研究与度量。基于上述背景，本文对多波束低轨卫星通信系统容量进行建模分析，以系统容量为指标，分析了多波束天线轴比损耗的产生及其对于通信系统容量的影响，提出了重排阵元以获得较优系统容量的算法，最后以系统容量为约束条件提出了一种基于容量优化的改进的天线综合算法。本文的主要工作体现在以下几点:　　(1)针对低轨卫星反向链路异步CDMA通信系统多址干扰的影响，建立了星地间反向链路多址干扰模型以及噪声模型。考虑无功率控制、理想功率控制和非理想功率控制三种情况提出了反向链路系统容量的分析模型。仿真并分析了前两种状况下系统用户的平均信噪比，以及第三种情况下功率控制误差对用户平均信噪比低于门限值概率的影响。结果表明天线赋形效果对采用功率控制的通信系统影响较小，而对无功率控制情况存在较大影响。　　(2)针对阵列天线合成波束轴比的影响，提出了一种适用于六边形阵的基于各阵元轴比分析合成波束轴比的方法，分析了阵列天线轴比损耗的计算方法及其对实际合成波束方向图的影响，研究了以用户平均信噪比损失作为计量手段分析轴比损耗影响的方法。为了减小合成波束轴比损耗对系统容量的影响，提出了一种通过改变阵元在阵列中的排布减小轴比损耗的方法，得到系统容量优化的阵列天线排布方式。　　(3)研究了基于遗传算法天线综合算法，提出了一种将系统容量纳入适应度函数的改进的遗传算法，得到了满足两层覆盖方向图的阵列幅相激励参数，使天线综合算法在迭代过程中可实现容量优化。