本文针对流星余迹通信系统的需求，研究了一种VHF频段的宽波束、宽频带八木天线，并利用矩量法和一种改进型的Nelder-Mead单纯形-差分进化混合算法，进行了计算和多目标优化设计。针对传统的单策略差分进化算法局部搜索能力不足、收敛速度较慢的问题，将它与Nelder-Mead单纯形法相结合的混合算法，可明显提升寻优能力与精度。本文将这种混合算法成功应用于八木天线的优化中。对于流余通信而言，天线方向图的覆盖范围，决定了可用流星余迹的范围。因此，流星余迹通信系统需要尽量宽的波束宽度。然而宽波束的条件会降低天线的增益，这样就使得许多本来可用的流星余迹被放弃，所以就需要对这两个参数进行优化设计。本文通过理论分析、优化仿真等，详细论述了展宽八木天线工作频带的方法，并对提出了几种展宽八木天线的波瓣宽度切实可行的办法。最后设计并测试了一副相对带宽达22%，波束宽度在80°以上的八木天线，可以很好的应用于流星余迹通信系统。