正交镜像滤波器组(QMFB)和伪正交镜像滤波器组(PQMFB)已经广泛的应用于图像、语音编码和其他的领域。由于PQMFB是通过对低通原型滤波器进行余弦调制得到的,所以又被称为余弦调制滤波器组(CMFB)。在设计子带滤波器组时CMFB是一个很好的选择,这是因为CMFB可以使用快速DCT算法实现,而且需要优化的参数远远少于QMFB。本论文主要研究了子带滤波器组的设计方法,尤其是余弦调制滤波器组的设计,论文的工作主要有如下几个部分:第一部分,我们首先研究了子带滤波器组和余弦调制滤波器组的基本理论、用内插法设计滤波器以及一种有效的迭代算法,然后提出了一种基于此内插法和迭代算法的CMFB的设计方法,这种方法使需要优化的参数大大的减少,特别适用于设计子带较多的滤波器组。最后给出了设计的例子证明算法的有效性。第二部分,我们在研究了频率掩模法设计具有窄过渡带的滤波器的实现方法以及一种基于余弦调制的合并法设计非均匀滤波器组的设计方法,在上述研究的基础上,提出了一种基于掩模法和合并法设计均匀非均匀CMFB的设计方法,这种方法继承了上述方法的优点,非常有效。并给出了仿真实例证明算法的有效性,最后还给出了算法的优点及其在实际应用中的注意事项。最后对上述工作进行了总结并探讨了未来研究的方向和内容。