滤波器组尤其是非均匀余弦调制滤波器组在通信系统、数字图像处理和语音编码压缩等领域取得了广泛的应用。因其有以下优点：非均匀滤波器组可以实现信号频谱的任意划分，有限长单位脉冲响应滤波器组保证了系统是稳定的，线性相位滤波器组保证了子带信号没有相位失真，最后余弦调制滤波器组具有较低的设计复杂度。因此，本文主要研究非均匀余弦调制滤波器组的优化设计。　　目前设计非均匀余弦调制滤波器组的思路主要有两种：一种是利用子带合并的间接设计，另一种是采用单原型滤波器直接构造的直接设计。然而采用上述两种思路的现有设计方法都存在各自的缺点，因此本文针对现有设计方法的不足之处，提出改进之后的新算法。　　在第一种思路中，非均匀余弦调制滤波器组中的每个分析和综合滤波器都是由均匀余弦调制滤波器组中若干个相邻滤波器线性组合获得。采用上述思路的现有间接设计方法中，非均匀滤波器组性能无法直接控制优化。针对上述缺点，新算法建立了非均匀余弦调制滤波器组与原型滤波器的直接联系，进而将非均匀滤波器组的设计问题归纳为一个关于原型滤波器的无约束优化问题，通过优化原型滤波器直接控制非均匀余弦调制滤波器组性能。仿真实验证明了新算法的有效性，同时新算法获得的非均匀余弦调制滤波器组比现有方法设计的滤波器组整体性能更佳。　　在第二种思路中，非均匀余弦调制滤波器组中的分析和综合滤波器是由单原型线性相位滤波器经过伸缩和平移获得。然而采用上述思路的现有直接设计方法中，将非均匀滤波器组的设计问题归纳为一个非凸且多个不等式约束的带约束优化问题，存在设计和求解过程过于复杂的缺点。为了解决上述缺点，新算法将非均匀滤波器组的设计问题归纳为一个无约束优化问题，其目标函数综合考虑非均匀滤波器组传递失真与原型滤波器阻带能量，进而结合线性化方法迭代求解原型滤波器。理论分析和数值仿真结果表明，相比于现有方法，新算法的设计和计算复杂度显著降低，同时可以获得重构性能更佳的非均匀滤波器组。