矩阵理论广泛应用在工程领域,是众多学科的重要理论基础,是一种不可替代的数学工具。Hadamard矩阵作为应用广泛的一种矩阵,有着极其重要的地位。在中心权重Hadamard矩阵的基础上,Lee MoonHo在1989年提出了"Jacket矩阵”的概念,这类矩阵具有求逆简单(元素求逆或分块求逆)和行／列正交的优异性质,可以被广泛应用在信号处理,图像压缩,通信等领域。Hadamard矩阵、DFT矩阵、DCT矩阵等信号矩阵都是Jacket矩阵家族中的一份子。本文工作从以下两个方面开展：Jacket矩阵／变换理论体系的研究,设计信号处理方法,提出高效的和性能良好的算法。结合抽象代数,组合数学,矩阵理论等知识,提出一种有限阿贝尔群上Jacket矩阵的构造方法,扩展了Jacket矩阵家族。研究相应的快速Jacket变换算法,将矩阵用稀疏矩阵的Kronecker积的形式来表示,减少了矩阵计算的运算量。Jacket变换的应用研究,提出了一种基于Jacket变换的多用户协作通信编码方案。在协作通信系统中,发送端使用OFDM技术提高了系统的性能,设计方案中OFDM中信号调制部分使用Jacket变换来替换DFT,调制出的信号具有正交性,调制解调过程简单,同时改进的OFDM调制器生成的信号也具有一定的灵活性。并在中继节点处设计一个协作编码方案,使信号矩阵在接收端有Alamouti码的特殊形式,提高了系统的分集增益,减少信号的干扰,接收端译码实现简单且具有良好的性能。