随着时频分析工具的发展和应用，非平稳信号在通信系统中的应用也引起了越来越多的关注。线性调频信号就是一种典型的非平稳信号，它的频率随时间线性的变化，具有良好的自相关特性、较大的时域带宽积。线性调频信号除了具有幅度、相位、初始频率之外，还有调频率这一参数。本文主要以它的脉冲压缩特性和分数域聚集特性为基础，研究其在调制和解调方面的性能。首先，简要介绍了线性调频信号的基本概念和性质。利用其良好的自相关性能提出了一种匹配滤波解调的方案。给出了分数傅里叶变换的三种定义，变换性质和常用信号的分数域变换。验证了线性调频信号在最优分数域的能量聚集特性。其次，分析了两种调制方式，直接调制和二进制正交调制的系统性能。直接调制是利用线性调频较大的时域带宽积特性用其代替伪随机码扩展待发送信号的频谱实现扩频，其性能与普通的直接扩频系统性能相当。基于Chirp信号的BOK调制方式有三种解调方式，相干解调、匹配滤波解调、分数域解调。三种解调方式中，相干解调和分数域滤波解调性能相当，匹配滤波解调性能稍差。同时，分数域滤波解调具有良好的抗单频干扰和抗多普勒频移优点。因此用分数傅里叶变换来处理线性调频信号具有无可比拟的优势。在第三章最后本文给出了基于线性调频信号的两种多址方式可行性的理论推导并且仿真验证了在相同带宽下，采用相同调频率和不同初始频率的多址系统具有更好的性能和更大的系统容量。最后，基于前文的分析，本文提出了一种新型的基于分数傅里叶变换的调制解调系统。该系统是利用线性调频信号时域平移对应着分数域内的频移，即峰值位置的改变这一特性。在发送端，只需使用一个线性调频信号发生器，将其在时域平移半周期来调制数据流，可以实现多进制调制。同时，结合第三章的二进制正交调制方式，设计了一种多址系统。最后类比余弦信号中的2FSK调制，使用不同的初始频率来调制信息，给出了理论分析结果。