随着无线通信系统的发展,高灵敏度的微波探测和通信日益受到学术界和工业界的广泛关注。对于微波来说,其最小的能量单位是一个微波光子。而微波光子的能量低,相比于可见光光子低大约5个数量级。因此,基于极弱微波探测的无线通信方案设计是具有挑战性的。基于此,本文选择了具有多能级结构、能对弱微波场和微波光子产生良好响应的超导三能级系统和里德堡原子气体进行通信场景下的信号特征分析、通信性能预测和通信系统设计优化,从而为弱功率微波通信提供可能的解决方案。针对弱微波通信场景下的微波光子探测,本文提出了基于具有微波光子级别响应的超导三能级的通信系统模型。与传统通信器件不同,超导三能级系统能对单个微波光子实现高效吸收,从而实现高灵敏度探测。本文基于微波光子泊松到达对输入微波信号强度和三能级系统的激发概率间的响应关系进行求解。研究中提出了三能级系统微波探测的隐马尔科夫模型,并使用维特比译码算法得到了探测误码率结果,并使用Monte-Carlo算法得到可达传输速率结果。基于该仿真结果,本文预测三能级系统的通信灵敏度超过当前主流通信系统,论证了基于超导三能级系统的微波通信的可行性。针对超导三能级微波可靠通信问题,文中设计了三能级通信系统的帧结构,并提出了相关的帧同步和功率估计技术。在此基础上,研究对三能级通信系统帧结构的同步序列和信息序列进行了优化。在同步序列优化方面,研究对同步码重进行优化,在最小误码率的条件下得到最优同步码字。在信息序列优化方面,本文研究了最优可达传输速率下多电平调制的符号功率分配。最后,基于同步码重和符号功率分配进行误码率的联合优化。在联合优化下,相比于一般设置,三能级通信系统性能得到较大程度提升。针对弱微波通信场景下的弱微波场检测,本文提出了基于里德堡原子气体的通信系统模型。施加微波场能够影响里德堡原子的光学透射特性,从而通过光学读出实现高精度微波场测量。研究基于里德堡原子的微波响应特性,在考虑了里德堡原子相位噪声和后端检测噪声的情况下,对系统灵敏度进行分析,并预测里德堡原子通信系统相对于传统通信系统具有灵敏度优势并对误码率和可达传输速率等指标进行仿真,说明了使用里德堡原子进行弱微波探测的可行性。并且,本文对最优灵敏度下的里德堡原子气体物理参数设置进行了研究。