随着无线通信技术的进步,移动通信系统所提供的服务类型从1G中单一的模拟话音业务演变为5G中多样化的数据业务。而随着社会发展需求的推动,实现万物互联的物联网展现出巨大的应用潜力和市场前景。作为5G标准中支持物联网机器间通信的关键场景,海量机器类型通信（massive Machine-Type Communications,mMTC）场景展现出如下显著特点。（1）设备的海量特性与极高的部署密度;（2）设备的低成本与低功耗需求;（3）设备的低激活概率与短数据包。上述特点为移动通信系统中的随机接入机制带来前所未有的挑战。具体地,设备的海量特性造成随机接入资源的短缺,进而导致严重的随机接入碰撞和数据传输资源块的浪费。此外,在现有技术标准中,设备在进行随机接入时需要与基站进行握手过程,从而完成控制信令的交互。该握手过程将导致短数据包的传输效率低下,同时增加设备的功率消耗。为解决mMTC系统下随机接入机制所面临的挑战,本文关注多种mMTC应用场景,并深入研究各场景下的免授权随机接入方案和接收端检测算法的设计。具体的研究工作如下:首先,针对静态环境下的mMTC场景,为解决设备活跃性检测问题与随机接入碰撞问题,提出一种固定符号辅助的随机接入方案,实现高效的免授权随机接入。在该方案下,激活设备在所传输的数据包之前插入固定符号。根据基站已知的上行信道信息和固定符号接收值,提出一种基于消息传递的设备活跃性检测（Message Passing-Based Activity Detection,MP-AD）算法。建立MP-AD算法的因子图表示,并推导因子图上不同节点处的消息更新规则,完成每个时隙内的设备活跃性检测。对于同一时隙内的激活设备,多天线基站利用并行检测算法进行多用户检测,从而解决随机接入碰撞。为了解决消息传递算法的相关性问题,进一步提出深度神经网络（Deep Neural Network,DNN）辅助的设备活跃性检测（DNN-MP-AD）算法,将因子图上迭代的消息传递过程展开为DNN中前向传播的消息传递过程。通过数值仿真,验证所提出的随机接入方案的吞吐量性能,以及MP-AD算法与DNN-MP-AD算法的检测准确性。其次,针对非静态环境下的拥挤mMTC场景,为解决现有消息传递检测算法的收敛性问题,提出一种DNN辅助的基于消息传递的分组稀疏贝叶斯学习（DNNAided Message Passing-Based Block Sparse Bayesian Learning,DNN-MP-BSBL）算法,实现准确的设备活跃性检测与信道估计。在该算法中,因子图上前后迭代的消息传递过程被展开为DNN中前向传播的消息传递过程。通过对DNN中传递的消息进行加权,并对权重系数进行训练,从而改善原有消息传递检测算法的收敛性。最终,通过数值仿真结果,验证所提出的DNN-MP-BSBL算法的设备活跃性检测以及信道估计的准确性。然后,针对基于串行检测的mMTC场景,为满足设备的低成本和低功耗需求,提出了一种无需功率分配的上行随机非正交多址接入（Non-Orthogonal Multiple Access,NOMA）传输方案,并以最大化和速率为目标完成对传输方案的优化。为提升接收端的数据包恢复概率,提出了一种基于跨时隙干扰消除的数据包恢复方案。在该方案中,基站利用时隙内的逐次干扰消除（Successive Interference Cancellation,SIC）译码与跨时隙的干扰消除进行数据包恢复。将该跨时隙干扰消除操作模拟为Markov过程,并对随机NOMA传输方案的吞吐量与和速率进行分析。最终,以最大化随机NOMA传输方案的和速率为目标,对设备传输概率和编码速率进行联合优化。最后,针对天基物联网下的mMTC场景,为适应近地轨道（Low-Earth Orbit,LEO）卫星的高速移动特性和地星链路信道特性,提出一种地星免授权随机接入方案与检测算法,从而实现天基物联网下的高效随机接入。在所提出的随机接入方案中,为解决卫星信道下的联合设备活跃性检测与信道估计问题,提出一种融合伯努利-莱斯消息传递与期望最大化（Bernoulli-Rician Message Passing with Expectation Maximization,BR-MP-EM）算法。该算法分为两个阶段,在内部迭代阶段,分别利用伯努利消息传递和莱斯消息传递,解决设备活跃性检测问题与信道估计问题;在外部迭代阶段,利用期望最大化算法对卫星信道的超参数进行修正。最终,通过数值仿真,验证所提出的BR-MP-EM算法的准确性,以及该算法对卫星信道超参数的鲁棒性。