随着第五代移动通信（The Fifth Generation Mobile Communication,5G）的快速发展,室内场景的移动数据业务日益增多,复杂室内场景的信道特性研究势在必行。射线跟踪算法的计算效率高、预测结果准确,被广泛用于信道建模中。但射线跟踪算法的计算效率与计算精度受场景复杂度、建模精度、计算深度等多种因素的制约,因此,本文采用八叉树分区算法和径向基（Radial Basis Function,RBF）神经网络模型对射线跟踪算法进行加速优化,计算效率和计算精度均得到有效提升。此外,本文还对典型室内环境下的接收功率、路径损耗、时延扩展和角度扩展进行了分析。本文的研究成果主要分为以下几个方面:（1）针对传统射线跟踪算法在复杂场景中计算效率偏低的问题,本文采用八叉树分区算法对射线跟踪算法进行加速,通过减少无效的相交测试,来实现射线跟踪加速算法。另外,在典型实验室场景下,将传统射线跟踪算法与采用八叉树结构分区后的算法性能进行了对比。仿真结果证明,基于八叉树分区优化的射线跟踪算法能根据场景中的障碍物位置及密度进行合理划分计算区域,减少额外相交测试耗费的时间,有效提高算法的计算效率。（2）针对传统射线跟踪算法仿真结果与实测结果存在较大误差的问题,而且误差受多种因素的影响,无法用固定的数学公式来进行量化。因此,本文在射线跟踪算法的基础上结合机器学习算法,使用RBF神经网络模型来对射线跟踪算法的计算误差进行修正。此外,针对RBF神经网络在训练过程中易陷于局部最优的问题,本文引入自适应粒子群算法（Particle Swarm Optimization,PSO）对RBF神经网络模型参数进行优化选取,并与基本的PSO-RBF神经网络模型优化的结果进行对比。仿真结果验证了自适应PSO-RBF神经网络模型可以在提高预测精度的情况下,减少收敛所需时间,性能得到有效提升。（3）通过在典型L型办公室场景和大型室内体育馆场景的建模仿真,验证了射线跟踪加速算法在室内信道建模的有效性和可行性。然后在典型办公室场景进行室内电波传播预测,分析了室内的接收功率和时延扩展的传播特性;在大型室内体育馆场景下分析了不同频段下体育馆场景的路径损耗和时延扩展。