为了满足日益增长的移动数据流量和终端连接需求,大规模多输入多输出（MultipleInput Multiple-Output,MIMO）和超密集组网（Ultra-Dense Networks,UDNs）成为移动通信系统中的两项关键技术。然而,随着天线数量和基站密度的不断增加,系统能耗也将急剧增加,严重阻碍了移动通信产业的绿色可持续性发展。动态有策略的选择部分天线、基站等资源进行通信,能够在确保系统容量和频谱效率的前提下,大幅度降低系统能耗。然而,由于利用部分资源进行通信导致系统的数学模型发生了改变,传统信号检测方法的性能亟待提高。因此,本文分别对基于部分天线的广义空移键控（Generalized Space Shift Keying,GSSK）调制系统以及基于部分基站的云无线接入网络（Cloud Radio Access Network,CRAN）的信号检测问题进行研究,主要创新工作如下:（1）针对GSSK调制系统中发送信号向量的稀疏特性,提出一种基于必要性条件的最优检测算法。GSSK调制系统在每个符号周期内只激活全部发送天线中的一根或少数几根用于信息传输,因此GSSK信号具有稀疏特性。利用这一稀疏特性,以较低的计算复杂度获得最优的检测性能是一项有吸引力且极具挑战的工作。本文将GSSK信号的稀疏特性与二值二次规划问题的全局最优必要性条件相结合,提出了一种基于必要性条件的最优检测算法。该算法能够直接对发送信号向量中的绝大多数元素进行最优判决;仅有少量元素需要利用最大似然检测算法进行最优判决。仿真实验表明,提出的算法能够以远低于穷举搜索的计算复杂度获得最优的检测性能。（2）针对GSSK调制系统中发送信号向量具有等式约束的特点,提出一种基于等式约束的概率性检测算法。GSSK调制系统中发送信号向量具有等式约束,即其中非零元素的数量等于每个符号周期内激活发送天线的数量。如果在对GSSK信号进行检测的过程中忽略这一特点,将会导致检测结果不满足等式约束,从而造成严重性能损失。考虑到基于贝叶斯迭代的概率性检测算法在误码率性能、计算复杂度和可扩展性等方面展现出的优势,本文提出一种基于等式约束的概率性检测算法。该算法通过构建一个增广系统模型,将概率性检测算法推广到带等式约束的情况。此外,本文通过建立增广系统模型与最优化理论中罚函数法之间的联系,证明了利用增广系统模型对GSSK信号进行检测与原问题的等价性,给出了增广系统模型中增广因子的选择方法。仿真实验表明,提出的算法仅以增加少量的计算复杂度为代价,能够确保检测结果满足等式约束,实现近似最优的检测性能。（3）针对CRAN的信号检测问题可以建模为一个双未知向量等式的特点,提出一种基于双未知向量等式的鲁棒性检测算法。CRAN通常采用一种以用户为中心的小规模集群的形式进行协作通信。本文将当只有集群内信道状态信息可用时,对集群内目标用户发送信号进行检测的问题,建模为一个双未知向量的等式,并提出一种拟最小二乘算法对其进行求解。该算法能够在集群间信道状态信息未知的条件下,对集群外用户的干扰信号进行消除。此外,本文利用随机矩阵理论对提出的拟最小二乘算法进行了全面的鲁棒性分析,揭示了该算法对信道估计误差敏感的根本原因。随后,进一步提出了一种对信道估计误差鲁棒的基于截断奇异值分解的拟最小二乘算法和一种基于恒模特性的动态截断参数选择方法。理论分析和仿真实验表明了提出鲁棒性算法的优越性和有效性。