随着无线通信的发展,频谱资源短缺问题变得日益严峻。基于非正交多址接入(Non-Orthogonal Multiple Access,NOMA)的认知无线电技术(认知NOMA),由于具有高频谱效率和允许更多用户接入到网络中的优点,受到了学术界和工业界的广泛关注与研究。将协作中继技术引入到认知NOMA网络中,构成的认知协作NOMA网络不仅具有认知NOMA的优点,还具有抗衰落能力强和覆盖范围广的优势。现有的关于认知协作NOMA网络的研究工作存在以下问题:首先,虽然协作中继技术可以增强系统的抗衰落能力,扩大主网络或者认知网络的覆盖范围。然而现有的研究并未考虑主用户(Primary User,PU)收发机之间无直传链路,并且认知用户(Secondary User,SU)收发机也无直传链路的情况。此时不仅涉及到信道的共享问题还涉及到中继的共享问题,如何在该情况下设计传输策略,在确保主网络性能的同时提升认知网络的性能,是一个值得研究的问题。其次,当系统中存在多个用户多个子信道时,如何进行用户调度和资源分配以进一步提升系统的性能,也是一个有待研究的问题。针对上述两个问题,本文研究内容如下:(1)设计了混合NOMA的传输策略,确保PU的目标速率得到满足,同时给认知用户提供接入网络的机会。进一步,对基于混合NOMA的认知中继网络中的资源分配问题进行了研究。以确保PU的目标速率得到满足为前提,联合优化资源分配和解码模式的选择,最大化网络中SU的接入数目,并提出了启发式算法对优化问题进行分步求解。(2)启发式算法具体为:对上行链路,首先采用贪婪算法对PU独享授权频段时进行资源分配,随后关于SU接入PU授权频段时的资源分配和解码模式选择的问题,联合采用了粒子群算法与贪婪算法进行求解。对下行链路,首先将PU独享授权频段时的资源分配问题建模为混合整数线性规划问题(Mixed Integer Linear Programming,MILP),由于直接求解复杂度高,将优化问题转化为指派问题并利用匈牙利算法寻找最佳匹配,进而得到资源分配结果。在此基础上考虑SU接入PU授权频段时的资源分配和解码模式的选择,通过分析、建模和转化,得到的优化问题也是MILP,采用了相同的算法进行求解。仿真结果证明,本文所提的启发式算法在性能逼近穷举搜索算法的同时大幅度降低了计算复杂度。此外,动态解码模式相比于固定解码模式,能允许更多的认知用户接入到网络中。