复杂网络已在社会学、生物学以及计算机科学等领域得到广泛的应用。作为复杂网络最基本和最重要的拓扑结构属性之一的社区结构,对理解复杂网络功能具有重要意义,因此社区发现成为复杂网络研究中最活跃的议题之一。在互联网快速发展的今天,网络已经渗透到我们现实生活中的方方面面,得益于社区发现技术的发展,我们能够很容易地找到兴趣一致的朋友,也能够被推荐感兴趣的商品,极大地便利了生活。然而,随着网络上的信息通过社区发现技术被过度地挖掘,比如从经常浏览的相关联网站推断出用户的兴趣等,大量不法分子正是利用这些信息进行恶意营销甚至实施欺诈,对用户造成了极大的困扰。本文正是基于这两个点,即社区发现和社区隐藏（使得社区发现算法失效从而保护个人隐私）展开研究,主要研究内容和贡献如下:第一,提出了基于局部边结构的重叠社区发现算法。现有算法中存在对弱连接边处理不合理以及种子结构过于严格的问题。为克服此类问题,本文基于余弦相似度定义了比较宽松的局部边结构;同时将基于局部边结构的挖掘转换成余弦兴趣模式的挖掘,并证明该挖掘算法能够过滤掉弱连接边;最后基于该局部边结构构建了超图,并提出了基于超图分割和超图嵌入的算法,从而能够更好地发现规模较小、具有层次性以及重叠部分仍然稠密的真实社区结构。第二,提出基于带权重的模块度和博弈论的社区发现算法。基于模块度的算法一般存在分辨率限制问题,即难以发现小社区的问题。为克服此类问题,首先基于余弦相似度,定义了网络中边的权重,证明了基于该权重的模块度可以有效缓解分辨率限制问题;同时,从博弈论的角度出发,将社区发现问题转换为基于个体玩家获取最大效益的策略问题,并证明基于带权重的模块度的函数是势函数,即满足势博弈,从而提出基于势博弈的非重叠社区发现算法和重叠社区发现算法。第三,提出两种基于多目标强化学习的社区隐藏算法。现有的社区隐藏算法寄希望于已有用户改变自己的社交关系来达到社区隐藏目的,这对用户影响较大,操作空间比较小。不同于此类算法,本文所提的算法从加点及其相应边的角度出发,即伪造用户及其关系,最大程度降低了对用户的影响,将社区隐藏问题转换为网络增长问题;同时,基于Ratio Association和Ratio Cut,提出两种更适合社区隐藏的指标;然后基于强化学习框架,定义动作空间为不同的网络增长模型,将两个指标在l个阶段的一致性值作为网络的状态表示,将指标值作为奖赏值;最后采用两种策略来对指标进行优化,即给每个Q函数赋予权重的标量化多目标Q-learning算法以及基于Pareto最优算法的多目标Q-learning算法。