随着软件规模及应用领域的日益复杂,软件质量安全已经成为一个至关重要的问题,在软件运行过程中会产生大量的数据,为了将其利用起来进而提升软件质量及保障软件安全,数据挖掘被越来越多的应用到软件结构特征的研究中,成为一个热门且有趣的研究方向。本课题主要针对软件动态执行轨迹,利用图挖掘技术从海量的软件执行轨迹图中挖掘出用户感兴趣的子图模式,可以用于提升软件性能、分析软件结构、挖掘软件漏洞等领域,主要工作如下。首先,基于软件动态执行轨迹对软件的行为特征进行建模。追踪软件执行时的函数调用关系得到软件执行图,从而形成软件执行图集合,然后扫描该图集合,将其合并成一个软件加权执行图。其次,为了得到软件执行过程中频繁调用的子图结构,提出一种基于软件执行图集合的最大频繁子图挖掘算法。该算法仅扫描一遍图数据库,采用二进制码来记录每条边出现的情况。然后根据边的编码情况将边进行分类,在此分类基础上结合剪枝策略来对边进行扩展,从而更高效的得到最大频繁子图。再次,为了更有针对性进行挖掘,将权值引入图挖掘,该权值允许用户利用先验知识来进行调节。此外,受重要节点思想的启发,提出重要性度量和模块独立性度量,并提出一种基于软件加权执行图的加权特征子图挖掘算法,将两个度量作为扩展依据,最终挖掘出用户感兴趣的子图模式。最后,对本课题提出的两个算法进行编码实现,并在真实数据集上进行实验,同时对算法在运行时间、可扩展性方面的性能以及挖掘结果进行分析。