基于Hadoop的CDN-P2P系统中关键技术的研究与实现

被引量 : 2次 | 上传用户:seanray
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的迅速发展以及互联网信息的爆炸式增长,网络拥堵成为了影响互联网服务质量的瓶颈。CDN (Content Delivery Network,内容分发网络)技术和P2P (Peer to Peer,点对点)技术为克服这个瓶颈,提高网络服务质量发挥了重要作用。CDN网络由分布在网络边缘的服务器群组成,通过在应用层实现智能路由,可以使用户就近获取内容,但传统的CDN网络基于C/S(客户端/服务端)模式,当客户端数量剧增,容易出现性能瓶颈,使服务质量低下,为了提升服务质量,需要增加边缘服务器数量,导致CDN网络建设费用激增。在P2P网络中,每个节点同时作为服务器和客户端,这种对等的关系,打破了C/S模式-的束缚。在CDN网络中引入P2P网络,能够有效缓解客户端数量剧增带来的边缘服务器访问压力,提升网络服务质量,CDN与P2P的融合是当今网络服务的研究热点。在应用CDN-P2P系统的过程中,随着网络规模变的越来越大,就会产生大量的用户数据和系统数据,若要对系统运行过程中采集到的用户数据和系统数据进行处理和分析,以发现用户需求,并根据用户社会属性和需求的相似性信息来改变网络组织方式,提高网络服务质量,系统就需要具有大规模数据处理的能力,而Apache的开源项目Hadoop就是目前最流行的大规模数据处理的技术框架。Hadoop可以使用自身的HDFS文件系统进行大规模数据的存储,也可以使用HBase数据库存储大规模的数据。同时为了应对超大规模数据(PB级)的处理,Hadoop使用了Map/Reduce计算模型。本文重点论述如何将一个基于社会属性CDN-P2P系统与Hadoop结合,以提高系统的网络组织效率和服务质量。主要有以下几个关键点:第一、加入节点用户·社会属性概念,将每个节点用户在社会属性和内容需求上的相似性作为影响组织网络拓扑的重要因素,在组织网络拓扑时,充分挖掘节点用户之间的相似性,同时根据节点用户之间相似性的变化,动态调整网络拓扑,组织出具有更高查询效率的网络。第二、基于Hadoop分布式框架,使用HBase数据库存储大规模的CDN-P2P系统产生的网络数据和用户数据,提高CDN-P2P系统对于大规模数据的存储能力,同时保证系统数据安全第三、基于Hadoop分布式框架,使用Map/Reduce计算模型,提高CDN-P2P系统对于大规模数据的处理和分析能力,从中提取和挖掘用户需求,计算用户之间的相似性,提高网络组织效率
其他文献
早在1990年我国就设立了第一个保税区——上海外高桥保税区,自此以后,我国掀起了一股“申办保税区”的潮流。绥芬河综合保税区的批准设立就是其中之一。经过几年的建设发展,绥芬
身份与共同犯罪的关系在我国刑法著作和教材中虽然无不提及,但是还是比较零散。同样身份与共同犯罪的关系在我国的刑事立法中也没有统领全局的总则性规定,仅是在分则具体条文
语言和文化,这两者之间的关系是十分密切的。不论是在东方还是西方,许多学者、专家在这一方面都达成了广泛共识。在对外汉语教学中,语言和文化的联系更为紧密和重要。中国传
CDN系统由分布式存储、负载均衡、网络请求重定向和内容管理四个要素组成部分。其中,分布式存储是CDN的基础要素,负载均衡、网络请求重定向和内容管理等都是建立在分布式存储
对AGC油缸在冶金行业的维修现状进行了分析,并对其测试项目和测试台架作了简要介绍。
本文以西北少数民族地区的生态移民为研究对象,以政策资料为基础,结合最新的田野调查,以宁夏西吉县兴隆镇移民村为个案,运用民族学的理论与方法,在文化人类学的意义上探讨当
比较句在汉语语法点中是属于庞杂、繁复的语法点之一。在对外汉语教学中,关于比较句的研究及使其教学具有系统性和规范性是迫在眉睫的。本论文是在前贤对比较句本体知识研究
2011年3月11日的日本地震对世界经济产生了巨大的冲击力,对中国经济的影响亦很大。日本地震在给中国企业带来机遇的同时,也带来了挑战,能否把握好机遇和应对好挑战,是中国企
过渡型社区是在城市化浪潮和地方政府的双重推动下产生的,是现代城市向乡村地区扩张的结果,因而既保留了乡村社区的传统精华,又不断增加着现代城市性,同时具备了城市与乡村的双重
随着我国加入世界贸易组织(WTO)程度的加深和全球经济一体化发展趋势的加剧,汽车行业市场竞争日趋激烈,人们对于汽车的要求越来越高,并且产品需求朝着多样化、个性化、高性价