大数据平台权限管理工具的设计与实现

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:liongliong470
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在当今信息化时代,互联网和多媒体飞速发展,物联网和云计算不断兴起,导致所产生的数据具有明显的海量性和异构性的特点,在存储和处理这些数据的技术选择中,基于Hadoop技术实现的大数据平台展现出其强大的整体解决能力,有效提升了各业务系统存储和处理数据的效率以及便捷性。在数据量持续增大、业务逻辑日益复杂以及大数据平台多租户使用的情况下,数据所有者对平台数据访问权限的管理正变得愈发重要。现有的开源权限管理方案如Apache Ranger、Apache Sentry等,可以为Hadoop平台提供一定程度的安全防护,但是当企业实际业务需要管理的数据粒度超出这些开源管理方案当前所支持的授权粒度范围时,如Hive的partition、HBase的cell等,这些开源解决方案则无法发挥作用。因此,本文通过对现有业务需求的背景和目前所面临的的问题进行全面分析,并结合Hive、HBase等组件的实际情况,通过调研现有的权限管理方法以及一些框架的具体实现思路,设计并实现了一种Hadoop大数据平台的权限管理工具。该工具具备前端门户,方便用户操作;提供数据持久层,支持将数据权限配置进行持久化;并设计一种权限管理的实现方法,来解决上述问题。本文主要工作内容如下:(1)进行了完整需求分析,确定该管理工具所应具有的监控和管理功能,包括用户管理,权限信息的设定和修改,查看审计数据等功能,并根据功能对系统模块进行初步划分,大致包括用户管理、插件系统以及管理门户等模块;(2)设计并改进Hive等组件内部相关流程。由于管理工具对数据资源的访问控制需要用到资源所对应的数据对象以及用户所请求操作等信息,为了使本工具可以检查Hive分区数据的权限,需要Hive端将上述信息封装成对象,并以参数形式传递给本管理工具,来判断是否允许用户进行相关操作;(3)设计并实现该权限管理工具。进行系统的整体架构设计,并基于项目需求来确定各模块所需的基础操作接口。设计一种权限鉴定方法,根据管理员预设信息以及组件传入参数来计算权限控制结果,并设法减少不必要的存储资源消耗以及简化管理员的操作流程。进行数据库的设计,包括逻辑设计和物理设计;(4)设计并实现前端门户平台,采用基于Bootstrap和j Query的前端框架实现管理功能的可视化操作,包括权限信息的设定、用户信息以及审计数据的查看等,均可通过前端页面来进行。通过测试和实际应用,表明本文所实现的大数据平台权限管理工具可实现可靠的权限管理,且具备一定的高可用性和高性能。该工具能够简化对相关组件的权限管理工作,并减少不必要的存储资源消耗,具有实用性。
其他文献
草鱼(Ctenopharyngon idellus)是亚洲国家广泛养殖的重要淡水经济鱼类,是我国传统的“四大家鱼”之一。但草鱼出血病的时常爆发给草鱼养殖业带来了巨大的损失。草鱼呼肠孤病毒是导致草鱼出血病的主要病毒性病原。在我国分离出来的数十株草鱼来源呼肠孤病毒中,可分为草鱼Ⅰ型、Ⅱ型和Ⅲ型呼肠孤病毒,它们的代表株分别为GCRV-873、GCRV-HZ08和GCRV-104。蛋白酶体是细胞内负责降解
红色文化是人民宝贵的物质财富和精神财富。习近平同志强调,要把红色资源利用好、把红色传统发扬好、把红色基因传承好。大学生是未来建设祖国的中流砥柱,历来是党和国家进行思想政治教育的重点对象,做好红色文化融入大学生思想政治教育工作是引导大学生学习革命历史,增强红色文化认同,弘扬优良革命传统,干事成事的强大精神动力,具有十分重要的现实意义。本文通过五个部分对红色文化融入大学生思想政治教育进行阐述。第一部分
商标法兼顾国家、消费者以及生产经营者的利益,是我国调整市场经济关系的重要手段。随着商品经济的发展,商誉的重要性逐渐突显,经营主体积累商誉、发展商标的愿望越来越迫切。商标反向混淆保护权利人的商标财产价值、在市场中的独立性、以及扩展市场的可能。我国传统的商标侵权案件主要为正向混淆侵权案件,与之相比,反向混淆在侵权的事实构成、认定标准、救济选择、赔偿计算上都存在一定的特殊性,需要进行体系化的思考,厘清相
在许多国家,学生被大学录取的机会会根据所在的地区而有所不同。大学招生的地区不平等如何影响学生的移民决策?结合中国2000年的大学录取数据和人口普查数据,本文发现:一些高中学生利用了高考分省配额制度造成的录取难易度差异,移民到容易录取的省份参加高考。然后,我采用多项逻辑逻辑模型对这种迁移进行了目的地分类:少数学生迁移到教育质量高的发达地区(如北京),更多的学生迁移到竞争较少的欠发达地区(如青海),这
习近平总书记在党的十九大报告中指出:“农业农村农民问题是关系国计民生的根本性问题,必须始终把解决好‘三农’问题作为全党工作重中之重。”农村思想政治教育是党和政府在农村开展经济和政治工作的生命线,是新时代实施乡村振兴战略的强大精神支撑。在决胜全面建成小康社会的关键时期,农村思想政治教育是否与时俱进显得尤为重要。本文选取滁州市来安县A镇为具体研究对象,在实地调查和文献研究的基础上,多维度系统分析A镇思
盐酸氯苯胍是一种人工合成的抗球虫药,其作用机理主要是通过影响球虫蛋白质的生物学过程来抑制球虫。我国于2010年将此药规定为治疗鱼类粘孢子虫病的国标渔药,但是目前鱼类在该药使用之后产生的反应尚不明确。同时,在该药的使用过程中,对养殖鱼类的其他疾病是否有影响也未知。本课题在以异育银鲫为实验对象的基础上,不仅研究了盐酸氯苯胍在其体内的药代动力学,还研究了盐酸氯苯胍对异育银鲫免疫功能的影响,以及对异育银鲫
随着发动机强化水平不断地提高,活塞需要承受极大的热负荷,由此导致活塞会出现失效问题,严重影响了发动机的工作可靠性。因此需要减少活塞的散热量并对活塞中热流的传递进行
移动服务和应用的迅猛发展产生了海量的移动数据需求,这给现有的移动网络架构带来了巨大的压力。无线虚拟化网络(Wireless Virtual Networks,WVN)作为一种能够显著降低网络设备和管理成本的网络架构在学术界和工业界中得到了越来越多的关注,众多研究者针对WVN开展了相应研究,如资源分配问题、用户关联问题、干扰消除问题、接入点部署问题等。在前人的研究中,用户和接入点之间的关联策略很少考
随着社会经济的发展,经济活动中出现了阴阳合同、名不符实合同、黑白合同等一系列新问题。这些问题涉及通谋虚伪行为制度。《民法总则》第146条第一款,虽规定了通谋虚伪行为无效,但其内容过于单薄,无法涵盖社会中出现的有关通谋虚伪行为的问题。通谋虚伪行为对第三人效力、经登记的通谋虚伪行为效力、与身份行为相关的通谋虚伪行为的效力、通谋虚伪行为与一方欺诈行为的竞合等问题,法律没有明确规定。学界对于通谋虚伪行为的
随着我国城市交通建设的快速发展,地铁给人们生活带来方便快捷的交通出行的同时,所引起的环境振动问题也日趋严重,逐渐受到社会各界的广泛关注。钢弹簧浮置板轨道是目前公认减振效果较好的轨道结构,在较宽频域范围内起到了良好的减振效果,但是现有的文献研究表明浮置板轨道在基频的振动放大现象仍有待解决。本文从非线性刚度和阻尼两个方面,把准零刚度结构和磁流变阻尼器引入到传统的钢弹簧浮置板轨道中,为提高钢弹簧浮置板轨