【摘 要】
:
社交网络作为Web2.0时代的标志,提供了以互联网用户为中心的交流模式和平台。通过社交网络平台,用户可以进行发表消息,分享内容,添加好友以及关注自己感兴趣的人物等操作。社
论文部分内容阅读
社交网络作为Web2.0时代的标志,提供了以互联网用户为中心的交流模式和平台。通过社交网络平台,用户可以进行发表消息,分享内容,添加好友以及关注自己感兴趣的人物等操作。社交网络平台中的用户一般是以亿为单位,用户与用户之间通过相互关注和好友关系连成了一张巨大的社会网络,消息能够迅速的在这种网络上进行传播。大多数的社交网络平台都提供开放的API供用户和开发者获取平台相关的数据,但是对AP1的调用次数通常有限制,这使得需要获取大量数据的需求显得极为不方便。因此,对社交网络信息爬虫的相关研究有非常重要的意义。本文以社交网络平台为研究对象,研究了网络爬虫的相关技术。目前社交网络平台大多采用AJAX技术,以便提供丰富的功能以及良好的用户体验,对社交网络平台进行爬取的过程也是AJAX页面解析的一个过程。社交网络平台产生的数据量巨大,数据通常是一些稀疏的非结构化的格式,因此使用传统的关系型数据库进行存储显得不方便。本文使用非关系型数据库MongoDB进行数据的存储;之后在MongoDB存储的基础上进行信息的检索,以便获取用户感兴趣的信息。本文所作的主要工作如下:1、分析了当前社交网络信息在进行爬取时存在的问题,从而引出爬虫设计需要实现的目标;2、构造了一个适合爬取社交网络信息的网络爬虫,使用广度优先的策略对社交网络数据进行爬取;3、使用BeautifulSoup作为做AJAX的解析器,进行网页数据的爬取,从而解决社交网络平台自身提供的开放API对数据的获取有次数限制的缺陷;4、爬取的信息包括用户信息、用户关系信息、网络内容信息以及内容评论信息;5、使用非关系型数据库MongoDB进行数据存储,从而解决社交网络数据不断膨胀的问题。
其他文献
提高教学质量的主体在教师,建立健全教师教学的激励机制,是提高教师教学的积极性、荣誉感和使命感的有效途径。"最受学生欢迎的任课教师"的评选充分体现了学生在教学评价中的
近年来,随着我国经济的快速发展,我国的教育事业也得到了很大程度上的发展,尤其是英语教学的水平,已经有了很大程度上的提升。但是,在初中英语情景教学的过程中,依旧存在着一
税收风险防控是税务机关的重要目标,而大企业税收风险防控是税务机关做好税收风险防控工作的关键,国内各专家学者,在前人研究的基础上结合我国的税收风险防控的实际状况也做
近年来,江苏城市道路交通的规划、改善及管理一直在进行当中,道路工程也在实施,但是交通拥堵的问题仍然困扰市民的出行。徐州和无锡分别作为江苏城市发展的代表城市,在交通发
<正>类风湿关节炎(RA)是一种主要累及小关节的慢性自身免疫性疾病。主要表现为对称性多关节肿胀、疼痛、晨僵,体质量减轻以及全身多系统的受累。病理特征是遗传与环境等多因
<正>今年的勒布纳奖在图灵生前战斗过的地方布莱切利园举行,这场一年一度的比赛旨在发现可以充当人类的电脑。那情况如何呢?本周是令人尊敬的战时密码破译者阿兰·图灵100周
文化差异是翻译的一个难题,尤其是英语习语集中地体现了与汉语的文化差异,更是翻译的难点.本文分析了英语习语的来源以及英语习语与汉语的文化差异,对英语习语的翻译略作了一
输油管道的工作压力决定着输油泵站数量和管材的用量,同时影响管道建设的授资和经营管理,所以,工作压力是输油管道设计的重要参数。对于一条运行中的输油管道,其能耗费用主要
采用高沸醇木质素和多聚甲醛制备改性松香树脂,测定树脂的软化点,酸值,DSC-TGA曲线并与松香酚醛树脂进行比较。结果表明高沸醇木质素可以部分替代对叔丁基苯酚与松香、甘油和
目的探讨意象对话技术治疗对抑郁发作患者主观幸福感和应付方式的影响。方法采用总体幸福感量表(GWB)及应付方式问卷对60例抑郁发作患者进行测定。结果治疗2周后,解决问题因