运用于远程呈现的三维图像处理技术研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:t123
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在一些危险区域,比如重核辐射区,人类无法在现场工作,引入遥操作技术是该问题比较好的解决方案。在操作控制端,遥操作者带着VR眼镜,远程控制危险区域的设备,进行远程工作。对于一些精细的任务,比如抓取一些复杂物体,这需要操作者清晰看到对物体的3D物理结构,而且为了更加准确对其操作,还需要知道该物体的姿态。但是有时候物体被遮挡,仅仅依靠眼睛很难判断物体的姿态。为了解决上术问题,需要解决3D图像远程传输、3D点云远程呈现、物体姿态估计等问题。因此,本文设计3D图像预处理算法、3D图像远程传输框架、物体3D远程呈现框架、物体姿态估计算法,运用于远程呈现。首先,在远端通过立体相机采集3D点云数据,由于相机存在误差与畸变问题,因此,需要对3D点云数据进行预处理,本文设计了3D点云滤波器和3D点云分割算法,对3D点云数据进行预处理。为了加速后面处理操作,对点云进行体素化。实验表明,3D点云滤波器和3D点云分割算法可以有效去除异常点,让3D点云更加平滑,提升后面的处理算法的效果。接着,为了让遥操作者可以实时进行远程工作,本文设计3D点云压缩算法,先对点云压缩后再进行网络传输,在操作端再进行解压。本文设计了两种压缩框架,一种是基于全局聚类的压缩框架,另一种是基于八叉树的局部3D点云压缩框架。在第一个方法中,首先,为了进一步消除三维点云数据的冗余,采用运动估计的方法获取点云之间的时间相关性。SHOT(signatures of histograms orientation)描述符用于匹配两帧之间的点,以计算运动矢量。为了减少计算时间,在匹配操作之前,利用八叉树结构对每个帧进行体素化。然后,将预测帧(Pframe)的保留信息和运动矢量发送到远端,并且利用帧内帧(Iframe)的信息、P帧的保留信息和运动矢量来预测新帧。实验结果表明,该方法具有计算量小、压缩比低等优点。第二个方法的关键是通过寻找两帧点云数据之间的时间相关性来减少时间冗余。首先,宏块将由点云数据体素化生成。然后,将两帧点云数据对齐,根据预测帧(P帧)和帧内(I帧)的点个数和颜色方差,初步判断预测帧(P帧)和帧内(I帧)之间对应的宏块是否一致。最后,利用ICP算法进一步匹配两个宏块,当ICP算法的结果低于阈值时,由I帧中相应的宏块预测P帧中的宏块。在本文的方法中,宏块的大小是可变的。实验结果表明,该方法不仅可以减小图像的延时,提高压缩比,而且视觉效果更加平滑,失真率更低。然后,对物体姿态进行估计,方便操作者进行任务操作。本文提出了一个名为Pose Point RCNN的网络框架来估计物体的6D姿态。原始三维点云的坐标和RGB颜色信息作为网络的输入。姿态估计分为两个阶段。在第一阶段中,生成目标的三维提议和姿态,为第二阶段的优化计算提供粗略的姿态估计。为了获得更高的召回率和准确率,还采用了注意机制和引入掩模分支。将目标随机放置在不同场景中,对TUW目标实例识别数据集进行增强,并设计了一种新的方法生成训练网络的样本标签。实验结果表明,该方法能正确估计目标的姿态。通过加入注意机制和掩码分支,该网络的召回率提升到53.24,而没有注意机制和掩码分支的召回率仅仅为16.72。最后,在操作控制端,使用Unity引擎将解压好的点云和物体姿态进行渲染,操作者通过VR眼镜可以观看远程3D场景。实验证明,操作者可以清晰看到远程3D场景并成功进行了远程操控设备来进行工作。本文研究并设计了3D点云数据预处理算法、两种实时3D点云压缩算法、基于3D点云的物体姿态估计算法和点云在Unity引擎中渲染技术,为实时远程呈现技术提供了技术支撑。
其他文献
盆底功能障碍疾病是成年女性常见的综合疾病,严重影响了患者的生活质量,成年女性发病率约为40%,但是由于病耻感和治疗意识不强等因素,就医率不到1/3。随着人口老龄化加剧和二
伴随着互联网的快速发展,图像数据呈爆炸性增长,存在大量的未标注的图像数据,而传统人工标注的方式成本巨大。如何对这些海量的图像数据标注关键词成为一个亟待解决的问题。图像自动标注是解决该问题的核心内容,受到了研究人员的广泛关注。针对图像标注中存在的图像弱标注问题,本文提出了基于深度特征结合词间关系的图像标注方法。首先利用标注词之间的共生关系和语义关系来解决图像弱标注问题,然后通过深度卷积神经网络提取图
随着5G移动通信技术的逐步推广,移动设备的海量增加会造成通信业务量的爆发式地增长,宏基站已经不能满足当前的业务覆盖。随着异构蜂窝网络的出现,小型基站与宏基站的联合部
自2013年十八届三中全会鼓励社会资本方通过多种方式参与公共设施建设以来,我国PPP项目呈井喷式增长。在这欣欣向荣的市场下,各类风险暗流涌动。如何合理、高效的化解风险爆
量子隐写的主要思想是针对其他量子安全通信协议的特点,利用量子态的物理特性,实现信息的隐蔽传输。由于现有的量子隐写都是使用离散变量量子载体,不仅制备、检测困难且成本
节奏是音乐艺术的重要源泉,节奏感是幼儿协调能力和智力开发方面的重要组成部分,因此幼儿节奏感培养成为幼儿教育中的关键模块之一。基于此,本文立足于幼儿节奏感教育,以生活
意大利是欧盟核心国家之一,其欧盟政策对欧盟的发展有着举足轻重的影响。2009年欧洲债务危机爆发,意大利因严重的债务问题陷入经济衰退,此后宏观经济问题就成为意大利与欧盟
近年来,随着环境风险对于企业的影响力的增强以及现代社会的发展,企业对自然资源的使用,污染的排放已明显已经超出了环境的承受能力,导致环境恶化加剧。政府、公众和非政府组
随着互联网技术的发展,网络中业务数量急剧增加,业务的类型趋向多样化。传统的波分复用光网络无法满足灵活的网络需求,会造成大量带宽资源的浪费,为了解决这些问题,弹性光网
人类暴露于17α-乙炔基雌二醇(EE2)的环境中,会导致生殖行为变化,激素水平降低,男性第二特征变化等不良影响。EE2作为一种疏水性的有机污染物普遍存在于水体中,威胁着动植物的生殖和发育。因此寻找有效的方法去除EE2是很有意义的研究课题。铋基半导体由于其优异的光学性能近年来被广泛合成并作为光催化剂用于去除有机污染物。本论文通过煅烧法和离子交换法分别制备了 Bi2O3/Bi2O4和AgI/BiOI/