单精度相关论文
2014年4月23号,Altera公司宣布在FPGA浮点DSP性能方面实现了变革。硬核浮点DSP模块集成在正在发售的Altera 20 nm Arria 10 FPGA和......
时域有限差分算法(Finite-Difference Time-Domain,FDTD)在计算电磁学领域得到了广泛研究与应用,已经发展成为一种成熟的解决现代......
学位
FPGA业界双雄Xilinx和Altera之间的激烈竞争近十几年来几乎没有停止过,而最近有愈演愈烈之态势。近日,Altera宣布推出它将其28nm C......
介绍了IIR(InfiniteImpulseResponse)数字滤波器在Motorola56300系列的定点DSP(DigitalSignalProcessor)上的实现方法,给出了双二......
“机械工业机电产品销售商情网”是为了促进机电产品质量上台阶 ,技术上档次 ,提高机电产品在市场上的竞争力和占有率 ,拓宽企业产......
MioroVAXI用平均为VAX11/780性能的35%的CPU来扩充VAX产品系列。双板微型机可用作工业中的机床控制和过程控制,并能适应商用和科......
DEC(数字设备公司)生产的Micro/J-11是一种可与PDP-11/70计算机兼容的16/32位微处理器,它具有全部PDP-11指令系统,其中包括扩充指......
1.1 中央处理机 186中央处理机与183机相比,速度较快、功能较强。 1)中央处理机采用指令预取结构和高速缓冲技术,运算速度较高。 ......
迭代除法已在高速流水线运算器中广为采用。但由于它在求商时不留余数,所以,一般认为迭代除法对求双精度商是很不方便的,不得不保......
当前用来说明计算机的主机(中央处理机)CPU速度有多种方法,其最主要的如:1.MIPS(每秒执行百万条指令数) 通常用于IBM和与IBM相兼......
一、概述8232是一个高速浮点处理机片(FPU),它的出现已给微机应用领域的扩展带来一定影响,特别对科学计算、地震资料解释以及国防......
提出了一种准双精度乘累加运算方法,可以在廉价的16比特DSP上实现ISO/IEC 13818-3的标准精度解码,也可应用于其他高精度实时DSP系统设......
在会计、统计核算中,输出数据精度一般取小数点后两位,在其他数据处理中,也经常限定几位小数的精度。但计算机进行定点数运算时,......
介绍了天津本地电信No.7信令网及No.7信令网网管系统的结构 ,针对该网管系统在话务量统计中出现有误差的问题 ,介绍了操作测量的概......
本文基于SRT算法,采用Verilog HDL语言,Maxplus 2平台,完成了单精度浮点除法器的设计。本文采用SD表示、常数比较以及飞速转换等设......
本文给出一种同时求两位商的可处理单精度、双精度以及扩展精度的快速浮点除法器的设计及硬件实现,该除法器由控制电路、商预测电......
利用计算出的结果给出了概率密度峰值的误差随累加次数的关系曲线,对单精度数值分析了累加的误差影响;利用不同的语言编制程序,发......
最近日本ASI公司以科学计算、计测控制为目标,研制成功日本国内第一台16位1MIPS(每秒1百万条指令)计算机—ALPHA/0NE并已投放市场......
该文简要地描述了目前存在的两类热流计(表面型)标定装置的工作原理,在此基础上提出了介于这两类标定装置之间的一种新型的热管式热流......
本次设计包括定点乘法、定点除法、浮点乘法以及浮点除法四个运算单元,主要设计模块为乘法运算模块和除法运算模块.其中浮点运算模......
提出了一种模式可配置的单精度浮点乘法器设计方案。利用90 nm互补金属氧化物半导体(complementary metal oxide semiconductor,CM......
1.概述任何一个经验丰富的决算员面对成千上万条基本定额也是望而生畏,即使是最常用的定额也要翻书查阅。决算既是一项责任重大的工作......
赛灵思公司(Xilinx,Inc.)推出具有全新功能的ISE13.3设计套件,可帮助DSP设计人员在面向无线、医疗、高性能计算和视频应用的设计中,轻松实......
分析了IEEE754标准浮点数的存储格式、在数轴上的分布、最大值、最大间隔以及有效数字,总结了浮点数使用时的原则.......
最简单的初等函数实现方法是查找表,但其只有与简单算术操作相结合才可实现单精度的函数近似;在介绍已有同类研究后,文章提出了一......
我们都有知道,对于电脑来说.最为关键的就是 CPU。但是,如何选购一款适合自己的 CPU 呢?这就牵涉到有关3D Now的问题。3D 图像的单......
程序设计语言一般会出现浮点数精度丢失问题,这直接影响到程序执行结果的准确性和可靠性。以Java语言为例,从浮点数的存储结构上进......
根据瑞典媒体WCCFTECH的消息,英伟达全新旗舰显卡GTX1080T纠等于3月上市,GTX1080Ti基于GPl02核心,将拥有3328个CUDA,搭载12GBGDDR5X显......
我国第一套单精度峰值超过每秒1000万亿次浮点运算的超级计算系统由中国科学院过程工程研究所研制成功并投入使用。该系统针对众多......
本文主要描述了在C++中容易搞混和出错的数据类型转换,单精度和双精度数据类型的定义方法,以及数据类型长度运算符的使用。......
轻松、灵活、舒服等术语描写宝马的这种车一点儿也不为过。宝马采用同一规格的发动机和同一车架结构来制造三种车型的决定,虽然从......
浮点运算单元FPU(Floating-point Unit)在当前CPU的运算中地位越来越重要,论文中实现了一种基于FPGA的快速单精度浮点运算器.该运算......
总结了C语言中的单精度型(float)、双精度型(double)和长双精度(long double)浮点数的存储格式,并用简洁的C程序给出了验证;对其表示的十进......
近期,我国第一套单精度峰值超过每秒1000万亿次浮点运算的超级计算系统由中国科学院过程工程研究所研制成功并投入使用。该系统针对......
近日,在GTC2018图形技术大会日本站上,NVIDIA发布了一款新的计算卡TeslaT4。TeslaT4搭配TensorRT软件组成的新平台,主要面向AI应用......
浮点数是C语言中重要的一种数据类型,浮点数使用不当就会导致程序运行错误,浮点数的使用是C语言的一个难点.总结了C语言中浮点数的......
以多项式矩阵特征值求解问题为背景,推导任意项式特征值计算方法,阐述了基于图形处理单元(GPU)的并行计算机理并建立Matlab快速并行......
瑞萨开始在中国推广其新一代RX族32位微控制器(MCU),包括RX62N群、RX621群和RX62T群。(1)RXCPU可以达到1.65DMIPS/MHz的高性能,并配备了单......
中科院副院长李静海最近宣布:我国第一套单精度峰值超过每秒1 000万亿次浮点运算的超级计算系统,已由中国科学院过程工程研究所研制......
超级计算能力不仅体现了一个国家在科学研究方面的实力,而且决定了工程技术和国家安全方面的竞争力,已成为各大国激烈竞争的科技制高......
随着集成电路的迅速发展,人们对于处理器的性能要求也越来越高,尤其在数值计算方面,既要求能够保证足够的速度和精度,又希望能有效......
NVIDIA的GKll0核心已经在TeslaK20X/K20应用过了,桌面版也有GTXTitan、GTX780两款GKll0核心产品了,只有Quadro产品线还是之前的GKl04......
展示了一个Intel众核处理架构上优化的N体内核代码,该优化版本在传统处理器上也获得了性能提升;探讨如何快速为优化过程确定一个目......
针对分段二次多项式逼近初等函数需要较大的查找表面积和电路面积的问题, 提出基于极大极小分段三次多项式逼近单精度浮点初等函数......