浮点数定点数

数的定点表示和浮点表示【转帖】

自闭症网瘾萝莉.ら 提交于 2020-04-06 21:47:40
计算机处理的数值数据多数带有小数,小数点在计算机中通常有两种表示方法,一种是约定所有数值数据的小数点隐含在某一个固定位置上,称为定点表示法,简称 定点数 ;另一种是小数点位置可以浮动,称为浮点表示法,简称 浮点数 。 1. 定点数表示法(fixed-point) 所谓定点格式,即约定机器中所有数据的小数点位置是固定不变的。在计算机中通常采用两种简单的约定:将小数点的位置固定在数据的最高位之前,或者是固定在最低位之后。一般常称前者为定点小数,后者为定点整数。 定点小数 是纯小数,约定的小数点位置在符号位之后、有效数值部分最高位之前。若数据 x 的形式为 x = x 0 . x 1 x 2 … x n ( 其中 x 0 为 符号位 , x 1 ~ x n 是数值的有效部分,也称为 尾数 , x 1 为最高有效位 ) ,则在计算机中的表示形式为: 一般说来,如果最末位 x n = 1 ,前面各位都为 0 ,则数的绝对值最小,即 | x | mi n = 2 - n 。如果各位均为 1 ,则数的绝对值最大,即 | x | m a x =1-2 - n 。所以定点小数的表示范围是: 2 - n ≤ | x | ≤ 1 - 2 - n 定点整数 是纯整数,约定的小数点位置在有效数值部分最低位之后。若数据 x 的形式为 x = x 0 x 1 x 2 … x n ( 其中 x 0 为符号位, x

2.2定点与浮点数据表示

走远了吗. 提交于 2020-03-29 17:46:02
1、定点数据表示   *可表示定点小数和整数   *   *定点小数表示数的范围(补码为例):-1≤x ≤ 1- 2 -n   *定点整数表示数的范围(补码为例):-2 n ≤ x ≤ 2 n -1   *定点数据表示数的不足:数据表示范围受限 2、浮点数据表示 把数的范围和精度分别表示的一种数据表示方法 浮点数的使用场合:当数的表示范围超出了定点数据能表示的范围时 1)格式(一般格式) 一般表示格式的不足:不同系统可能根据自己的浮点数格式从中提取不同位数的阶码 2)IEEE  754格式 *指数采用偏移值,其中单精度偏移值为127,双精度为1023,将浮点数的阶码值变成非负整数,便于浮点数的比较和排序。 *IEEE754尾数形式为1.XXXXXX,其中M部分保存的是XXXXXX(1被隐藏),从而可保留更多的有效位,提高数据表示的精确度。 来源: https://www.cnblogs.com/fate-/p/12593341.html

MySQL的数据类型

限于喜欢 提交于 2019-12-05 11:14:15
Mysql支持的多种数据类型主要有:数值数据类型、日期/时间类型、字符串类型。 整数 浮点数&定点数 注:定点数以字符串形式存储,对精度要求高时使用decimal较好;尽量避免对浮点数进行减法和比较运算。 时间/日期类型 字符串类型 二进制类型 来源: https://www.cnblogs.com/linbin7/p/11921968.html