本文共 1104 字，大约阅读时间需要 3 分钟。

计算机数值处理基础

一、一些概念

机器数

数值在计算机内部的编码，即实际存储的0/1序列。

真值

机器数想要表示的实际数值，可理解为现实生活中我们平常所用的有正负号的数。

机器数与真值的对应关系

主要有4种：原码，反码，补码，移码。

二、数值比较

有符号数与无符号数

• 给定一个数，在计算机里如何存储，表示成0/1序列是编码的事，而对这0/1序列如何解释是上层软件的事情。
• 通常默认为有符号数相比，若出现无符号数，则按照无符号数相比。
• 如C语言中可解释为有符号数和无符号数，而Java中只解释为有符号数。

示例

• 11...111B(-1) < 00...000B(0)
• 0U为无符号数，11...111(2^32-1) > 00...000(0)
• 判断常量类型时是先将符号“踢开”，只看后面的数值在哪个区间，根据区间确定类型。

编程示例

• strlen函数返回的是size_t，按无符号数解释，比较时结果不正确。
• 改进方法：return strlen(str1) > strlen(str2)，直接让两个串的长度比较。

三、浮点数(IEEE 754)

浮点数格式

• 符号位：1表负，0表正
• 阶码用移码表示，是一个定点整数，偏置常数是2^n-1
• 尾数是一个定点小数，实际表示24位有效数字，隐含了一位1

表示范围

• 32位单精度：最小正数2-126，最大整数(2-2^23)*2^127
• 64位双精度：最小正数2-1022，最大整数(2-2^52)*2^1023

特殊表示

• 阶码全0尾数全0：+0或-0
• 阶码全1尾数全0：+∞或-∞
• 阶码全1尾数非0：NaN（Not a Number）
• 阶码全0尾数非0：非规格化数

加减法运算

四、数值运算

移位运算

• 逻辑移位：不考虑符号位
• 算术移位：考虑符号位
• 编译器和CPU移位运算不同：编译器实际移位，CPU移位数取模

位扩展与截断

• 扩展：0扩展与符号扩展
• 截断：长数向短数转化时发生截断

加减法

• 现代计算机整数都可以看做是用补码表示的
• 乘除法：编译器处理常量与变量乘除时会用移位，加法，减法的组合运算来代替

浮点数乘除法

• 加减法的主要区别在于乘除法不用对阶
• 乘法运算过程：尾数与尾数运算，指数与指数运算

五、总结

计算机数值处理涉及编码、比较、运算等多个方面，理解补码、移码、浮点数等概念至关重要。编程时需注意数值类型的影响，避免因类型转换不当导致的错误。

转载地址：http://hpiv.baihongyu.com/