罗罗编程学习记录
本页内容 展开查看

01.5.5 数据表示与浮点精度

所属:全栈开发面试题库 / 01 计算机基础与通用工程 / 01.5 计算机组成与体系结构

覆盖范围

  • 补码与有符号数表示
  • 大小端(endianness)
  • 字节对齐与结构体填充
  • IEEE 754 浮点格式
  • 精度丢失、金额计算选型

高频题速览

编号 题目 难度 频率
01.5.5-001 为什么用补码表示负数 进阶 ★★★★★
01.5.5-002 大小端是什么 基础 ★★★★★
01.5.5-003 结构体为什么会有填充 进阶 ★★★★★
01.5.5-004 IEEE 754 单精度怎么存 进阶 ★★★★★
01.5.5-005 为什么 0.1 + 0.2 不等于 0.3 基础 ★★★★★
01.5.5-006 金额为什么不能用 double 进阶 ★★★★★
01.5.5-007 浮点 NaN 和 Inf 怎么来的 进阶 ★★★☆☆
01.5.5-008 跨网络传数据怎么处理大小端 进阶 ★★★★☆

01.5.5-001 为什么用补码表示负数?

一句话结论

补码让加法器无需区分正负数,减法可以转成"加上负数的补码",零只有一个表示,而且符号位自然参与运算;这是硬件简化加法器的核心设计。

概念解释

  • 原码:最高位符号位,其余位表示绝对值,零有 +0/-0 两个表示。
  • 反码:负数按位取反,零仍有两个表示。
  • 补码:负数 = 反码 + 1,零唯一;-x = ~x + 1。
  • 范围:n 位补码表示 -2^(n-1) 到 2^(n-1)-1,负数比正数多一个。

原理流程

  1. 定义正数按二进制。
  2. 负数 = 对应正数取反加一。
  3. 减法 a - b = a + (~b + 1),加法器统一处理。

代码或图示

4 位:
+5 = 0101
-5 = ~0101 + 1 = 1010 + 1 = 1011
验证:0101 + 1011 = 10000,溢出后取低 4 位 = 0000

常见误区

  • 以为补码是为了节省位数:主要目的是统一加减法、零唯一。
  • 以为 -128 有对应的 +128:8 位补码范围 -128~127,-128 没有对应正数。

追问

  • 怎么快速算负数补码?答:从右往左找第一个 1,该 1 及其右边保持不变,左边逐位取反。
  • 补码移位和乘法关系?答:算术右移等价于除以 2(负数补码右移高位补 1),硬件移位指令直接利用。

01.5.5-002 大小端是什么?网络字节序是哪种?

一句话结论

大端(big-endian)把多字节数的最高有效字节存最低地址,小端(little-endian)把最低有效字节存最低地址;网络协议(TCP/IP)规定用大端字节序传输。

概念解释

  • 大端:x86 之外很多(网络字节序、PowerPC 早期、ARM 可配置)。
  • 小端:x86、多数现代 PC。
  • 同一数据在两种机器上内存布局不同,跨网络传输必须统一字节序。

原理流程

  1. 32 位 0x12345678。
  2. 大端地址 0 存 0x12,地址 3 存 0x78。
  3. 小端地址 0 存 0x78,地址 3 存 0x12。

代码或图示

数据 0x12345678:
地址:  0    1    2    3
大端:  12   34   56   78
小端:  78   56   34   12

常见误区

  • 以为字节序只影响整数:浮点、结构体里多字节字段都受影响。
  • 以为 ARM 一定是小端:ARM 架构可配置,现代服务器/手机多为小端,但网络协议仍统一大端。

追问

  • C 里怎么转换字节序?答:htons/htonl(主机转网络)、ntohs/ntohl,网络编程必用。
  • 怎么判断本机大小端?答:联合或指针 uint16_t x=1; (*(uint8_t*)&x)==1 是小端。

01.5.5-003 结构体为什么会有填充?

一句话结论

CPU 访问多字节数据要求对齐到其大小的整数倍地址(否则一次访问拆成两次总线操作),编译器在结构体成员之间插入填充字节,保证每个成员的起始地址满足对齐要求。

概念解释

  • 对齐要求:int 通常 4 字节对齐,double 8 字节对齐。
  • 填充:成员按声明顺序排,若下一个成员起始不对齐,前面补空字节。
  • 整体对齐:结构体大小还要是其最大成员对齐值的整数倍。

原理流程

  1. 成员按顺序分配偏移。
  2. 若某成员起始地址不是其大小倍数,前面插入填充。
  3. 结构体总大小补齐到最大成员对齐值。

代码或图示

struct {
    char a;    // offset 0
    // 3 字节填充
    int  b;    // offset 4
    char c;    // offset 8
    // 3 字节填充(整体对齐到 4)
};             // sizeof = 12

常见误区

  • 以为结构体大小就是各成员之和:填充可能让它比之和大很多。
  • 以为调整成员顺序没用:把大对齐成员放前面、小成员放后面可省填充。

追问

  • 怎么取消填充?答:#pragma pack、__attribute__((packed)),但会导致访问不对齐、性能下降甚至崩溃(ARM 严格对齐)。
  • 网络结构体怎么处理?答:协议头必须按字节流布局,用 packed 或按字段手动编码,避免对齐差异。

01.5.5-004 IEEE 754 单精度是怎么存的?

一句话结论

32 位 float 由 1 位符号、8 位指数、23 位尾数组成,值 = (-1)^s × 2^(e-127) × (1.m),尾数隐含前导 1,因此 23 位尾数实际提供 24 位有效位。

概念解释

  • 符号位 s:0 正 1 负。
  • 指数 e:偏移 127,实际指数 = e - 127;全 0 与全 255 保留给非规格化数/Inf/NaN。
  • 尾数 m:23 位,规格化数隐含 1.,实际精度 24 位二进制(约 7 位十进制)。

原理流程

  1. 把实数写成二进制科学计数法 1.xxx × 2^n。
  2. 符号位、指数加偏移、尾数取小数部分。
  3. 拼 32 位存入。

代码或图示

float:|s| eeeeeeee |mmmmmmmmmmmmmmmmmmmmmmm|
       1  8         23
double:1  11(偏移 1023)  52 位尾数 → 约 15~17 位十进制

常见误区

  • 以为 float 精确到小数点后 7 位:是 24 位二进制 ≈ 7.2 位十进制,超过 7 位就可能丢精度。
  • 以为尾数是 23 位:隐含前导 1,实际 24 位。

追问

  • 非规格化数(denormal)是什么?答:指数全 0 时尾数不再隐含前导 1,用于表示接近 0 的极小值,但运算慢。
  • double 精度多少?答:52 位尾数(53 位有效),约 15~17 位十进制。

01.5.5-005 为什么 0.1 + 0.2 不等于 0.3?

一句话结论

0.1 和 0.2 在二进制浮点里是无限循环小数,存储时被截断成最接近的近似值;相加后仍带误差,结果比 0.3 略大,直接 == 比较为 false。

概念解释

  • 十进制 0.1 在二进制是 0.0001100110011... 循环。
  • float/double 只能存截断后的近似值。
  • 两个近似值相加,误差累积,不等于精确 0.3。

原理流程

  1. 0.1 存储为近似值。
  2. 0.2 存储为近似值。
  3. 相加得到 0.30000000000000004(double 下),与 0.3 不等。

代码或图示

Python:
>>> 0.1 + 0.2
0.30000000000000004
>>> 0.1 + 0.2 == 0.3
False

常见误区

  • 以为这是 bug:是 IEEE 754 表示局限,所有语言都一样。
  • 以为用 == 比较浮点是合理的:应比较 abs(a-b) < epsilon。

追问

  • 怎么比较浮点?答:abs(a - b) < 1e-9(按精度选 epsilon),或用 Decimal 精确十进制。
  • 为什么数据库 decimal 能精确?答:十进制定点存储,不经过二进制浮点转换。

01.5.5-006 金额为什么不能用 double?

一句话结论

金额需要精确十进制计算,double 是二进制近似,累加与四舍五入会产生误差;应使用定点类型(decimal、BigDecimal)或最小货币单位(分)用整数存储。

概念解释

  • 误差来源:二进制无法精确表示常见十进制金额(0.1、0.01)。
  • 累积:大量交易累加后误差可能放大到分位。
  • 方案:Java BigDecimal、C# decimal、MySQL DECIMAL、或用 long 存"分"。

原理流程

  1. 用定点/十进制类型存储金额。
  2. 运算按十进制精确进行。
  3. 展示时再格式化为字符串。

代码或图示

// 错误
double total = 0.1 + 0.2;
// 正确
BigDecimal total = new BigDecimal("0.1").add(new BigDecimal("0.2"));

常见误区

  • 以为用 float/double 金额差几分钱无所谓:金融场景分位即错,对账对不平。
  • 以为 BigDecimal 用 double 构造就行:new BigDecimal(0.1) 仍带误差,必须传字符串。

追问

  • 用 long 存分有什么局限?答:整数运算精确但小数位要自己处理,大额(百亿级)注意 long 溢出。
  • 数据库 DECIMAL(p,s) 怎么选?答:p 总位数、s 小数位,按业务金额上限选,如 DECIMAL(18,4)。

01.5.5-007 浮点 NaN 和 Inf 怎么来的?

一句话结论

IEEE 754 规定指数全 1 保留:尾数为 0 表示无穷大(Inf),尾数非 0 表示非数字(NaN);除以 0 得 Inf,0/0、Inf-Inf 等非法运算得 NaN。

概念解释

  • Inf:1.0/0.0(浮点除以 0 不抛异常)。
  • NaN:0.0/0.0、sqrt(-1)、Inf - Inf。
  • NaN 特性:NaN == NaN 为 false,任何与 NaN 比较都 false。

原理流程

  1. 运算结果超出范围 → Inf。
  2. 运算非法 → NaN。
  3. 浮点异常默认不抛信号,由程序检查。

代码或图示

1.0 / 0.0  →  Inf
0.0 / 0.0  →  NaN
NaN == NaN  →  false

常见误区

  • 以为除以 0 会崩溃:浮点除以 0 是 Inf,不抛异常;整数除以 0 才崩溃。
  • 以为 NaN 等于自己:不等于,检查 NaN 要用 isNaN()。

追问

  • 怎么判断结果是否 NaN?答:语言内置 isnan/Float.isNaN,不能用 ==。
  • 为什么 NaN 设计成不等于自己?答:因为它表示"非法结果",任何比较都不应成立,便于传播错误。

01.5.5-008 跨网络传数据怎么处理大小端?

一句话结论

多字节整数在网络上统一用大端(网络字节序),发送端用 htonl/htons 转大端,接收端用 ntohl/ntohs 转回主机字节序;浮点和结构体则要显式定义字节布局。

概念解释

  • 网络协议规定:IP/TCP 头用大端。
  • 应用层自定义协议:要么统一大端,要么用 Protobuf 等自描述编码(按 varint,不依赖字节序)。
  • 结构体:不要直接 send 内存,字节序和填充都可能不同。

原理流程

  1. 发送:主机序 → 网络序(htonl)。
  2. 传输:大端字节流。
  3. 接收:网络序 → 主机序(ntohl)。

代码或图示

uint32_t host_val = 0x12345678;
uint32_t net_val = htonl(host_val);
send(sock, &net_val, sizeof(net_val), 0);
// 接收端
uint32_t net_val; recv(...);
uint32_t host_val = ntohl(net_val);

常见误区

  • 以为直接 send 结构体就行:结构体里有填充、字节序两端不同,跨平台必错。
  • 以为 Protobuf 也有字节序问题:它用 varint 按编码规则序列化,与字节序无关。

追问

  • Protobuf/Thrift 怎么处理多字节?答:用 varint 变长编码,每个字节低位 7 位有效、高位 1 表示是否继续,天然不依赖端序。
  • 为什么 JSON 没有字节序问题?答:JSON 是文本,数字按十进制字符串编码,收发方各自解析。

01.5.5-009 定点数(Q 格式)是什么?什么时候用?

一句话结论

定点数用整数模拟小数(如 Q16.16 表示高 16 位整数、低 16 位小数),在不支持浮点的硬件(单片机、DSP)或需要精确控制的场景用;它是整数运算,无浮点误差。

概念解释

  • Q 格式:Qm.n 表示 m 位整数、n 位小数。
  • 运算:乘除要移位对齐。
  • 用途:嵌入式、金融、性能敏感无 FPU 场景。

原理流程

  1. 把小数乘以 2^n 转整数。
  2. 整数运算。
  3. 结果除以 2^n 还原。

代码或图示

Q16.16:1.5 表示为 1.5 * 65536 = 98304
乘法:(a*b) >> 16

常见误区

  • 以为定点数比浮点快:现代 CPU FPU 快,定点数优势在无 FPU 或精确性。
  • 以为定点数无溢出:乘法结果要移位,注意位宽。

追问

  • 金融为什么不用定点?答:业务上用十进制(BigDecimal/DECIMAL),定点是二进制模拟,仍有量化误差。
  • 图形学用什么?答:早期无 FPU 用定点,现代全用浮点。

待整理清单

  • [ ] 浮点精度在不同 JIT/编译器下的实际差异
  • [ ] IEEE 754 半精度(fp16/bf16)在 AI 推理中的应用
  • [ ] 定点数与 Q 格式表示