# 1. 把十进制 0.1 用 IEEE 754 双精度表示,写出近似值的十六进制位模式? A 0x3FB999999999999A ✓ 正确答案 B 0x3FC999999999999A C 0x3FB9999999999990 D 0x3FA999999999999A
# 6. 浮点下溢(underflow)与次正规数(subnormal)中,单精度最接近 0 的正规数是多少,渐进式下溢如何牺牲精度换取范围? A 2^-23 B 2^-126 C 2^-127 D 2^-149 ✓ 正确答案
# 7. 在 SQL 中 SUM 大量 DECIMAL 列可能溢出?用何种类型与策略规避? A 使用 INT 类型 B 将列 cast 为更高精度 DECIMAL ✓ 正确答案 C 删除多余行 D 使用 CHAR 存储
# 13. FMA(fused multiply-add)指令如何避免 a×b+c 的中间结果双重舍入(double rounding),对数值稳定性有何意义? A 中间结果不单独舍入,只舍入一次 ✓ 正确答案 B 提高速度但降低精度 C 消除所有浮点误差 D 只支持整数运算
# 14. Kahan 补偿求和如何把大量小数累加的误差从随 n 增长降到近常数?以 0.1 累加 100 万次说明误差改善? A 完全归零 B 随 n 线性增长 C 指数增长 D 近常数(补偿后) ✓ 正确答案