浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。
- A.ROM查表法
- B.“恒置1”法
- C.截断法
- D.舍人法
正确答案及解析
正确答案
B
解析
“恒置1”法的运算过程为:结果为10.0101,10是不允许的,进行右规,11.00101(最后1省去),11.0010,将最后1位置1,则结果是11.0011。最后的结果是偏小了。
浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。
“恒置1”法的运算过程为:结果为10.0101,10是不允许的,进行右规,11.00101(最后1省去),11.0010,将最后1位置1,则结果是11.0011。最后的结果是偏小了。