题目详情

浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。

  • A.ROM查表法
  • B.“恒置1”法
  • C.截断法
  • D.舍人法

正确答案及解析

正确答案
B
解析

“恒置1”法的运算过程为:结果为10.0101,10是不允许的,进行右规,11.00101(最后1省去),11.0010,将最后1位置1,则结果是11.0011。最后的结果是偏小了。

你可能感兴趣的试题

单选题

机械动力类,章节练习,结构力学

机械动力类,章节练习,结构力学

  • A.1∶1
  • B.1∶(-1)
  • C.1∶2
  • D.1∶(-2)
查看答案
单选题

机械动力类,章节练习,结构力学

机械动力类,章节练习,结构力学

  • A.见图A
  • B.见图B
  • C.见图C
  • D.见图D
查看答案
单选题

机械动力类,章节练习,结构力学

  • A.见图A
  • B.见图B
  • C.见图C
  • D.见图D
查看答案
单选题

机械动力类,章节练习,结构力学

  • A.0.65cm
  • B.4.02cm
  • C.0.223cm
  • D.0.472cm
查看答案
单选题

机械动力类,章节练习,结构力学

机械动力类,章节练习,结构力学

  • A.见图A
  • B.见图B
  • C.见图C
  • D.见图D
查看答案

相关题库更多 +