国家电网招聘

浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。A.ROM查表法 B.“恒置1”法 C.截断法 D.舍人法

题目
浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。

A.ROM查表法
B.“恒置1”法
C.截断法
D.舍人法
参考答案和解析
答案:B
解析:
“恒置1”法的运算过程为:结果为10.0101,10是不允许的,进行右规,11.00101(最后1省去),11.0010,将最后1位置1,则结果是11.0011。最后的结果是偏小了。
如果没有搜索结果,请直接 联系老师 获取答案。
更多相关问题