IEEE754标准中的舍八模式可以用于二进制数也可以用于十进制数,在采用舍入到最接近且可表示的值时,若要舍八成两个有效数字形式,(12.5)。应该舍入为()。
- A.11
- B.3
- C.12
- D.10
正确答案及解析
正确答案
C
解析
由于最后一位是5,采用取偶数的方式,整数部分为偶数时向下取整、为奇数时向上取整,而要使结果中最小有9位数是偶数,则Ⅲ(12.5)D向下舍入为12。
IEEE754标准中的舍八模式可以用于二进制数也可以用于十进制数,在采用舍入到最接近且可表示的值时,若要舍八成两个有效数字形式,(12.5)。应该舍入为()。
由于最后一位是5,采用取偶数的方式,整数部分为偶数时向下取整、为奇数时向上取整,而要使结果中最小有9位数是偶数,则Ⅲ(12.5)D向下舍入为12。