如果某计算机工具具有7位有效数字(如程序设计语言中的单精度运算),则在计算下列三个量 A=10^1

如果某计算机工具具有7位有效数字(如程序设计语言中的单精度运算),则在计算下列三个量
A=10^12 (即10的12次方)
B=1
C= -10^12

的和时,如果采用不同的运算顺序,就会得到不同的结果.即:

A+B+C = 10^12+ 1+(1O^12)=0
A+C+B = 10^12+(-10^12)+1= 1

第一个式子，因为是7位有效数字所以10^12+1=10^12（个位已经不是有效位了）再减去10^12后就是0
第二个式子，前两个数字运算等于0（因为他们的有效数位相同，数字正好抵消）在加上1就是1

没看懂，好深奥

没看懂，好深奥。 再看看别人怎么说的。

A+B+C = 10^12+ 1+(1O^12)=0这个等式中(1O^12)中的0写成O了