IDL科学计数法乘方注意事项

c1=1.4385* 10^4
c2=1.189* 10^8
在命令行里输入上述变量:

IDL> c1=1.4385*10^4
IDL> c2=1.189*10^8

结果查看:

IDL> c1
       14385.000
IDL> c2
      -9435.9043

c2明显是错误的,且不是由于位数太多而显示为负数.

正确的输入方式是:

IDL> c1=1.4385*10.0^4
IDL> c2=1.189*10.0^8
IDL> c1,c2
       14385.000
  1.1890000e+008
IDL> 

所以科学计数的时候,千万要输入10.0,而不是10

猜你喜欢

转载自blog.csdn.net/qq_37970770/article/details/105992456