﻿误差设置:(所有设置均需要重新启动程序后生效)

【矩阵运算】

如下一个矩阵

a =
[ 5.8347283470E-07     2.00000000000000     3.4074798242E-08     4.00000000000000
  3.00000000000000     0.09445530110700     4.00000000000000     4.00000000000000
  2.00000000000000     1.5137857485E-07     6.00000000000000     5.3153919919E-07
  1.0374372177E-07     8.00000000000000     7.3154253313E-07     3.00000000000000 ]

实际情况是当中绝对值小于1e-6的部分实际数据应该为0,即如下,程序可以通过相应设置来达到

a =
[ 0.00000000000000     2.00000000000000     0.00000000000000     4.00000000000000
  3.00000000000000     0.00000000000000     4.00000000000000     4.00000000000000
  2.00000000000000     0.00000000000000     6.00000000000000     0.00000000000000
  0.00000000000000     8.00000000000000     0.00000000000000     3.00000000000000 ]

[解决]

程序里提供了解决上面误差的方法,在程序目录下的Calculator文件夹里,看是否有个名称为"Constant.txt"的文本文件,没有的话,请新建一个.在Constant.txt文本里新建一行,写下如下的内容

[matrix=1e-6]

即表示在算式解析中遇到数据小于1e-6时直接认为为0,plural=后必须是一个不小于0的数据,否则程序不会自动为相应的数据归0,将按照未设置数据进行运算

【算式解析】

1、看下面进行的计算

sin(2*pi)
ans = -6.46217020866535E-15

很明显,我们希望sin(2*pi) = 0,而程序给我们的是-6.46217020866535E-15,看起来不怎么美观

[解决]

程序里提供了解决上面误差的方法,在程序目录下的Calculator文件夹里,看是否有个名称为"Constant.txt"的文本文件,没有的话,请新建一个.在Constant.txt文本里新建一行,写下如下的内容

[plural=1e-10]

即表示在算式解析中遇到数据小于1e-10时直接认为为0,plural=后必须是一个不小于0的数据,否则程序不会自动为相应的数据归0,将按照未设置数据进行运算