hsmmxfhyp 发表于 2010-8-12 09:58:46

请教高位表误差计算方法

如3458A,在RANG=10V,24Hour(ppm of Reading+ppm of Rang)=0.5+0.05.设有一读数DCV_x按此计算出误差为5.5uV,请问最后的修正读数应该是DCV_x+5.5uV还是DCV_X-5.5uV?

happymanlxh 发表于 2010-8-12 16:33:10

lymex 发表于 2010-8-12 19:41:00

直接用表读，不能修正。
最后的值就在DCV_x - 5.5uV和DCV_x + 5.5uV之间。

youngliu 发表于 2010-8-12 21:14:43

只有表的实际误差（或称偏差）为已知的情况下才能修正

hsmmxfhyp 发表于 2010-8-16 11:14:38

回 2楼(lymex) 的帖子

多谢,就是说我给出的测试结果就是DCV_x ±5.5uV
页: [1]
查看完整版本: 请教高位表误差计算方法