万用表测量精度怎么计算?

DT890C+型3位半数字万用表的DCV2V档准确度在说明书中的表达式为:±(0.01%RDG+1字),某同志一次测量7号干电池端电压为1.755V,谁可以帮助计算电池真实端电压的可能范围。

若精度为±(0.01%RDG+1字) 表示总误差为读书的0.01%加上量程的1个字分辨率,读数的0.01%
就是1.755V×0.01%,量程的一个字就是0.001V,所以误差就是±(1.755V×0.01%+0.001V)近似为±0.001V,也就是真实值在1.754V至1.756V之间。
另外实际中DT890C+不可能是:±(0.01%RDG+1字)的误差,读数误差太小了,估计是:±(0.1%RDG+1字),此时±(1.755V×0.1%+0.001V)近似为±0.003V,真实值在1.752V至1.758V之间。
如果是笔误就罢了,如果题目或说明书原来就是这样,那就脑残了!
温馨提示:内容为网友见解,仅供参考
第1个回答  2013-11-27
890属于普及型的低档表 不可能:±(0.01%RDG+1字),

万用表仪表精确度等级计算
万用表的精度计算基于公式±a%=(ΔXm\/Xm)×100%,其中ΔXm代表最大绝对误差,Xm为仪表的基本量程。在额定条件下使用时,电工测量指示仪表的最大基本误差的百分数被称为仪表精度等级a的百分数。根据国家标准,电压表和电流表的精度等级分为0.05、0.1、0.2、0.3、0.5、1.0、1.5、2.0、2...

万用表的精度是怎么算出来的,利用什么原理算出来的?
数字万用表准确度以直流电压档为准,计算方法为 V=|TU\/AU| V为精度等级 5级=+-5 TU测量示值的绝对误差。如标准电压为100V,测量示值为102V,示值绝对误差=100-102=-1 AU为量程,200V档为200V 则精度=(-2)\/200=|-1%|,精度等级为1.0 ...

万用表测量精度怎么计算?
例如:假设您希望使用准确度为1年、量程为10V的34401A万用表测量10Vdc信号,那么精度为:0.0035+0.0005=10x(0.0035\/100)+10x(0.0005\/100)=+\/-0.00040因此:测量值为:10.00000精度为:*+\/-0.00040分辨率为:0.00001实际读数在9.9996和10.0004之间 测量值的最后两位数包括误差。

调试万用表电阻档测量精度怎么调?
指针式万用表的精度与表头的精度、电阻的精度及电池电压有关,其电阻档的精度以中心阻值为准。1、绝对误差=测得值-标准值; 2、相对误差=(测得值-标准值)÷标准值×100%; 3、基本误差=(测得值弧长-标准值弧长)÷标准值弧长×100%。

万用表测量精度怎么计算?
若精度为±(0.01%RDG+1字) 表示总误差为读书的0.01%加上量程的1个字分辨率,读数的0.01 就是1.755V×0.01%,量程的一个字就是0.001V,所以误差就是±(1.755V×0.01%+0.001V)近似为±0.001V,也就是真实值在1.754V至1.756V之间。另外实际中DT890C+不可能是:±(0.01%RDG+...

万用表精度算法
±(2%+12) 也就是±(0.3A×2%+12×0.01A)=±0.126A 实际电流就是0.426A--0.174A之间。同样该表在400A时,显示最低位变为0.1A 其量程误差就是±12×0.1A=±1.2A,可见是很大的。一般测量要求被测值应在满量程的5%至100%最好,其中”±(2%+12) “的”2%“是读数误差,读...

数字万用表精度
精度等级是最小分辨率除以量程算出来的。0.5等级就是0.5%的意思,一般万用表都能达到。一般手持的万用表比如FLUKE 15B+、17B+精度都是三位半,0.1%是0.1等级;台式的万用表一般都是五位半起步,还有七位半、八位半;选择档位,除首位有效数字有几位,如0.00001mV的话,小数点后有效数字有5...

数字万用表的精度
在前面的例子中,精度可能会标为±(1%+2)。因此,如果GMM的读数是100.0V,实际的电压会在98.8V~101.2V之间。模拟表的精度是按全量程的误差来计算的,而不是按显示的读数来计算。模拟表的典型精度是全量程的±2%或±3%。数字多用表的典型基本精度在读数的±(0.7%+1)和±(0.1%+1)之间...

万用表精度±(读数的2%+3个字)什么意思
如果测量值是5.02则误差为 5.02×2%+0.03(3个字是以表显示的最后一位为准,5.02的最后一位是百分位,所以3个字也应写为百分位0.03)=0.1004+0.03=0.1304 所以测量值等于5.02±0.1304

万用表的绝对误差怎么算的?
以公式△%=(AX\/满度值)×100%进行计算。最大绝对误差满足△%=(AX\/满度值)×100%,其中A为准确度(精确度)等级;公式中量度值的最大绝对误差=1\/2*量度工具上的刻度距离。以在选用万用表时为例,并非准确度越高越好。有了准确度高的万用表,还要选用合适的量程。只有正确选择量程,才能发挥万...

相似回答