了解分辨率和精度之间的关系将帮助您确定使用数字实际可以测量的电压、电流或电阻有多小，或者这些值的变化有多小。
    当您购买时，您通常首先看的是万用表显示了多少个“数字”或多少个“计数”。万用表的位数或计数越多，测量的分辨率就越高。位数与数字万用表的模数可以输出的不同值的数量直接相关。
    例如，3-1/2 位数字万用表可以显示多 2000 个不同的值或“计数”，范围从 0 到 1999。在这种情况下，有效数字是 1 或 0。这就是为什么它被称为“计数”。半位数。” 4-1/2 位数字万用表多可显示 20000 个计数。一代的数字万用表已经完全消除了数字的概念。相反，它们仅以计数形式指定显示分辨率。
    计数次数越多，分辨率越高。这意味着您的数字万用表的位数越多，您可以测量的电压变化越小。例如，像 Fluke 83V 这样的 6000 计数万用表可以在 6.000 V 刻度上测量 0 V 到 5.999 V，分辨率为 1 mV。
    不过，解决方案并不是故事的全部。一方面，数字测量始终具有 ±1 计数的不确定度：当 6000 计数 DMM 显示 3.000 V 时，实际值可能是 3.001 V 或 2.999 V。
    除了数字不确定性之外，在确定实际可以测量的电压变化有多小时，还必须考虑模拟精度规格。Fluke 83V 的直流电压精度规格为读数的 ±0.1%。如果您尝试使用此数字万用表读取 3.000 V 读数，则必须另外添加 3 mV 的不确定性。当您将模拟不确定性添加到数字不确定性时，您可以看到 3.000 V 读数现在实际上可能高达 3.004 V 或低至 2.996 V。
    许多其他因素会影响测量的准确性。例如，Fluke 83V 数据表指出，只有当 DMM 在“18 °C 至 28 °C 的工作温度、相对湿度高达 90% 的情况下运行一年后，精度指标才良好”。校准。” 如果您在较热或较冷的温度下或在非常潮湿的条件下操作数字万用表，则无法期望获得的精度。
    还需要注意的是，只有定期校准才能保证精度规格。如果精度在您的应用中很重要，请务必每年或制造商指定的任何校准周期对您的数字万用表进行校准。