Resolución y precisión

Precisión

La idoneidad de un dispositivo de medición para una tarea de medición depende en gran medida de los requisitos que debe cumplir el dispositivo de medición para realizar una medición lo suficientemente precisa para el usuario. Un requisito importante es la resolución y la precisión de la medición. La precisión de la medición de un aparato de medición se encuentra a menudo bajo el término «precisión básica».  El valor tiene la unidad [%] e indica el porcentaje máximo en el que el resultado medido por el dispositivo puede desviarse del valor físicamente correcto. Una precisión de base de ±0,05% significa que el valor medido se desvía un máximo de +0,05% o -0,05% del valor físicamente correcto. La precisión básica especificada por el fabricante suele reflejar la menor desviación posible, que puede aumentar en determinadas circunstancias si se modifican parámetros como la frecuencia o la velocidad de medición.

Resolución

Otro factor importante para una medición cualitativa es la resolución. Indica los incrementos en los que se pueden reproducir los valores medidos. Cuanto más alta sea la resolución de un dispositivo de medición, más precisa será la representación de un valor. En otras palabras, cuanto mayor sea la resolución, más valores diferentes podrán representarse en este rango de medición. Por ejemplo, si el rango de medición es de 0Ω – 1000Ω con una resolución de 1Ω, se pueden mostrar 1000 valores de medición diferentes. Sin embargo, si el valor de la resistencia debe medirse con una precisión de 0,5 Ω, se requiere un dispositivo de medición con una resolución de al menos 0,5Ω. Cuanto más se conozcan de antemano los requisitos del aparato de medición, mejor se podrá adaptar éste a la aplicación.

Ejemplo 1: «Dispositivo de medición de cálculos

Valores objetivo: Se desea medir una resistencia entre 0,01 Ω y 0,05 Ω. Su tolerancia debe ser de +/- 5%. Esto da como resultado el siguiente cálculo: 10 mΩ (0,01 Ω) * 5% = 0,5 mΩ.

Valores REALES: por ejemplo, dispositivo de medición de resistencia DU5010 con un rango de medición de 200 mΩ: 0,01 mΩ – 199,99 mΩ. Esto da como resultado el siguiente cálculo: 200 mΩ * 0,1% = 0,2 mΩ.

Como el cambio de 0,2 mΩ es menor que el de 0,5 mΩ, la precisión del medidor de resistencia DU5010 sería perfectamente adecuada.

Ejemplo 2: «Cálculo de la resolución y la precisión

Hay que medir resistencias de 5 Ω. La desviación máxima de las resistencias puede ser de 0,1 Ω. La resolución mínima requerida de 0,1 Ω resulta de la desviación máxima a medir. La desviación de 0,1 Ω corresponde entonces a la siguiente desviación porcentual: (0,1 Ω / 5 Ω) * 100 = 2 %.

Por lo tanto, se necesita un dispositivo de medición que tenga una precisión básica inferior al 2 %.
Por lo tanto, hay dos requisitos claros:

Resolución ≤ 0,1 Ω

Precisión básica ≤ 2 %.

« Volver