Contenido teórico

Exactitud de los instrumentos de medición

Al realizar una medición, la cantidad definida de dígitos mostrará la exactitud del instrumento, es decir, su capacidad para proporcionar una lectura del valor más cercano al real, según qué tan precisa sea la coincidencia de la distancia de las marcas del instrumento con la magnitud del objeto medido.

Ejemplo: al medir el grosor de un tabique con una regla graduada en centímetros y milímetros y con un calibrador Vernier, ambas lecturas serán parecidas, pero la diferencia entre ellas se registra en el número de dígitos:

1. Con la regla, la medida puede quedar entre dos marcas, obligando al observador a elegir la marca más cercana.
2. Con el calibrador Vernier también se presenta la misma situación, pero la distancia entre sus marcas es menor.
3. Por lo tanto, el calibrador Vernier es más preciso que la regla, porque tiene mayor exactitud para determinar una magnitud.

Además, al combinar mediciones mediante multiplicaciones y divisiones (por ejemplo, el área de una mesa rectangular a partir de su largo y su ancho), la calculadora probablemente entrega más cifras decimales que las de los datos de partida. En estos casos se usan las cifras significativas y los criterios de redondeo para facilitar los cálculos.

Reglas de redondeo

Una vez localizada la posición de la cifra por redondear, se aplican los siguientes criterios:

1. Si la cifra inmediata a la derecha de la cifra por redondear es igual o menor que cuatro (0, 1, 2, 3, 4), sólo se toma el valor hasta la posición indicada, sin cambios en la cifra por redondear.
2. Si la cifra inmediata a la derecha es mayor o igual que cinco (5, 6, 7, 8, 9), se toma el valor hasta la posición de la cifra por redondear y se suma 1 a esa cifra.

Ejemplo resuelto (página 252)

Enunciado: El tiempo necesario para recorrer una pista de atletismo fue de 60.529645293473\,\text{s}; sin embargo, para comprobar se usará un cronómetro que mide hasta el tercer decimal. ¿Cuál es el valor del tiempo redondeado?

Paso 1. Identificar la cifra que se quiere redondear (tercer decimal) y el número posterior.

Descomponemos el número:

60.529645293473

• Primer decimal: 5
• Segundo decimal: 2
• Tercer decimal (cifra por redondear): 9
• Número posterior (cuarta cifra decimal): 6

Así se indica en la figura: número por redondear = 9, número posterior = 6.

Paso 2. Aplicar la regla de redondeo.

Como el número posterior es 6, y 6 \ge 5, se debe sumar 1 a la cifra por redondear (9):

9 + 1 = 10

Al sumar 1 al 9 se produce un acarreo: el tercer decimal pasa a ser 0 y se incrementa en 1 el segundo decimal.

Paso 3. Propagar el acarreo.

• Segundo decimal: 2 + 1 = 3
• Tercer decimal: 0

Entonces la parte decimal redondeada hasta el tercer decimal es 0.530.

Paso 4. Escribir el valor redondeado.

60.529645293473 \approx 60.530\,\text{s}

Respuesta: el tiempo redondeado al tercer decimal es 60.530\,\text{s}.

Comprobación con otro caso (aplicación de las reglas)

Si el mismo tiempo se redondeara al segundo decimal: cifra por redondear = 2, posterior = 9. Como 9 \ge 5, se suma 1: 2 + 1 = 3; resultado: 60.53\,\text{s}.

Si se redondeara al cuarto decimal: cifra por redondear = 6, posterior = 4. Como 4 \le 4, no cambia; resultado: 60.5296\,\text{s}.