Suponha que o valor da massa de um objeto seja 25,9 g e que utilizamos uma balança digital com uma resolução de 0,1 g.
Como a resolução é de 0,1g isto significa dizer que o menor valor lido é de 0,1 g. Considerando que na balança digital existe um algoritmo responsável pela digitalização dos valores medidos, o valor verdadeiro da massa estará compreendido entre o seguinte intervalo:
Valores como 25,96 g serão arredondados pelo instrumento para 26,0 g, da mesma forma que valores como 25,84 g para 25,8 g.
Logo, toda vez que a balança indicar 25,9 g teremos uma dúvida do verdadeiro valor da massa em questão, ocasionada pela sua limitação de resolução.