Die Auflösung ist der kleinstmögliche Abstand zwischen einem Messwert und dem nächsthöheren Messwert. Dieser Abstand wird bezogen auf die Gesamtbreite des Quantisierungsbereichs. Die Auflösung ist abhängig von dem gewählten Messinstrument. Sie kann zwischen Werten unterhalb von 0,1% und oberhalb von 10% varrieren. Beispiel: Eine Waage kann Objekte mit einem Maximalgewicht von bis zu 100 kg wiegen. Das Ergebnis eines Wiegevorgangs kann bis auf die erste Nachkommastelle genau angegeben werden. Der Quantisierungsbereich beträgt 0kg-100kg, die Auflösung dementsprechend 0,1/100=0,1%.