Woltomierzem cyfrowym o błędzie podstawowym ± (0,1% odczytu +2 dgt) na zakresie pomiarowym 200 V zmierzono wartość napięcia U=123,4 V. Błąd bezwzględny pomiaru jest równy
W tym zadaniu kluczowe jest poprawne zrozumienie zapisu błędu przyrządu: ±(0,1% odczytu + 2 dgt). Wiele osób intuicyjnie liczy tylko procent od zakresu albo myli się przy interpretacji „digitów”, co prowadzi do zbyt małego albo zbyt dużego wyniku błędu bezwzględnego. Podstawowy błąd myślowy polega na tym, że część osób liczy 0,1% nie od odczytu, tylko od pełnego zakresu 200 V. To daje 0,1% × 200 V = 0,2 V, a potem ktoś dorzuca 0,2 V za „2 dgt” i wychodzi mu 0,4 V, co sugeruje odpowiedź około ±0,42 V. Problem w tym, że w specyfikacji wyraźnie jest: „odczytu” (reading), a nie „zakresu” (range). W metrologii różnica między „% of reading” a „% of range” jest bardzo istotna. Producenci mierników cyfrowych zwykle podają błąd jako % odczytu, bo ma to większy sens praktyczny przy różnych poziomach mierzonych sygnałów. Druga częsta pułapka dotyczy digitów. „2 dgt” to nie są „2%”, ani „2 volty”, tylko dwie najmłodsze cyfry ostatniego miejsca pomiarowego. Na zakresie 200 V najmniejsza działka to 0,1 V, więc jeden digit to 0,1 V, a dwa digity to 0,2 V. Jeśli ktoś przyjmuje tu 0,1 V razem za całość, to wyjdzie mu za mały błąd, rzędu około 0,22 V. To jest zbyt optymistyczna ocena niepewności i nie odpowiada danym z karty katalogowej. Zdarza się też mieszanie obu składników: ktoś liczy 0,1% od odczytu poprawnie (≈0,12 V), ale potem źle dodaje digity albo zaokrągla w „dziwną stronę”, próbując dopasować wynik do którejś z proponowanych odpowiedzi. Tymczasem dobra praktyka jest prosta: najpierw liczysz część procentową dokładnie tak, jak jest podana (tu od odczytu), następnie przeliczasz digit na wartość napięcia na danym zakresie, a na końcu sumujesz je arytmetycznie. Z mojego doświadczenia w pracy z miernikami i podczas szkoleń technicznych wynika, że kto raz porządnie zrozumie, czym jest „digit”, ten potem znacznie lepiej ocenia jakość pomiarów. W awionice i przy diagnostyce instalacji elektrycznych statku powietrznego błędne oszacowanie niepewności może prowadzić do fałszywej oceny stanu układu: można np. uznać sprawne zasilanie za uszkodzone albo odwrotnie. Dlatego warto przy takich zadaniach krok po kroku analizować zapis błędu i trzymać się metodyki obliczeń spotykanej w instrukcjach obsługi mierników i normach metrologicznych.