Precyzja arytmetyczna

Autor: Leandro Alegsa Data utworzenia: 17 grudnia 2020

Precyzja wartości liczbowej opisuje liczbę cyfr, które są używane do pokazania tej wartości. W środowisku naukowym jest to całkowita liczba cyfr (czasami nazywana cyframi znaczącymi lub cyframi znaczącymi) lub, rzadziej, liczba cyfr ułamkowych lub miejsc dziesiętnych (liczba cyfr po przecinku). Ta druga definicja jest przydatna w zastosowaniach finansowych i inżynieryjnych, w których liczenie cyfr w części ułamkowej ma szczególne znaczenie.

W obu przypadkach termin "precyzja" może być użyty do określenia pozycji, w której niedokładny wynik zostanie zaokrąglony. Na przykład, w arytmetyce zmiennoprzecinkowej, wynik zaokrąglany jest do określonej lub stałej precyzji, która jest długością wynikowego znaczenia. W obliczeniach finansowych liczba jest często zaokrąglana do określonej liczby miejsc (na przykład do dwóch miejsc po przecinku dla wielu walut świata).

Jako przykład, ilość dziesiętna 12.345 może być wyrażona różnymi liczbami znaczących cyfr lub miejscami dziesiętnymi. Jeżeli precyzja jest niewystarczająca, liczba ta jest zaokrąglana w pewien sposób, aby dopasować ją do dostępnej precyzji. Poniższa tabela przedstawia wyniki dla różnych całkowitych dokładności i miejsc po przecinku zaokrąglone do najbliższej wartości przy użyciu metody zaokrąglania do kwadratu.

Należy pamiętać, że często nie jest właściwe wyświetlanie figury z większą liczbą cyfr niż ta, którą można zmierzyć. Na przykład, jeżeli urządzenie mierzy z dokładnością do najbliższego grama i daje odczyt 12,345 kg, to podanie "12,34500 kg" z dwoma dodatkowymi zerami ("00") na końcu byłoby fałszywą precyzją.

Przedstawienie liczby dodatniej x z dokładnością do p cyfr znaczących ma wartość liczbową, która jest określona wzorem

okrągły (^10-n-x)-10n, gdzie n = podłoga (log10 x) + 1 - p.

Dla liczby ujemnej, wartość liczbowa jest pomniejszona o wartość bezwzględną. Liczba 0, z dowolną dokładnością, może być przyjęta jako 0.

Pytania i odpowiedzi

P: Co to jest precyzja w wartościach liczbowych?

A: Precyzja w wartości liczbowej określa liczbę cyfr, które są używane do przedstawienia tej wartości.

P: Jak można wykorzystać precyzję do opisania miejsca, w którym zostanie zaokrąglony niedokładny wynik?

O: Precyzję można wykorzystać do opisania miejsca, w którym zostanie zaokrąglony niedokładny wynik, ustawiając daną lub stałą precyzję, która jest długością wynikowego znacznika. W obliczeniach finansowych liczba jest często zaokrąglana do określonej liczby miejsc (na przykład dwa miejsca po separatorze dziesiętnym dla wielu walut światowych).

P: Jak można wyrazić liczbę 12,345 przy różnych liczbach cyfr znaczących lub miejsc po przecinku?

O: 12,345 można wyrazić z różną liczbą cyfr znaczących lub miejsc po przecinku, zaokrąglając ją do dostępnej precyzji metodą zaokrąglania.

P: Co się dzieje, gdy dostępna jest niewystarczająca precyzja?

O: Gdy dostępna jest niewystarczająca precyzja, wtedy liczba jest zaokrąglana w jakiś sposób, aby dopasować ją do dostępnej precyzji.

P: Czy należy wyświetlać liczbę z większą ilością cyfr niż ta, którą można zmierzyć?

O: Nie, nie należy wyświetlać liczby z większą liczbą cyfr niż ta, którą można zmierzyć, ponieważ tworzy to fałszywą precyzję. Na przykład, jeżeli urządzenie mierzy z dokładnością do jednego grama i daje odczyt 12,345 kg, to fałszywą precyzją byłoby, gdyby pomiar był wyrażony "12,34500 kg" z dwoma dodatkowymi zerami ("00") na końcu.

P: Jaki wzór przedstawia liczby dodatnie x z dokładnością do p cyfr znaczących?

O: Wzór reprezentujący liczby dodatnie x z dokładnością do p cyfr znaczących ma wartość liczbową określoną przez round(10-n-x)-10n gdzie n = floor(log10 x) + 1 - p . Dla liczb ujemnych wartość liczbowa jest pomniejszona o ich wartość bezwzględną, a 0 ma dowolną dokładność.