Přesnost na číselné hodnoty, je počet číslic používaných k vyjádření této hodnoty.
V obou těchto případech může termín přesnost znamenat pozici, ze které je číslo zaokrouhleno. Například v aritmetice s plovoucí desetinnou čárkou je výsledek zaokrouhlen z určitého čísla. Ve financích je počet často zaokrouhlený na základě podjednotek. Například počítáme v dolarech a centech, přičemž tisíciny se nepoužívají, i když se používají k určení zaokrouhleného čísla.
Abychom lépe ilustrovali, co znamená přesnost , vyjádřme desetinnou hodnotu 12.345 jiným počtem číslic. Pokud není možné získat požadovanou přesnost, zaokrouhlí se toto číslo na dostupné číslice. Následující tabulka ukazuje tuto hodnotu vyjádřenou různými přesnostmi (zaokrouhlování je nižší hodnotou).
Přesnost | Zaokrouhleno na tolik významných číslic | Zaokrouhleno na tolik desetinných míst |
---|---|---|
Pět | 12.345 | 12,34500 |
Čtyři | 12,34 | 12,3450 |
Tři | 12.3 | 12.345 |
Z nich | 12 | 12,34 |
A | 10 nebo 1 10¹ | 12.3 |
Nula | nepoužitelné | 12 |
Psát „2“ a „2,00“ není totéž. Druhý formulář označuje, že hodnota je známa s větší přesností.
Poznámka: Pokud je celé číslo zadáno s přídavným jménem „přesně“, bude se mít za to, že za číslem následuje nekonečno 0 vpravo. Funguje to, jakmile text hovoří o konkrétním počtu objektů, například 2 jablkách.
Příklad: přesně 12 odpovídá zápisu 12,000000000000000000000000000000 ...