Metrohm tiamo 2.0 Manual - Handbuch (Seite 44)

2.4 Formel-Editor ￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
30 ￭￭￭￭￭￭￭￭ tiamo 2.0
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus -2.38 wird -2.4
aus -2.45 wird -2.5
Statistik
Die Berechnung von Mittelwert, absoluter und relativer Standardabwei-
chung von Resultaten R erfolgt mittels folgender Formeln:
Mittelwert
Absolute Standardab-
weichung
Relative Standardab-
weichung (in %)
Die Statistik-Berechnungen der Software wurden so implementiert, dass sie
für den Benutzer möglichst überprüfbar sind. In die Statistik gehen daher die
Einzelwerte mit voller Genauigkeit ein.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die Anzahl der
Nachkommastellen, sondern die Anzahl der signifikanten Stellen der darge-
stellten dezimalen Zahlen. Bedingt durch das auf der Basis des IEEE 754
Standards implementierte binäre 64 Bit-Zahlenformat besitzen die daraus
dargestellten dezimalen Zahlen 15 sichere signifikante dezimale Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der Ein-
heit und der Nachkommastellen. Da die einzustellende Resultat-Einheit z. T.
sowohl den Präfix "Milli" als auch die eigentliche physikalische Einheit ent-
hält, ändert sich die Zahl der signifikanten Stellen bei einer solchen Umstel-
lung dementsprechend um drei Stellen.
Beispiel
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 sichere Stellen.
Es soll gemäss obigem Rundungsverfahren auf drei Nachkommastellen
gerundet werden:
1234,568 mg/L (7 signifikante Stellen, davon 3 Nachkommastellen)