Metrohm tiamo 2.4 (process analysis) - Handbuch (Seite 50)

2.4 Formeleditor
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
34 ￭￭￭￭￭￭￭￭
Statistik
Die Berechnung von Mittelwert, absoluter und relativer Standardabwei-
chung von Resultaten R erfolgt mittels folgender Formeln:
Mittelwert
Absolute Standardab-
weichung
Relative Standardab-
weichung (in %)
Das Berechnen von Mittelwert und Standardabweichung erfordert eine
Vielzahl von Rechenoperationen, welche mit voller Genauigkeit durchge-
führt werden. Die Eingangsdaten (Resultate) und Ausgangsdaten (Mittel-
wert, Standardabweichung) werden dann aber wieder auf die vom Benut-
zer gewünschte Genauigkeit gerundet.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die Anzahl
der Dezimalstellen, sondern die Anzahl der signifikanten Stellen der darge-
stellten dezimalen Zahlen. Bedingt durch das auf der Basis der Norm IEEE
754 implementierte binäre 64-Bit-Zahlenformat besitzen die daraus darge-
stellten dezimalen Zahlen 15 sichere signifikante dezimale Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der
Einheit und der Dezimalstellen. Da die einzustellende Resultateinheit z. T.
sowohl den Präfix "Milli" als auch die eigentliche physikalische Einheit ent-
hält, ändert sich die Zahl der signifikanten Stellen bei einer solchen
Umstellung dementsprechend um drei Stellen.
Beispiel
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 sichere Stel-
len. Es soll gemäss obigem Rundungsverfahren auf drei Dezimalstellen
gerundet werden:
1234.568 mg/L (7 signifikante Stellen, davon 3 Dezimalstellen)
Mit der Einheit "g/L" wird das gleiche Resultat 1.23456789158763 g/L
ebenfalls auf drei Dezimalstellen gerundet:
1.235 g/L (4 signifikante Stellen, davon 3 Dezimalstellen)