Metrohm tiamo 1.1 Manual - Handbuch (Seite 48)

22 Allgemeine Programmfunktionen
aus 2.53 wird 2.5
aus 2.55 wird 2.6
aus -2.35 wird -2.4
aus -2.45 wird -2.4
Statistik
Die Berechung von Mittelwert, absoluter und relativer Standardabweichung
von Resultaten R erfolgt mittels folgender Formeln:
Mittelwert
Absolute Standardabweichung
Relative Standardabweichung
(in %)
Die Statistik-Berechnungen der Software wurden so implementiert, dass sie
für den Benutzer möglichst überprüfbar sind. In die Statistik gehen daher
die Einzelwerte mit voller Genauigkeit ein.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die Anzahl
der Nachkommastellen, sondern die Anzahl der signifikanten Stellen der
dargestellten dezimalen Zahlen. Bedingt durch das auf der Basis des IEEE
754 Standards implementierte binäre 64 Bit-Zahlenformat besitzen die
daraus dargestellten dezimalen Zahlen 15 sichere signifikante dezimale
Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der
Einheit und der Nachkommastellen. Da die einzustellende Resultat-Einheit
z. T. sowohl den Präfix "Milli" als auch die eigentliche physikalische Einheit
enthält, ändert sich die Zahl der signifikanten Stellen bei einer solchen
Umstellung dementsprechend um drei Stellen.
Beispiel
Das angezeigte Resultat
1234.56789158763 mg/L hat 15 sichere Stellen. Es
soll gemäss obigem Rundungsverfahren auf drei Nachkommastellen ge-
rundet werden:
1234,568 mg/L (7 signifikante Stellen, davon 3 Nachkommastellen)
Mit der Einheit " g/L " wird das gleiche Resultat 1.23456789158763 g/L eben-
falls auf drei Nachkommastellen gerundet:
1.235 g/L (4 signifikante Stellen, davon 3 Nachkommastellen)
Die Anzahl der signifikanten Stellen wurde nun durch Wegfallen des Prä-
fixes "Milli" um drei auf vier Stellen reduziert.
Hinweis
Die beschriebenen Genauigkeitsverluste durch Runden im Bereich der maxima-
len sicheren Stellen haben nur eine theoretische Relevanz. Sie liegen meist um
Grössenordnungen niedriger als beispielsweise die aus dem Probeneinmass
resultierenden Unsicherheiten.