Metrohm tiamo 2.3 Patch 1 (process analysis) - Handbuch (Seite 51)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭ 2 Allgemeine Programmfunktionen
tiamo 2.3 Patch 1 (für Prozessanalyse) ￭￭￭￭￭￭￭￭ 35
Statistik
Die Berechnung von Mittelwert, absoluter und relativer Standardabwei-
chung von Resultaten R erfolgt mittels folgender Formeln:
Mittelwert
Absolute Standardab-
weichung
Relative Standardab-
weichung (in %)
Die Statistik-Berechnungen der Software wurden so implementiert, dass
sie für den Benutzer möglichst überprüfbar sind. In die Statistik gehen
daher die Einzelwerte mit voller Genauigkeit ein.
Entscheidend für die Genauigkeit der Berechnungen ist nicht die Anzahl
der Nachkommastellen, sondern die Anzahl der signifikanten Stellen der
dargestellten dezimalen Zahlen. Bedingt durch das auf der Basis des IEEE
754 Standards implementierte binäre 64 Bit-Zahlenformat besitzen die
daraus dargestellten dezimalen Zahlen 15 sichere signifikante dezimale
Stellen.
Die Anzahl der signifikanten Stellen beeinflussen Sie durch die Wahl der
Einheit und der Nachkommastellen. Da die einzustellende Resultat-Einheit
z. T. sowohl den Präfix "Milli" als auch die eigentliche physikalische Einheit
enthält, ändert sich die Zahl der signifikanten Stellen bei einer solchen
Umstellung dementsprechend um drei Stellen.
Beispiel
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 sichere Stel-
len. Es soll gemäss obigem Rundungsverfahren auf drei Nachkommastel-
len gerundet werden:
1234,568 mg/L (7 signifikante Stellen, davon 3 Nachkommastellen)
Mit der Einheit "g/L" wird das gleiche Resultat 1.23456789158763 g/L
ebenfalls auf drei Nachkommastellen gerundet:
1.235 g/L (4 signifikante Stellen, davon 3 Nachkommastellen)
Die Anzahl der signifikanten Stellen wurde nun durch Wegfallen des Präfi-
xes "Milli" um drei auf vier Stellen reduziert.