Metrohm 900 Touch Control Manual - Handbuch (Seite 544)

32.10 Rechenalgorithmen im Titrando
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
528 ￭￭￭￭￭￭￭￭
900 Touch Control
Sie können maximal neun Resultate (1 ≤ k ≤ 9) statistisch auswerten, die
in einer Bestimmung berechnet werden. Eine Statistikserie kann maximal
20 Bestimmungen beinhalten (1
≤ n ≤ 20).
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20 und 1 ≤ k ≤ 9.
Mittelwert:
Absolute Standardabweichung:
Relative Standardabweichung (in %):
Erläuterungen
In die Statistik gehen die Einzelwerte in der gewählten Präzision ein (Run-
den, Abschneiden oder Volle Genauigkeit).
Wenn für die Gleitkommazahl in dezimaler Darstellung das 32-Bit-Zahlen-
format angewendet wird, ergeben sich 7 signifikante Stellen. Beim 64-Bit-
Zahlenformat sind es 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.
Beispiel (64-Bit-Zahlenformat):
Das angezeigte Resultat 1234.56789158763 mg/L hat 15 signifikante
Stellen. Es soll gemäss obigem Rundungsverfahren auf drei Nachkomma-
stellen gerundet werden:
￭ 1234.568 mg/L.
Wenn das gleiche Resultat in g/L ausgedrückt (1.23456789158763 g/L)
und ebenfalls auf drei Nachkommastellen gerundet wird, ergibt sich
￭ 1.235 g/L.
D.h. Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die ange-
zeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachberechnung der Statistik mittels Taschenrechner
oder PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies ist
in den unterschiedlichen verwendeten binären Zahlenformaten dieser
Rechner begründet.