Metrohm 916 Ti-Touch - Handbuch (Seite 453)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
31 Anhang
916 Ti-Touch
￭￭￭￭￭￭￭￭ 437
31.10 Rechenalgorithmen im Ti-Touch
In diesem Kapitel werden einige der in der Gerätesoftware verwendeten
Algorithmen und Zahlenformate erläutert.
Zahlenformat
Alle Fliesspunkt-Rechnungen benutzen das IEEE 754 (1985)-Zahlenformat,
entweder in "single precision" (32 Bit) oder "double precision" (64 Bit).
Rundungsverfahren
Messwerte und Resultate werden auf die definierte Anzahl Dezimalstellen
gerundet (kaufmännisches Runden, gemäss Amerikanischem Arzneimittel-
buch USP). Wenn die Ziffer an der ersten wegfallenden Dezimalstelle 1, 2,
3 oder 4 ist, wird abgerundet, wenn diese Ziffer 5, 6, 7, 8 oder 9 ist,
wird aufgerundet. Negative Zahlen werden nach ihrem Betrag gerundet,
d.h. weg von Null.
Beispiele:
aus 2.33 wird 2.3
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus –2.38 wird –2.4
aus –2.45 wird –2.5
Statistik
Es werden der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten R, Endpunkten EP und Variablen C
berechnet:
Sie können maximal neun Resultate (1 ≤ k ≤ 9) statistisch auswerten, die
in einer Bestimmung berechnet werden. Eine Statistikserie kann maximal
20 Bestimmungen beinhalten (1
≤ n ≤ 20).
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20 und 1 ≤ k ≤ 9.
Mittelwert:
Absolute Standardabweichung: