Stellenanzahl und genauigkeit, Stellenanzahl genauigkeit – Casio ClassPad fx-CP400 Benutzerhandbuch
Seite 292
Anhang 292
Stellenanzahl und Genauigkeit
Stellenanzahl
Standardmodus
Folgendes gilt, wenn das Kontrollkästchen neben
dem Eintrag „Decimal Calculation“ im Grundformat-
Dialogfeld nicht aktiviert ist.
• Für ganzzahlige Werte werden bis zu 611 Stellen
gespeichert.
• Dezimalzahlen mit bis zu 15 Stellen werden in
Brüche umgewandelt und gespeichert. Wenn ein
mathematischer Ausdruck nicht in einen Bruch
umgewandelt werden kann, wird das Ergebnis im
Dezimalformat angezeigt.
• Die gespeicherten Werte werden so angezeigt,
wie sie sind, unabhängig von der Konfiguration der
[Number Format]-Einstellungen (Normal 1, Normal
2, Fix 0 bis Fix 9, Sci 0 bis Sci 9) (außer bei Anzeige
eines Dezimalwerts).
Dezimalmodus
Folgendes gilt, wenn das Kontrollkästchen neben
der Option „Decimal Calculation“ des Grundformat-
Dialogfelds aktiviert ist.
• Werte im Ans-Speicher und Variablen zugewiesene
Werte haben dieselbe Anzahl Stellen, wie sie für
Standardmoduswerte festgelegt wurde.
• Die Werte werden in Abhängigkeit von der
Konfiguration der [Number Format]-Einstellungen
(Normal 1, Normal 2, Fix 0 bis Fix 9, Sci 0 bis Sci 9)
angezeigt.
• Angezeigte Zahlenwerte werden auf eine geeignete
Anzahl von Dezimalstellen gerundet.
• Einige Anwendungen speichern Werte mit einer
Mantisse von bis zu 15 Stellen und einem 3-stelligen
Exponenten.
Genauigkeit
• Interne Berechnungen werden mit 15 Stellen durchgeführt.
• Der Fehler für einen mathematischen Ausdruck (Berechnungsfehler im Dezimalmodus) beträgt an der 10.
Stelle ±1. Bei Exponentialanzeige beträgt der Rechenfehler ±1 an der niedrigwertigsten Stelle. Beachten
Sie, dass sich der Fehler durch Folgberechnungen kumulieren kann. Der Fehler kann sich auch für interne
Folgeberechnungen für folgende Funktionen kumulieren: ^(
x
y
),
x
',
x
!,
n
P
r
,
n
C
r
usw.
• In der Nähe der singulären Punkte und der Wendepunkte einer Funktion sowie in der Nähe von Null ist der
Fehler kumulativ und tendenziell größer. Mit sinh(
x
) und tanh(
x
) liegt der Wendepunkt beispielsweise bei
x
=
0. In der Nähe dieses Wertes ist der Fehler kumulativ und die Genauigkeit gering.