4 anzahl der stellen und genauigkeit – Casio ClassPad 330 V.3.04 Benutzerhandbuch

Seite 929

Advertising
background image

20060301

4 Anzahl der Stellen und Genauigkeit

I Anzahl der Stellen

Standardmodus

Nachfolgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation“
im „Basic Format“-Dialogfeld nicht ausgewählt ist.

• Bis zu 611 Stellen werden für ganzzahlige Werte im Speicher abgespeichert.

• Dezimalwerte mit bis zu 15 Stellen werden in das Bruchformat umgewandelt und im Speicher

abgelegt. Falls ein mathematischer Term nicht in das Bruchformat umgewandelt werden kann,
wird das Ergebnis im Dezimalformat angezeigt.

• Die im Speicher abgelegten Werte werden unverändert angezeigt, unabhängig davon, wie die

[Number Format]-Einstellungen (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind
(ausgenommen, wenn ein Dezimalwert angezeigt wird).

Dezimalmodus

Folgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation“ im
„Basic Format“-Dialogfeld ausgewählt ist.

• Die im Ans-Speicher abgespeicherten Werte und die den Variablen zugewiesenen Werte

weisen die gleiche Anzahl von Stellen auf, wie sie für Werte des Standardmodus definiert
sind.

• Die Werte werden in Abhängigkeit davon angezeigt, wie die [Number Format]-Einstellungen

(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind.

• Die angezeigten Werte werden auf die entsprechende Anzahl von Dezimalstellen gerundet.

• In manchen Anwendungs-Menüs werden die Werte als Gleitkommazahlen unter Verwendung

einer bis zu 15-stelligen Mantisse und eines bis zu 3-stelligen Exponenten gespeichert.

I Genauigkeit

• Interne Berechnungen werden mit 15 Stellen ausgeführt.
• Der Fehler für einen einzelnen mathematischen Term (Dezimalmodus-Berechnungsfehler)

beträgt

p1 in der 10. Stelle. Im Falle der Exponentialanzeige beträgt der Berechnungsfehler

p1 in der am wenigsten signifikanten Stelle. Beachten Sie, dass durch die Ausführung von
aufeinander folgenden Berechnungen der Fehler kumulativ sein kann. Der Fehler ist auch
kumulativ für interne aufeinander folgende Berechnungen von: ^(

x

y

),

x

,

x

!,

n

P

r

,

n

C

r

usw.

• Der Fehler ist kumulativ und kann in der Nähe eines singulären Punktes einer Funktion oder

eines Wendepunktes noch größer zu sein. So tritt zum Beispiel bei sinh(

x

) und tanh(

x

) der

Wendepunkt auf, wenn

x

= 0 ist. In dessen Nähe ist der Fehler kumulativ und die Genauigkeit

ist schlecht.

A

-4-1

Anzahl der Stellen und Genauigkeit

Advertising
Dieses Handbuch ist für die folgenden Produkte bezogen werden: