Anhang d – Casio CFX-9850GB PLUS Benutzerhandbuch
Seite 468
440
Funktion
Binär-,
Oktal-,
Dezimal-,
Hexadezimal-
Rechnung
Eingabebereich
Werte fallen nach der Umwandlung in die folgenden Bereiche:
DEC: –2147483648 <
x
< 2147483647
BIN: 1000000000000000 <
x
< 1111111111111111 (negativ)
0 <
x
< 0111111111111111 (0, positiv)
OCT: 20000000000 <
x
< 37777777777 (negativ)
0 <
x
< 17777777777 (0, positive)
HEX: 80000000 <
x
< FFFFFFFF (negativ)
0 <
x
< 7FFFFFFF (0, positiv)
* Für eine einzelne Rechnung beträgt der Rechenfehler
±1 an der 10. Stelle. (Bei
Exponenzialanzeige beträgt der Rechenfehler
±1 an der niedrigwertigsten Stelle.) Die Fehler
summieren sich bei fortlaufenden Rechnungen, und können dabei groß werden. (Dies trifft auch auf
interne kontinuierliche Rechnungen zu, die zum Beispiel im Falle von ^(x
y
),
x
y
, x!,
3
x
, nPr, nCr
usw. ausgeführt werden.)
In der Nähe des singulären Punktes einer Funktion und des Wendepunktes summieren sich die
Fehler und können groß werden.
Anhang D
Eingabebereiche