Casio CFX-9850GB PLUS - Handbuch (Seite 468)

440
Funktion
Binär-,
Oktal-,
Dezimal-,
Hexadezimal-
Rechnung
Eingabebereich
Werte fallen nach der Umwandlung in die folgenden Bereiche:
DEC: –2147483648 <
x < 2147483647
BIN: 1000000000000000 < x
< 1111111111111111 (negativ)
0 <
x < 0111111111111111 (0, positiv)
OCT: 20000000000 < x < 37777777777 (negativ)
0 < x < 17777777777 (0, positive)
HEX: 80000000 < x < FFFFFFFF (negativ)
0 < x < 7FFFFFFF (0, positiv)
* Für eine einzelne Rechnung beträgt der Rechenfehler
±1 an der 10. Stelle. (Bei
Exponenzialanzeige beträgt der Rechenfehler
±1 an der niedrigwertigsten Stelle.) Die Fehler
summieren sich bei fortlaufenden Rechnungen, und können dabei groß werden. (Dies trifft auch auf
interne kontinuierliche Rechnungen zu, die zum Beispiel im Falle von ^(x
y ), x y , x!, 3 x , nPr, nCr
usw. ausgeführt werden.)
In der Nähe des singulären Punktes einer Funktion und des Wendepunktes summieren sich die
Fehler und können groß werden.
Anhang D
Eingabebereiche