Technische Informatik
Rechnerinterne Zahlenformate
Thorsten Thormählen
27. Oktober 2022
Teil 2, Kapitel 2
Thorsten Thormählen
27. Oktober 2022
Teil 2, Kapitel 2
Dies ist die Druck-Ansicht.
Weiterschalten der Folien durch die → Taste oder
durch das Klicken auf
den rechten Folienrand.
Das Weiterschalten der Folien kann ebenfalls durch das Klicken auf den rechten bzw. linken Folienrand erfolgen.
Typ | Schriftart | Beispiele |
---|---|---|
Variablen (Skalare) | kursiv | $a, b, x, y$ |
Funktionen | aufrecht | $\mathrm{f}, \mathrm{g}(x), \mathrm{max}(x)$ |
Vektoren | fett, Elemente zeilenweise | $\mathbf{a}, \mathbf{b}= \begin{pmatrix}x\\y\end{pmatrix} = (x, y)^\top,$ $\mathbf{B}=(x, y, z)^\top$ |
Matrizen | Schreibmaschine | $\mathtt{A}, \mathtt{B}= \begin{bmatrix}a & b\\c & d\end{bmatrix}$ |
Mengen | kalligrafisch | $\mathcal{A}, B=\{a, b\}, b \in \mathcal{B}$ |
Zahlenbereiche, Koordinatenräume | doppelt gestrichen | $\mathbb{N}, \mathbb{Z}, \mathbb{R}^2, \mathbb{R}^3$ |
Bytes | Bits | Wertebereich | Name des Datentyps (Microsoft Visual C++) |
---|---|---|---|
1 | 8 | $[0;255]$ | unsigned char |
2 | 16 | $[0;65535]$ | unsigned short |
4 | 32 | $[0;4294967295]$ | unsigned int |
8 | 64 | $[0;18446744073709551615]$ | unsigned long long |
Dezimal | 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 |
Binär | 0000 | 0001 | 0010 | 0011 | 0100 | 0101 | 0110 | 0111 |
Dezimal | -0 | -1 | -2 | -3 | -4 | -5 | -6 | -7 |
Binär | 1000 | 1001 | 1010 | 1011 | 1100 | 1101 | 1110 | 1111 |
Dezimal | 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 |
Binär | 0000 | 0001 | 0010 | 0011 | 0100 | 0101 | 0110 | 0111 |
Dezimal | -0 | -1 | -2 | -3 | -4 | -5 | -6 | -7 |
Binär | 1111 | 1110 | 1101 | 1100 | 1011 | 1010 | 1001 | 1000 |
Dezimal | 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 |
Binär | 0000 | 0001 | 0010 | 0011 | 0100 | 0101 | 0110 | 0111 |
Dezimal | -1 | -2 | -3 | -4 | -5 | -6 | -7 | -8 |
Binär | 1111 | 1110 | 1101 | 1100 | 1011 | 1010 | 1001 | 1000 |
Vorzeichen $w_a$ | Vorzeichen $w_b$ | Richtiges Ergebnis, wenn | Überlauf (falsches Ergebnis), wenn |
+ | + | $c_{n-1}=0$ und $c_{n-2}=0$ | $c_{n-1}=0$ und $c_{n-2}=1$ |
+ | - | $c_{n-1}= c_{n-2}$ | nie |
- | + | $c_{n-1}= c_{n-2}$ | nie |
- | - | $c_{n-1}=1$ und $c_{n-2}=1$ | $c_{n-1}=1$ und $c_{n-2}=0$ |
Verfahren | Wertbereich | Eineindeutig | Operationen |
---|---|---|---|
Betrags-Vorzeichendarstellung | symmetrisch | nein | Sonderbehandlung |
Einerkomplement | symmetrisch | nein | 2-Stufen Addition |
Zweierkomplement | unsymmetrisch | ja | einfach |
Bytes | Bits | Wertebereich | Name des Datentyps (Microsoft Visual C++) |
---|---|---|---|
1 | 8 | $[–128;127]$ | char |
2 | 16 | $[–32768;32767]$ | short |
4 | 32 | $[–2147483648;2147483647]$ | int |
8 | 64 | $\begin{align} [-&9223372036854775808; \\ &9223372036854775807\ \ ] \end{align}$ | long long |
Charakteristik $c$ | Mantisse $m$ | 32-/64-bit Precision |
---|---|---|
$000\dots0000$ | beliebig | 32: $(-1)^s 0,m \cdot 2^{-126}$ |
64: $(-1)^s 0,m \cdot 2^{-1022}$ | ||
$ 111\dots1111$ | $=0$ | $(-1)^s \cdot \infty$ |
$ 111\dots1111$ | $\ne0$ | Not a Number (NaN) |
alle anderen Bitfolgen (default) | beliebig | 32: $(-1)^s 1,m \cdot 2^{c-127}$ |
64: $(-1)^s 1,m \cdot 2^{c-1023}$ |
Bytes | Bits | Wertebereich | Name des Datentyps |
---|---|---|---|
4 | 32 | ± 1.4e-45 ... 3.403e38 | float |
8 | 64 | ± 4.94e-324 ... 1.798e308 | double |
Anregungen oder Verbesserungsvorschläge können auch gerne per E-mail an mich gesendet werden: Kontakt