MindestenssechszeichenRunde Zahlen
30. Juli 2013 von Yhoko
Nicht für jeden enden runde Zahlen mit einer Null. Wer häufig mit technischen Zahlen arbeitet, kennt dabei völlig andere Gewohnheiten.
Techniker-Ausgabe, 3. Auflage, sortiert nach Mächtigkeit.
-1
0
0.25
0.5
0.75
1
5:4
4:3
Sqr(2); 1.4142136
3:2
16:10
16:9
2 (1 Bit)
e
3
Pi; 3.1415927
4
6
Tau; 6.2831853
8
A bis F
12
16 (4 Bit)
24
32
48
64
72
80
96
120
128* (7 Bit)
160
192
224
240
256* (8 Bit)
320
384
404
480
512
576
600
640
768
800
960
1 024
1 080
1 200
1 280
1 600
1 920
2 048
4 096
8 192
8 080 (Port)
16 384
32 768* (16 Bit, signiert)
65 536* (16 Bit)
16 777 216* (24 Bit)
2 147 483 648* (32 Bit, signiert)
4 294 967 296 (32 Bit)
*) gilt auch um 1 dekrementiert bzw. negiert.
-1
0
0.25
0.5
0.75
1
5:4
4:3
Sqr(2); 1.4142136
3:2
16:10
16:9
2 (1 Bit)
e
3
Pi; 3.1415927
4
6
Tau; 6.2831853
8
A bis F
12
16 (4 Bit)
24
32
48
64
72
80
96
120
128* (7 Bit)
160
192
224
240
256* (8 Bit)
320
384
404
480
512
576
600
640
768
800
960
1 024
1 080
1 200
1 280
1 600
1 920
2 048
4 096
8 192
8 080 (Port)
16 384
32 768* (16 Bit, signiert)
65 536* (16 Bit)
16 777 216* (24 Bit)
2 147 483 648* (32 Bit, signiert)
4 294 967 296 (32 Bit)
*) gilt auch um 1 dekrementiert bzw. negiert.
3 Kommentare
... wenn du die
-2 147 483 648
drin hast, was ist mit -32768 und -128?
außerdem vermisse ich die 0.707, also rec(sqr(2)) bzw. sin(45°)
Das ist einfach nur sqr(2)/2.
außerdem interessant zu wissen, dass sin(45°) der kehrwert von sqr(2) ist.
für mich ist das eine basisinformation für gedankenspiele mit diagonalen und/oder papierformaten.
seitenverhältnis 1.1414 bzw. 0.7071 für DIN-formate... wissen eben.
... tau hast du ja auch drin ... ._.