Pokaż wiadomości
1
Dyskusje na dowolne tematy / Odp: Potężny kalkulator
« dnia: Pią, 05 Wrz 2014, 21:09:04 »
Chyba znalazłem wyjaśnienie mojego problemu:
Aby zobaczyć link - ZAREJESTRUJ SIĘ lub ZALOGUJ SIĘ
Dobra, to ma ktoś pożyczyć superkomputer? xD
(2^1024 już ręcznie obliczyłem, nie pytajcie jak
)
Aby zobaczyć link - ZAREJESTRUJ SIĘ lub ZALOGUJ SIĘ
Cytuj
A limit has to be chosen, since we only have a certain number of bits at our disposal to represent a number. The choice is somewhat arbitrary.
However, there are a few standard representations that are commonly used and implemented as low-level instructions within the FPU, so it's common to use one of them in order to make the calculations go faster.
a double is the standard way of representing real numbers using 64 bits.
You have 1 bit of sign, 52 bits of "data" and 11 bits of exponent (1 for sign and 10 for value).
Using that representation, a number takes the form:
+/- [0 1] * 2[-2 ^ 10 2 ^ 10[
Where [0 1] is quantized using 52 bits.
210 is 1024, so the maximum representable value is
1 * 2 ^ ( 2 ^ 10 - 1 )
which is 2 ^ 1023
Dobra, to ma ktoś pożyczyć superkomputer? xD
(2^1024 już ręcznie obliczyłem, nie pytajcie jak
)
