|
TwojePC.pl © 2001 - 2024
|
 |
A R C H I W A L N A W I A D O M O Ś Ć |
 |
| |
|
Excel - niedokładności dużych liczb? , pachura 13/11/06 10:58
Cześć,
Mam Excela z MS Office XP (2002).
Niedawno zauważyłem że ten arkusz kalkulacyjny nie jest w stanie dokładnie przechowywać liczb większych od 1000000000000000 - jeśli w komórkę wpiszemy np. 1000000000000001, to na ostatnim miejscu zamiast jedynki pojawi się zero. Liczby o większej liczbie cyfr tracą dalej dziesiątki, setki, tysiące itd.
Nie jest to kwestia formatu wyświetlania - wprowadzone dane są zaokrąglane bezpowrotnie.
Pytanie: czy da się to jakoś obejść? (jakieś wewnętrzne ustawienie dokładności liczb?) A może w jakimś innym arkuszu kalkulacyjnym można przetwarzać wielkie liczby nie obawiając się o utratę dokładności? (Open Office, nowszy Excel?)- Po tym, jak któraś wersja Excela po sumowaniu , j23 13/11/06 12:01
pewnego ciągu liczb (nie więcej niż 2 miejsca po przecinku), zamiast 0.01 dawał 0.00, zwątpiłem w przydatność takiego oprogramowania, w dziedzinach, od których zależy ludzkie zdrowie i życie... Nie ma ŻADNEJ gwarancji że takie arkusze działają prawidłowo...Dumny nosiciel moherowego beretu!
Me gustan tomar mis copas
Żubrówka es lo mejor! - Nie da się tego obejść. , Piwomir 13/11/06 12:10
Patrz: http://support.microsoft.com/kb/65903. - To jest wszystko uzasadnione.... , jenot 13/11/06 22:07
1. Liczby powyżej wielkości 32 / 64 bity ( zależy od wersji excel )zapisywane są w postaci wykładniczej - zmiennoprzecinkowej w postaci cechy i mantysy. Przy dużych najmniej znaczące miejsca są poza zakresem dokładności takiej liczby (stąd zamiast 100000000000001 jest 100000000000000 )
2. A co do sumowania liczb z dwoma miejscami po przecinku: Prawdopodobnie sumowane były liczby, które były wynikiem operacji
arytmetycznej typu: dzielenie / pierwiastek itp.... Excel ma tę głupią wadę, że sam format wyswietlania nie zmienia formatu przechowywanej liczby. ( cały ogon zmiennoprzecinkowy jest trzymany w pamięci )
Przykład: Faktura liczona od netto (excel 97 - bo tylko takiego mam):
Netto Vat Brutto Kwota Vat
163,93 22,00% 200,00 36,06
No i jest bzdura :-) bo powinno być
Netto Vat Brutto Kwota Vat
163,93 22,00% 199,99 36,06
Ps. A tak właściwie po kiego używasz takich wielkich liczb ?Mój podpis max 100 zanaków,
zabroniony spam oraz reklama. - Nie, chodziło o zwyczajne sumowanie kilku , j23 13/11/06 22:25
niewielkich liczb (poniżej 20, o zmiennych znakach). Nota bene kalkulator w Windows 3.11 jako wynik operacji 2.01-2 podawał 0... A z innymi liczbami przeważnie (wszystkich przecież nie sprawdzałem...) podawał dobrze...Dumny nosiciel moherowego beretu!
Me gustan tomar mis copas
Żubrówka es lo mejor! - Co ty wypisujesz... , pachura 13/11/06 23:06
No sory, jeśli ktoś sprzedaje arkusz kalkulacyjny z niby "prawdziwego zdarzenia", to jego psim obowiązkiem jest sensowne zaimplementowanie liczb o bardzo dużej precyzji. Kto powiedział że muszą być wewnętrznie przechowywane jako typ double? Przecież nawet gówniany windowsowy kalkulator calc.exe nie zaokrągla liczby 100000000000001 do 100000000000000.
> Ps. A tak właściwie po kiego używasz takich wielkich liczb ?
A po kiego masz orta w sygnaturce?- Ja nic nie pisałem co producent arkusza powinien , jenot 14/11/06 08:25
Ja nic nie pisałem co producent arkusza powinien ani co nie powinien.
Piszę jak jest i dlaczego tak się dzieje.
Więc w odpowiedzi na Twoje pytanie:
Tak właśnie liczy Excel ( przynajmniej 97 ) i może ta informacja komuś w czymś pomoże.
A jeśli Ty uważasz, że powinno być inaczej to pisz maile do MS a nie miej pretensji do mnie. Uwierz mi - nie ja pisałem excela :-)Mój podpis max 100 zanaków,
zabroniony spam oraz reklama.
|
|
|
|
 |
All rights reserved ® Copyright and Design 2001-2024, TwojePC.PL |
 |
|
|
|
