pyöristys
-
Pyöristysvirheistä Pythonissa ja GeoGebrassa

Kun desimaaliluvun muuttaa binääriluvuksi, niin usein binääriluvun esitykseksi tulee päättymätön ”desimaaliluku”. Esimerkiksi kahdeksan kymmenesosaa on desimaalilukuna 0,8 ja binäärilukuna 0.110011001100… Tämän vuoksi liukuluvuilla laskettaessa tulee väkisinkin pyöritysvirhettä. Python ohjelmointikieli laskee liukuluvut 55 bitin tarkkuudella. Niinpä luku o.8 on binäärilukuna 0.1100110011001100110011001100110011001100110011001101. Kun tämän luvun muuntaa takaisin 10-järjestelmän luvuksi, niin saadaan 0.80000000000000004440892098500626161694526672363281. Kun Pythonissa tulostaa luvun print-funktiolla, Continue reading
