Kancellation
Från Rilpedia
Version från den 10 mars 2009 kl. 17.56 av Petter Strandmark (Diskussion)
Kancellation är en typ av beräkningsfel som kan inträffa när datorer arbetar med flyttal.
Kancellation inträffar när två två nästan lika stora tal subtraheras och endast decimalen som beror på avrundningen av flyttalet återstår. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland nödvändigt att omformulera beräkningsuttrycken.