Kancellation
Från Rilpedia
Texten från svenska Wikipedia
Kancellation är en typ av beräkningsfel som kan inträffa när datorer arbetar med flyttal.
Kancellation inträffar när två två nästan lika stora tal subtraheras och endast decimalen som beror på avrundningen av flyttalet återstår. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland nödvändigt att omformulera beräkningsuttrycken.
