When double rounding is odd

Sylvie Boldo (1) , Guillaume Melquiond (1)

1 LIP - Laboratoire de l'Informatique du Parallélisme

Double rounding consists in a first rounding in an intermediate extended precision and then a second rounding in the working precision. The natural question is then of the precision and correctness of the final result. Unfortunately, the used double rounding algorithms do not obtain a correct rounding of the initial value. We prove an efficient algorithm for the double rounding to give the correct rounding to the nearest value assuming the first rounding is to odd. As this rounding is unusual and this property is surprising, we formally proved this property using the Coq automatic proof checker.

Le double arrondi consiste en un premier arrondi dans une précision étendue suivi d’un second arrondi dans la précision de travail. La question naturelle qui se pose est celle de la précision et de la correction du résultat final ainsi obtenu. Malheureusement, les algorithmes de double arrondi utilisés ne produisent pas un arrondi correct de la valeur initiale. Nous décrivons ici un algorithme efficace de double arrondi permettant de fournir l’arrondi correct au plus proche à condition que le premier arrondi soit impair. Comme cet arrondi est inhabituel et que cette propriété est surprenante, nous avons prouvé formellement ce résultat en utilisant l’assistant de preuves Coq.

Mots clés: Double rounding; Floating-point; Formal proof

Mots clés: Virgule flottante; double arrondi; preuve formelle; Coq

Domaines: Informatique [cs]

Sylvie Boldo, Guillaume Melquiond. When double rounding is odd. [Research Report] LIP RR-2004-48, Laboratoire de l'informatique du parallélisme. 2004, 2+7p. ⟨hal-02101979⟩