Numerical Verification of Industrial Numerical Codes

¹ EDF R&D, SINETICS Department, 1, avenue du Général de Gaulle, Clamart, France
² EDF R&D, SINETICS Department, 1, avenue du Général de Gaulle, Clamart, France

Abstract

Several approximations occur during a numerical simulation: physical effects mapy be discarded, continuous functions replaced by discretized ones and real numbers replaced by finite-precision representations. The use of the floating point arithmetic generates round-off errors at each arithmetical expression and some mathematical properties are lost. The aim of the numerical verification activity at EDF R&D is to study the effect of the round-off error propagation on the results of a numerical simulation. It is indeed crucial to perform a numerical verification of industrial codes such as developped at EDF R&D even more for code running in HPC environments. This paper presents some recent studies around the numerical verification at EDF R&D.

Résumé

Le résultat d’un code de simulation numérique subit plusieurs approximations effectuées lors de la modélisation mathématique du problème physique, de la discrétisation du modèle mathématique et de la résolution numérique en arithmétique flottante. L’utilisation de l’arithmétique flottante génère en effet des erreurs d’arrondi lors de chaque opération flottante et des propriétés mathématiques sont perdues. Il existe à EDF R&D une activité transverse de vérification numérique consistant à étudier l’effet de la propagation des erreurs d’arrondi sur les résultats des simulations. Il est en effet important de vérifier numériquement des codes industriels et ce d’autant plus s’ils sont éxécutés dans environnements de calcul haute performance. Ce papier présente des études récentes autour de la vérification numérique à EDF R&D.