Fast uncertainty reduction strategies relying on Gaussian process models

Fast uncertainty reduction strategies relying on Gaussian process models

Clément Chevalier (1, 2, 3, 4)

1 IMSV - Institute of Mathematical Statistics and Actuarial Science [Bern]
2 IRSN - Institut de Radioprotection et de Sûreté Nucléaire
3 GdR MASCOT-NUM - Méthodes d'Analyse Stochastique des Codes et Traitements Numériques
4 ReDICE - The ReDICE Consortium

This work deals with sequential and batch-sequential evaluation strategies of real-valued functions under limited evaluation budget, using Gaussian process models. Optimal Stepwise Uncertainty Reduction (SUR) strategies are investigated for two diff erent problems, motivated by real test cases in nuclear safety. First we consider the problem of identifying the excursion set above a given threshold T of a real-valued function f. Then we study the question of finding the set of "safe controlled con gurations", i.e. the set of controlled inputs where the function remains below T, whatever the value of some others non-controlled inputs. New SUR strategies are presented, together with effi cient procedures and formulas to compute and use them in real-world applications. The use of fast formulas to recalculate quickly the posterior mean or covariance function of a Gaussian process (referred to as the "kriging update formulas") does not only provide substantial computational savings. It is also one of the key tools to derive closed-form formulas enabling a practical use of computationally-intensive sampling strategies. A contribution in batch-sequential optimization (with the multi-points Expected Improvement) is also presented.

Cette thèse traite de stratégies d'évaluation séquentielle et batch-séquentielle de fonctions à valeurs réelles sous un budget d'évaluation limité, à l'aide de modèles à processus Gaussiens. Des stratégies optimales de réduction séquentielle d'incertitude (SUR) sont étudiées pour deux problèmes différents, motivés par des cas d'application en sûreté nucléaire. Tout d'abord, nous traitons le problème d'identification d'un ensemble d'excursion au dessus d'un seuil T d'une fonction f à valeurs réelles. Ensuite, nous étudions le problème d'identification de l'ensemble des configurations "robustes, contrôlées", c'est à dire l'ensemble des inputs contrôlés où la fonction demeure sous T quelle que soit la valeur des différents inputs non-contrôlés. De nouvelles stratégies SUR sont présentés. Nous donnons aussi des procédures efficientes et des formules permettant d'utiliser ces stratégies sur des applications concrètes. L'utilisation de formules rapides pour recalculer rapidement le posterior de la moyenne ou de la fonction de covariance d'un processus Gaussien (les "formules d'update de krigeage") ne fournit pas uniquement une économie computationnelle importante. Elles sont aussi l'un des ingrédient clé pour obtenir des formules fermées permettant l'utilisation en pratique de stratégies d'évaluation coûteuses en temps de calcul. Une contribution en optimisation batch-séquentielle utilisant le Multi-points Expected Improvement est également présentée.

Mots clés: Design of computer experiments; Gaussian process models; batch-sequential strategies; global optimization; active learning; Stepwise Uncertainty Reduction

Mots clés: inversion

Domaines: Statistiques [math.ST]; Analyse numérique [math.NA]; Applications [stat.AP]; Théorie [stat.TH]; Machine Learning [stat.ML]

Clément Chevalier. Fast uncertainty reduction strategies relying on Gaussian process models. Statistics [math.ST]. Universität Bern, 2013. English. ⟨NNT : ⟩. ⟨tel-00879082⟩