Estimator selection

Univ. Nice Sophia Antipolis LJAD CNRS UMR 7351 06100 Nice France

Abstract

The paper presents recent developments of the theory of estimator selection. We introduce, in the density estimation framework, the main methods used by the participants of the session ”Variable and estimator selection” in the Journées MAS 2014. The purpose of the selection is always to prove oracle inequalities, that is, to compare the selected estimator with the best estimator in the original collection via some risk function. The first part of the paper deals with the selection by minimization of a penalized empirical loss and the second presents the methods based on robust tests.

Résumé

L’article présente quelques développements récents de la théorie de la sélection d’estimateurs. Nous introduisons, dans le cadre élémentaire de l’estimation de la densité, les principales méthodes apparues dans les exposés de la session ”Sélections de variables, sélection d’estimateurs” des Journées MAS 2014. L’objectif de la sélection est toujours l’obtention d’inégalités oracle comparant le risque de l’estimateur choisi au plus petit des risques des estimateurs de la collection initiale. Nous discuterons dans une première partie les méthodes par minimisation d’un critère pénalisé et dans une seconde celles utilisant les tests robustes.