Topics in robust statistical learning^*

¹ Univ. Rennes 2, Rennes, France
e-mail: claire.brecheteau@univ-rennes2.fr
² CREST, ENSAI, Univ. Rennes, LumenAI, Tours, France
e-mail: egenetay@lumenai.fr
³ INRIA, Scool team. Univ. Lille, CRIStAL, CNRS, France
e-mail: timothee.mathieu@inria.fr
⁴ CREST, ENSAI, Univ. Rennes, Bruz, France
e-mail: adrien.saumard@ensai.fr

Abstract

Some recent contributions to robust inference are presented. Firstly, the classical problem of robust M-estimation of a location parameter is revisited using an optimal transport approach - with specifically designed Wasserstein-type distances - that reduces robustness to a continuity property. Secondly, a procedure of estimation of the distance function to a compact set is described, using union of balls. This methodology originates in the field of topological inference and offers as a byproduct a robust clustering method. Thirdly, a robust Lloyd-type algorithm for clustering is constructed, using a bootstrap variant of the median-of-means strategy. This algorithm comes with a robust initialization.

Résumé

Quelques contributions récentes à l’inférence robuste sont présentées. Premièrement, le problème classique de la M-estimation robuste d’un paramètre de localisation est revisité en utilisant une approche de transport optimal, avec des distances de type Wasserstein spécifiquement conçues, qui réduit la robustesse à une propriété de continuité. La deuxième contribution décrit une procédure d’estimation de la fonction de distance à un ensemble compact, en utilisant une union de boules. Cette méthodologie trouve son origine dans le domaine de l’inférence topologique et offre comme sous-produit une méthode de clustering robuste. Enfin, un algorithme robuste de type Lloyd pour le clustering est présenté, en utilisant une variante bootstrap de la stratégie “median-of-means”. Cet algorithme s’accompagne notamment d’une initialisation robuste.