Sequential Bayesian inference for implicit hidden Markov models and current limitations

Department of Statistics, University of Oxford,
pierre.jacob@stats.ox.ac.uk.

Abstract

Hidden Markov models can describe time series arising in various fields of science, by treating the data as noisy measurements of an arbitrarily complex Markov process. Sequential Monte Carlo (SMC) methods have become standard tools to estimate the hidden Markov process given the observations and a fixed parameter value. We review some of the recent developments allowing the inclusion of parameter uncertainty as well as model uncertainty. The shortcomings of the currently available methodology are emphasised from an algorithmic complexity perspective. The statistical objects of interest for time series analysis are illustrated on a toy “Lotka-Volterra” model used in population ecology. Some open challenges are discussed regarding the scalability of the reviewed methodology to longer time series, higher-dimensional state spaces and more flexible models.

Résumé

Les modèles à chaîne de Markov cachée permettent de décrire les séries temporelles de divers domaines scientifiques, en traitant les données comme des mesures bruitées d’un processus de Markov arbitrairement complexe. Les méthodes de Monte Carlo séquentielles (SMC) sont devenues des outils standards pour l’estimation du processus de Markov caché sachant les observations et une valeur fixée du paramètre. Nous passons en revue quelques unes des récentes avancées permettant de prendre en compte l’incertitude sur le paramètre ainsi que l’incertitude sur le modèle. Les limites de la méthodologie actuelle sont discutées sous l’angle de la complexité algorithmique. Les objets statistiques d’intérêt pour l’analyse des séries temporelles sont illustrés sur un modèle jouet de type “Lotka-Volterra” utilisé en écologie des populations. Quelques questions ouvertes sont finalement posées concernant l’extension de la méthodologie présentée pour traiter des séries de données plus longues, des espaces d’états de dimension plus grande et des modèles plus flexibles.