Comparaison de systèmes et arbres de régression
Systems Comparison and Regression Trees
OPEN ACCESS
A method for non parametric modelling of dynamical systems was presented in a previous paper. This work intends to propose a new approach for addressing the problem of dynamical systems comparison and detection of abrupt changes. The algorithm that is presented here, relies upon both d-dimensionnal histogram and regression tree estimation, and the use of f-divergences. Illustrations on different non linear systems are provided.
Résumé
Nous proposons ici une application de la méthode de modélisation non linéaire non paramétrique de systèmes dynamiques , présentée dans un précédent article . L'approche proposée dans le cadre de ce travail repose sur une partition récursive de l'espace d'état du système, conduisant à un arbre de régression . Ce modèle fournit une estimation de l'histogramme d-dimensionnel de l'espace des états du système : nous montrons comment l'utilisation de distances ou de divergences entre lois de probabilité permet alors de quantifier les différences dynamiques entre systèmes. Cette approche est illustrée sur deux exemples : la détection de changements de modèles autorégressifs dans une série temporelle et la détection de la présence éventuelle d'un soliton de type «breather» susceptible d'apparaître dans le comportement d'une chaîne d'oscillateurs couplés soumis à un potentiel extérieur.
Distances, fdivergences, statistics, comparison, modelling, non linear, non parametric, dynamical systems, regression Trees, state space
Mots clés
Distances,f-divergences, statistique, comparaison, modélisation, non linéaire, non paramétrique, systèmes dynamiques, arbres de régression, espace des états
[1] S .M. Ali, S .D . Silvey, "A General Class of Coefficients of Divergence of One Distribution from Another", Journal of Royal Statistical Society, vol . 28 , 1966, pp . 131-142.
[2] A.-E . Badel, O . Michel, A .O. Hero, "Modélisation Non Linéaire Non Paramétrique des Séries Temporelles à l'aide d'Arbres de Régression - Applications à l'Analyse de Séries Chaotiques", Traitement du Signal, vol . 14, no . 2, 1997, pp . 117-133 .
[3] A .-E. Badel, O . Michel, A.O. Hero, "Choosing the Right Rényi's Divergence Parameter to Compare Two Probability Distributions", rapport interne, 1997.
[4] M . Basseville,"Distances Measures for Signal Processing and Pattern Recognition", Signal Processing, vol . 18, 1989, pp . 349-369 .
[5] M. Basseville, "Information : entropies, divergences et moyennes", IRISA , Publication interne No . 1020, 1996 .
[6] M . Basseville, A . Benhallam, C . Doncarli, M .F. Lucas, D . de Brucq, O . Colot, H . Rix, E . Thierry, F. Kauffmann, Fiches descriptives d'algorithme s de segmentation de signaux, Traitement du Signal, Vol .9, No.1, 1992.
[7] M . Basseville, I .V. Nikiforov, "Detection of Abrupt Changes, Theory an d Application", Prentice Hall Information and System Sciences Series, Thomas Kailath, Series Editor, 1993 .
[8] I . Csiszar, "Information-Type Measures of Divergence of Probability Distributions and Indirect Observations", Studia Sci. Math . Hung., vol . 2, 1967 , pp . 299-318 .
[9] P. Grassberger, I . Procaccia, "Characterization of Strange Attractors", Physical Review Letters, vol . 50, no . 5, 1983, pp . 346-349 .
[10] A.H . Gray, J.D . Markel, "Distance Measures for Signal Proceesing", LE.E.E. Transactions on Acoustics, Speech and Signal Processing, vol. 24, no . 5 , pp . 380-391, 1976 .
[11] M .E. Havrda, F. Charvat, "Quantification method of classification processes : concept of &-strutural entropy", Kybernetica, vol .3, pp . 30-34, 1967
[12] S . Kullback, R.A. Leibler, "On Information and Sufficiency", Annals of Mathematical Statistics, vol. 22, 1951, pp. 79-86 .
[13] O . Michel, P. Flandrin, "Application of Methods Based on Higher Order Statistics for Chaotic Signal Analysis", Signal Processing, vol . 53, no .2, 1996 .
[14] O. Michel, A.O . Hero, "Tree-Structured Non-Linear Signal Modeling and Prediction", ICASSP'95 Proceedings, Detroit, Michigan, 1995 .
[15] O . Michel, A .O . Hero, A.-E . Badel, "Tree Structured Non-Linear Signal Modeling and Prediction", soumis à E.E.E. Signal Processing, Août 1997 .
[16] T. Nemetz, "Information-Type Measures and their Applications to Finite Decision Problems", Carleton Mathematical Lecture Notes, vol . 17, Carleton University, Ottawa, 1977 .
[17] N. H . Packard, J .P. Crutchfield, J .D . Farmer, R . Shaw, "Geometry from a Time Series", Physical Review Letters, vol. 45, no . 9, 1980, pp . 712-716 .
[18] C.R . Rao, "Differential Metrics in Probability Spaces", Institute of Mathematical Statistics, Lecture Notes - Monograph Series, vol . 10, S . Gupta Ed . , pp . 217-240 .
[19] A. Rényi, "On Measures of Entropy and Information", 4th Berkeley Symposium, vol. I, pp . 547-561, 1961 .
[20] A . Rényi, "Probability Theory", North Holland Publishing Company, 1970 .
[21] D. Ruelle, Chaotic Evolution and Strange Attractors, Cambridge University Press, 1989.
[22] F. Takens, "Detecting Strange Attractors in Turbulence", Lecture Notes in Mathematics, vol . 898, 1981, pp . 366-381 .
[23] H . Tong, "Non Linear Time Series : a Dynamical System Approach", Oxford Science Publication, Oxford University Press, NY, 1990,
[24] C . Tsallis, "Possible Generalization of Boltzmann-Gibbs Statistics", Journal of Statisitical Physics, Vol .52, No .1-2, pp. 479-496, 1988 .
[25] H . Whitney, "Differentiable Manifolds", Annals of Mathematics, vol . 37, no.3, 1936, pp . 645-680 .