Extraction de connaissances à partir de données pour la classification des images sonar
Knowledge discovery in databases for sonar images classification
OPEN ACCESS
Sonar images classification is of great importance for various realistic applications such as submarine navigation or seabed mapping. Most approaches developed or used in the present work for seabed characterization are based on the use of texture analysis methods. Indeed, sonar images have different homogeneous areas of sediment that can be viewed as texture entities. Generally, texture features are numerous and not all are relevant; an extraction-reduction of these features seems necessary before the classification phase.
We present in this work a complete chain for sonar images classification while optimizing the chain steps. We use the Knowledge Discovery in Databases (KDD) process for the chain development.
The underwater environment is uncertain, which is reflected on the images obtained from the sensors used for their acquisition. Therefore, it is important to develop robust methods to these imperfections. We solve this problem in two different ways: a first solution is to make robust traditional classification methods, such as support vector machines or k-nearest neighbors, to these imperfections. A second solution is to model these imperfections to be taken into account by belief or fuzzy classification methods.
We present the results obtained using different texture analysis approaches and classification approaches. We use other approaches based on the uncertain theories to overcome sonar images imperfections problem.
Résumé
La classification des images sonar est d’une grande importance dans différentes applications réalistes. C’est le cas pour la navigation sous-marine ou pour la cartographie des fonds marins. La plupart des approches utilisées pour la caractérisation des sédiments marins est fondée sur l’utilisation des méthodes d’analyse de la texture. En effet, les images sonar présentent différentes zones homogènes de sédiments qu’on peut considérer comme des entités de texture. En général, les paramètres texturaux extraits sont nombreux et ne sont pas tous pertinents, une extraction et/ou réduction de ces paramètres parait nécessaire avant l’étape de la classification.
Nous présentons dans cet article une chaîne complète de classification des images sonar en essayant d’optimiser les différentes étapes de cette chaîne. Pour l’élaboration de cette chaîne, nous nous fondons sur le processus d’extraction de connaissance à partir de données.
L’environnement sous-marin a un caractère incertain, ce qui se reflète sur les images obtenues à partir des capteurs utilisés pour leur élaboration. Il est donc important de développer des méthodes robustes afin de lutter contre ces imperfections. Dans ce cadre, nous résolvons ce problème de deux façons différentes en utilisant dans un premier temps des méthodes de classification classiques comme les machines à vecteurs de support ou les k-plus proches voisins et dans un deuxième temps des méthodes de classification floues ou crédibilistes. L’approche de la régression par SVM que nous avons introduite permet une modélisation des imperfections des données.
Nous présentons alors les résultats obtenus en utilisant différentes approches pour l’analyse de la texture et pour la classification. Nous utilisons des approches fondées sur les théories de l’incertain pour pallier au problème des imperfections présentes sur les images sonar
Knowledge Discovery on Database, SVM, belief SVM, fuzzy SVM, Sonar Images, Texture, Extraction-reduction, Classification, Evaluation
Mots clés
Classification, extraction de paramètres, sélection de paramètres, algorithmes génétiques, caractérisation de sédiments, sonar, texture, SVM floue et crédibiliste
[Atallah, 2004] ATALLAH L. N. (2004). Learning from sonar data for the classification of underwater seabeds. PhD thesis, University of Oxford.
[Bi and Zhang, 2004] BI J. and ZHANG T. (2004). Support vector classification with input data uncertainty. Advances in Neural Information Processing Systems, 17:161-168.
[Chang and Lin, 2001] CHANG C. C. and LIN C. J. (2001). Libsvm: a library for support vector machines. Software available at http://www.csie.ntu.edu.tw/~cjlin/libsvm/.
[Daubechies, 1992] DAUBECHIES I. (1992). Ten lectures on wavelets. CBMS, Philadelphia : Society for Industrial and Applied Mathematics.
[Demartines and Hérault, 1998] DEMARTINES P. and HÉRAULT J. (1998). Curvilinear component analysis: a self-organizing neural network for nonlinear mapping of data sets. IEEE Transaction on Neural Networks, 8(1):711-720.
[Denœux, 1995] DENŒUX T. (1995). A k-nearest neighbor classification rule based on dempster-shafer theory, IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans, 25(5) :804-813.
[Fernandez et al., 2004] FERNANDEZ M. P. S., DE PRADO CUMPLIDO M., ARENAS-GARCIA, J., and CRUZ, F. P. (2004). SVM multiregression for non-linear channel estimation in multiple-input multipleoutput systems. IEEE Transactions on Signal Processing, 58(8):2298-2307.
[Gabor, 1941] GABOR D. (1941). Theory of communication. J. IEE, 93:492-457.
[Grigorescu et al., 2002] GRIGORESCU S., PETKOV N., and KRUIZINGA P. (October 2002). Comparison of texture features based on gabor filters. IEEE Transaction on Image Processing, 11:1160-1167.
[Gunn, 1998] GUNN S. (1998). Support vector machines for classification and regression. ISIS Tech. Report, University of Southampton.
[Han-Pang and Yi-Hung, 2002] HAN-PANG H. and YI-HUNG L. (2002). Fuzzy support vector machines for pattern recognition and data mining. International Journal of Fuzzy Systems, 14(3) :25-28.
[Haralick, 1979] HARALICK R. (1979). Statistical et textural approaches to textures. Proceedings of the IEEE, 67(5):786-804.
[Haralick et al., 1973] HARALICK R., SHANMUGAM K., and DINSTEIN I. (1973). Textural features for image classification. IEEE Trans. on Systems, Man, and Cybernetics IEEE Trans. on Systems, Man, and Cybernetics, 3:610-621.
[Hong and Hwang, 2003] HONG D. and HWANG C. (2003). Support vector fuzzy regression machines. Fuzzy Sets and Systems, 138:271-281.
[Hsu and Lin, 2002] HSU C.-W. and LIN C.-J. (2002). A comparison of methods for multi-class support vector machines. IEEE Transactions on Neural Networks, 13:415-425.
[Keller et al., 1985] KELLER J., GRAY M., and GIVENS J. (1985). A fuzzy k-nn neighbor algorithm. IEEE Transactions on Systems, Man, and Cybernetics, 15:580-585.
[Laanaya et al., 2005] LAANAYA H., MARTIN A., ABOUTAJDINE D., and KHENCHAF A. (20-23 June 2005). A new dimensionality reduction method for seabed characterization : Supervised curvilinear component analysis. IEEE OCEANS’05 EUROPE, Brest, France.
[Laanaya et al., 2006b] LAANAYA H., MARTIN A., ABOUTAJDINE D., and KHENCHAF A. (2006b). Seabed classification using belief multiclass support vector machines. Caractérisation du milieu marin.
[Laanaya et al., 2006a] LAANAYA H., MARTIN A., ABOUTAJDINE D., and KHENCHAF A. (7-9 Decembre 2006a). Knowledge diskovery on database for seabed characterization. MCSEAI 2006, Agadir, Morocco.
[Laanaya et al., 2006c] LAANAYA H., MARTIN A., KHENCHAF A., and ABOUTAJDINE D. (19-20 October 2006c). Classification par régression floue et crédibiliste à base de machines à vecteurs de support. LFA, Toulouse, France.
[Laanaya et al., 2007a] LAANAYA H., MARTIN A., KHENCHAF A., and ABOUTAJDINE D. (24-26 January 2007a). Régression floue et cré-dibiliste par SVM pour la classification des images sonar. Extraction et Gestion des Connaissances (EGC), Namur, Belgique, pages 21-32.
[Laanaya et al., 2007b] LAANAYA H., MARTIN A., KHENCHAF A., and ABOUTAJDINE D. (24-26 January 2007b). Une nouvelle méthode pour l’extraction de paramètres: l’analyse en composante curvilinéaire supervisée. Atelier Fouille de données complexes dans un processus d’extraction de connaissance, Extraction et Gestion des Connaissances (EGC), Namur, Belgique, pages 81-85.
[Leblond, 2006] LEBLOND I. (2006). Recalage à long terme d’images sonar par mise en correspondance de cartes de classification automatique des fonds. Thèse de l’Université de Bretagne Occidentale UFR Science de la Matière, de l’information et de la Santé.
[Leblond et al., 2005] LEBLOND I., LEGRIS M., and SOLAIMAN B. (20-23 June 2005). Use of classification and segmentation of sidescan sonar images for long term registration. IEEE Oceans’05 Europe, Brest, France.
[Leblond, 2008] LEBLOND I., LEGRIS M., and SOLAIMAN B., Apport de la classification automatique d’images sonar pour la recalage à long terme. Traitement du Signal, vol. 25 n°1-2, 2008, pages 87-104.
[Legris et al., 2003] LEGRIS M., LEBART K., FOHANNO F., and ZERR B. (2003). Les capteurs d’imagerie en robotique sous-marine : tendances actuelles et futures. Revue Traitement du Signal, 20(2) :137-164.
[Mallat, 1989] MALLAT S. G. (July 1989). A theory for multiresolution signal decomposition: the wavelet representation. IEEE Transaction on Pattern Analysis and Machine Intelligence, 11:674-693.
[Martin, 2005] MARTIN A. (Juillet 2005). Comparative study of information fusion methods for sonar images classification. In International Conference on Information Fusion, (Philadelphia, USA).
[Martin et al., 2006] MARTIN A., LAANAYA H., and ARNOLD-BOS A. (2006). Evaluation for uncertain image classification and segmentation. Pattern Recognition, 39.
[Mignotte, 1998] MIGNOTTE M. (1998). Segmentation d’images sonar par approche markovienne hiérarchique non supervisée et classification d’ombres portées par modèles statistiques. Thèse de l’Université de Bretagne Occidentale UFR Sciences et Technique mention électronique.
[Osuna et al., 1997] OSUNA E., FREUND R., and GIROSI F. (1997). Improved training algorithm for support vector machines. NNSP’97.
[Platt, 1998] PLATT J. (1998). Sequential minimal optimization: A fast algorithm for training support vector machines. Microsoft Research Technical Report MSR-TR-98-14.
[Pérez-Cruz et al., 2002] PÉREZ-CRUZ F., CAMPS G., SORIA E., PÉREZ J., FIGUEIRAS-VIDAL A., and ARTÉS-RODRIGUEZ A. (2002). Multi-dimensional function approximation and regression estimation. International Conference on Artificial Neural Networks, Madrid, Espagne.
[Schölkopf et al., 1998] SCHÖLKOPF B., SMOLA A., and MÖLLER K. R. (1998). Nonlinear component analysis as a kernel eigenvalue problem. Neural Computation, 10(5):1299-1319.
[Smets, 1990] SMETS P. (1990). Constructing the pignistic probability function in a context of uncertainty. Uncertainty in Artificial Intelligence, 5:29-39.
[Smola and Schoelkopf, 1998] SMOLA A. and SCHOELKOPF B. (1998). A tutorial on support vector regression. NeuroCOLT2 Technical Report NC2-TR-1998-030.
[Smola, 1996] SMOLA J. (1996). Regression estimation with support vector learning machines. PhD thesis, Master’s thesis, Technische Universität München.
[Thomas, 1998] THOMAS H. (1998). Contribution à la reconnaissance des fonds marins en imagerie sonar. Thèse de l’Université de Bretagne Occidentale UFR Sciences et Technique mention électronique.
[Thourel, 1996] THOUREL P. (1996). Segmentation d’images sonar par modélisation markovienne hiérarchique et analyse multirésolution.
Thèse de l’Université de Bretagne Occidentale UFR Sciences et Technique mention électronique.
[Tsujinishi and Abe, 2003] TSUJINISHI D. and ABE S. (2003). Fuzzy least squares support vector machines for multiclass problems. Neural Networks, 16:785-792.
[Vapnik, 1998] VAPNIK V. N. (1998). Statistical Learning Theory. John Wesley and Sons.
[Vladan and Gopakumar, 1999] VLADAN M. B. and GOPAKUMAR R. (March, 1999). Seabed recognition using neural networks. Technical report, D2K Technical Report – 0399-1.
[Weldon et al., 1996] WELDON T. P., HIGGINS W. E., and DUNN D. F. (1996). Gabor filter design for multiple texture segmentation. Optical Engineering, 35(10):2852-2863.
[Zadeh, 1978] ZADEH L. (1978). Fuzzy sets as the basis for a theory ofpossibility. Fuzzy Sets and Systems, 1:3-28.