Methodologies for developing fuzzy classification systems using evolutionary algorithms: application to highly-dimensional classification tasks

Μεθοδολογίες ανάπτυξης ασαφών συστημάτων ταξινόμησης με χρήση εξελικτικών αλγορίθμων: εφαρμογή σε προβλήματα υψηλής διαστατικότητας

Methodologies for developing fuzzy classification systems using evolutionary algorithms: application to highly-dimensional classification tasks

Stavrakoudis, Dimitris

Σταυρακούδης, Δημήτριος

PhD Thesis

2013

This doctoral dissertation deals with the general problem of classification using fuzzy logic techniquesand evolutionary algorithms. The main objective is to develop methodologies that efficientlyconstruct interpretable classification models for solving problems characterized by highdimensionality of the feature space, while minimizing the structural complexity of the derivedclassifiers. To this end, five new methodologies for developing genetic fuzzy rule-based classifiersare proposed, which address effectively a wide range of real-world classification problems. Thesemethodologies are complementary. Each displays comparative advantages in certain classes ofproblems, depending on the input space’s dimensionality and the desired balance between classificationaccuracy and structural complexity. A particular aribute of the proposed systems is thecreation of simple and understandable classification models, which are made up from rules thatresemble the simple deductive reasoning of humans. The minimization of the classifiers’ structuralcomplexity is accomplished through the progressive decomposition of complex optimizationtasks into separate subproblems, the sequential solution of which is ultimately easier than solvingthe original problems. Furthermore, the training algorithm evaluates deterministic information regardingeach feature’s suitability throughout the derivation of the final classification model, thusenabling the effective treatment of highly dimensional classification problems. The proposed classifiersare primarily applied to land cover classification tasks, using both multispectral and hyperspectralsatellite imagery. Within this framework, higher-order features are extracted throughthe wavelet transform, which increase the class separability in remote sensing classification tasksusing hyperspectral data. Finally, the proposed systems are also applied to modern biomedicalclassification problems, which comprise up to tens of thousands of available features.

Η παρούσα διδακτορική διατριβή πραγματεύεται το γενικότερο πρόβλημα της ταξινόμησης,αξιοποιώντας τεχνικές της ασαφούς λογικής και των εξελικτικών αλγορίθμων. Κύριος στό-χος της είναι η ανάπτυξη μεθοδολογιών εξαγωγής ερμηνεύσιμων μοντέλων ταξινόμησης γιατην αντιμετώπιση προβλημάτων που χαρακτηρίζονται από υψηλή διαστατικότητα του χώρουτων χαρακτηριστικών, με ταυτόχρονη ελαχιστοποίηση της δομικής πολυπλοκότητας των πα-ραγόμενων ταξινομητών. Για το σκοπό αυτό προτείνονται πέντε νέες μεθοδολογίες ανάπτυ-ξης γενετικών ασαφών ταξινομητών, που αντιμετωπίζουν αποτελεσματικά ένα ευρύ φάσμαπροβλημάτων ταξινόμησης του πραγματικού κόσμου. Οι μεθοδολογίες αυτές είναι μεταξύτους συμπληρωματικές. Καθεμία εμφανίζει συγκριτικά πλεονεκτήματα σε συγκεκριμένεςκατηγορίες προβλημάτων, ανάλογα με τη διαστατικότητα του χώρου εισόδου, καθώς και τηνεπιθυμητή ισορροπία μεταξύ ακρίβειας ταξινόμησης και δομικής πολυπλοκότητας. Ιδιαίτεροχαρακτηριστικό των προτεινόμενων συστημάτων είναι η δημιουργία απλών και εύληπτωνμοντέλων ταξινόμησης, βασισμένα σε κανόνες που προσιδιάζουν στις απλές συμπερασμα-τικές προτάσεις της ανθρώπινης σκέψης. Η ελαχιστοποίηση της δομικής πολυπλοκότηταςτων ταξινομητών επιτυγχάνεται μέσω της προοδευτικής αποσύνθεσης συνολικότερων προ-βλημάτων βελτιστοποίησης σε επιμέρους υποπροβλήματα, η διαδοχική επίλυση των οποίωνκαταλήγει εντέλει να είναι συνδυαστικά πιο εύκολη από την επίλυση των αρχικών προβλη-μάτων. Επιπλέον προτείνεται η αξιολόγηση αιτιοκρατικής πληροφορίας ως προς την καταλ-ληλότητα κάθε χαρακτηριστικού καθ’ όλη τη διάρκεια εξαγωγής του τελικού μοντέλου ταξι-νόμησης, επιτρέποντας έτσι την αντιμετώπιση προβλημάτων πολύ υψηλής διαστατικότητας.Οι προτεινόμενοι ταξινομητές εφαρμόζονται κατά κύριο λόγο σε προβλήματα ταξινόμησηςκάλυψης γης, με τη χρήση τόσο πολυφασματικών όσο και υπερφασματικών δορυφορικώνεικόνων. Στο πλαίσιο αυτό εξετάζεται και η χρήση του μετασχηματισμού κυματίου για τηνεξαγωγή χαρακτηριστικών ανώτερης τάξης σε προβλήματα ταξινόμησης με τη χρήση υπερ-φασματικών δεδομένων. Τέλος, αντιμετωπίζονται και σύγχρονα προβλήματα ταξινόμησηςτης βιοϊατρικής, που περιλαμβάνουν ως και δεκάδες χιλιάδες διαθέσιμα χαρακτηριστικά.

Φυσικές Επιστήμες ➨ Επιστήμη Ηλεκτρονικών Υπολογιστών και Πληροφορική

Επιστήμες Μηχανικού και Τεχνολογία ➨ Επιστήμη Ηλεκτρολόγου Μηχανικού, Ηλεκτρονικού Μηχανικού, Μηχανικού Η/Υ

Ασαφείς ταξινομητές

Επιστήμη Ηλεκτρολόγου Μηχανικού, Ηλεκτρονικού Μηχανικού, Μηχανικού Η/Υ

Electrical Engineering, Electronic Engineering, Information Engineering

Τηλεπισκόπηση

Highly-dimensional classification tasks

Ταξινόμηση κάλυψης γης

Προβλήματα ταξινόμησης πολύ υψηλής διαστατικότητας

Γενετικά ασαφή συστήματα ταξινόμησης βασισμένα σε κανόνες

Evolutionary algorithms

Computer and Information Sciences

Φυσικές Επιστήμες

Remote sensing

Fuzzy classifiers

Επιστήμες Μηχανικού και Τεχνολογία

Genetic fuzzy rule-based classification systems

Engineering and Technology

Υπερφασματικές δορυφορικές εικόνες

Εξελικτικοί αλγόριθμοι

Land cover classification

Hyperspectral satellite imagery

Επιστήμη Ηλεκτρονικών Υπολογιστών και Πληροφορική

Natural Sciences

Greek

Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης (ΑΠΘ)

Aristotle University Of Thessaloniki (AUTH)

Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης (ΑΠΘ). Σχολή Πολυτεχνική. Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών

BY

National Documentation Centre (EKT)

National Archive of PhD Theses

Συλλογή ΕΑΔΔ