Το αντικείμενο αυτής της εργασίας είναι οι ταξινομητές στα συστήματα υποβοηθούμενης διάγνωσης στην ιατρική απεικόνιση. Ειδικότερα, εστιάζει στα τεχνητά νευρωνικά δίκτυα καθώς και σε μεθόδους επιλογής χαρακτηριστικών.
Οι στόχοι αυτής της εργασίας είναι:
1. Η αναζήτηση της βέλτιστης τοπολογίας ενός πρόσω κατευθυντικού νευρωνικού δικτύου, σε τέσσερα (4) προβλήματα ταξινόμησης ιατρικής απεικόνισης (κυτταρολογία, μαγνητική απεικόνιση, αξονική τομογραφία και μαστογραφία).
2. Η μελέτη τριών (3) μεθόδων επιλογής χαρακτηριστικών (μείωσης διαστάσεων) συμπεριλαμβανομένων της ανάλυσης κύριων συνιστωσών, της σταδιακής αναζήτησης και της κατάταξης κατά τ-τέστ για τα τέσσερα (4) προβλήματα ταξινόμησης που είχαμε στη διάθεσή μας.
3. Η σύγκριση της απόδοσης του πρόσω κατευθυντικού νευρωνικού δικτύου (FFNN) με τους KNN, SVM, PNN και LDA ταξινομητές, στα τέσσερα (4) προαναφερθέντα ιατρικά προβλήματα ταξινόμησης. Για την εκτίμηση της απόδοσης γενίκευσης (σφάλμα γενίκευσης) χρησιμοποιήθηκε η 10-πτυχη διασταυρούμενη επικύρωση.
4. Η στατιστική σημαντικότητα των αποτελεσμάτων ελέγχθηκε με τις δοκιμασίες της ανάλυσης της διακύμανσης κατά ένα παράγοντα (ANOVA) και της δοκιμασίας Duncan.
Για την διευκόλυνση του πειραματικού μέρους αναπτύχθηκε μια φιλική στο χρήστη εφαρμογή που επιτρέπει την αναζήτηση της βέλτιστης τοπολογίας του νευρωνικού δικτύου για τα επιλεγμένα χαρακτηριστικά, και τις προεπιλεγμένες τεχνικές προ-επεξεργασίας, ενώ επιτρέπει και την σύγκριση του με άλλους ταξινομητές.
Τα αποτελέσματα του πειραματικού μέρους αυτής της εργασίας είναι:
1. Δεν αποδεικνύεται στατιστικά ότι η τοπολογία του δικτύου έχει κάποια επίδραση στην απόδοση του στα τέσσερα αυτά προβλήματα που μελετήθηκαν.
2. Η μέθοδος σταδιακής αναζήτησης είναι στατιστικά καλύτερη μέθοδος για επιλογή χαρακτηριστικών (τη μείωση των διαστάσεων), εκτός από το ένα πρόβλημα που αφορούσε στην κυτταρολογία όπου δεν αποδείχθηκε στατιστικά σημαντική διαφορά μεταξύ των μεθόδων. Αυτό οφείλεται στο γεγονός ότι η μέθοδος σταδιακής αναζήτησης έχει την «ενδογενή» ικανότητα να επιλέγει χαρακτηριστικά που είναι ανεξάρτητα μεταξύ τους με αποτέλεσμα την αυξημένη διακριτική ικανότητα του τελικού συνόλου (τα προβλήματα που η μέθοδος αυτή επέδειξε καλή συμπεριφορά είχαν χαρακτηριστικά με υψηλό βαθμό συσχέτισης).
3. Δεν αποδεικνύεται στατιστικά καλύτερος ταξινομητής στις περισσότερες περιπτώσεις ενώ ο νευρωνικός ταξινομητής επιδεικνύει πολύ καλή συμπεριφορά σε όλες τις περιπτώσεις. Για το λόγο αυτό, η επιλογή του ταξινομητή δεν φαίνεται να επηρεάζει σε σημαντικό βαθμό την απόδοση του συστήματος στα προβλήματα που έχουν μελετηθεί εδώ. Επιπλέον, η επιλογή του ταξινομητή μπορεί να γίνει με όρους διαφορετικούς από την ταξινομητική ικανότητά τους όπως απλότητα και ευελιξία, χαρακτηριστικά που έχει ο νευρωνικός ταξινομητής.
This thesis is dealing with classifiers in Computer Aided Diagnosis in medical imaging. In particular, it focuses on artificial neural networks and feature selection methods.
The specific goals of the thesis are:
1. Search for optimal topology of a feed-forward neural network (FFNN), dealing with four (4) medical imaging classification problems (Cytology, MRI, CT, and Mammography).
2. Study three (3) feature selection (dimensionality reduction) methods including PCA, stepwise analysis and t-test ranking for the FFNN topology defined in the previous step, for the four (4) medical imaging classification problems at hand.
3. Compare performance of the FFNN scheme to KNN, SVM, PNN and LDA classifiers, dealing with the above mentioned four (4) medical imaging classification problems. 10-fold cross validation estimation of generalization performance (generalization error) of the classification schemes was utilized.
4. Statistical significance of the results was validated utilizing ANOVA and Duncan’s test.
To facilitate experimentation, a user-friendly application was developed (Chapter 3) that allows the user to find the best network topology on feature vectors, selected by various pre-processing techniques, and compared with other classifiers.
The results of this are:
1. There is no statistical evidence that the different topology that is tested have any impact on classification performance of FFNN in any of the classification problem that this thesis is dealt off.
2. The stepwise method of dimensionality reduction (feature selection) is statistically significance better method than the other methods, except in the case of one dataset (Cytology) where there are no statistical significant differences. This is because of the inherent ability of stepwise method to select uncorrelated features unlike the other two methods (the datasets that the stepwise featured better performance had many highly correlated features).
3. There is no statistical significant better classifier in most cases, while neuronal classifier exhibits very good behaviour on all cases. For that reason, the selection of classifier does not seem to affect the classification problems at hand. Furthermore, the choice of classifier could be done based on other criteria than the classification performance, such as, the simplicity and plasticity, features that characterize the FFNN.
