We present a new curvilinear algorithmic model for training neural networks which is based on a modifications of the memoryless BFGS method that incorporates a curvilinear linesearch.
The proposed model exploits the nonconvexity of the error surface based on information provided by the eigensystem of memoryless BFGS matrices using a pair of directions; a memoryless quasi-Newton direction and a direction of negative curvature. In addition, the computation of the negative curvature direction is accomplished
avoiding any storage and matrix factorization. Simulations results verify that the proposed modification significantly improves the efficiency of the training process.
(EN)
Σε αυτή την εργασία, προτείνουμε ένα νέο
αλγοριθμικό μοντέλο για την εκπαίδευση νευρωνικών δικτύων βασισμένο σε μια τροποποίηση της μεθόδου BFGS χωρίς μνήμη το οποίο ενσωματώνει καμπυλόγραμμη αναζήτηση. Το προτεινόμενο μοντέλο ενσωματώνει τη μη-κυρτότητα της συνάρτησης σφάλματος αντλώντας πληροφορίες από το ιδιοσύστημα των πινάκων BFGS χωρίς μνήμη και χρησιμοποιεί ένα ζεύγος κατευθύνσεων: μια κατεύθυνση quasi-Newton χωρίς μνήμη και μια κατεύθυνση αρνητικής κυρτότητας. Επιπλέον, ο υπολογισμός της κατεύθυνσης της αρνητικής
κυρτότητας πραγματοποιείται αποφεύγοντας την αποθήκευση και την παραγοντοποίηση πίνακα. Τα αριθμητικά αποτελέσματα επαληθεύουν ότι η
προτεινόμενη μέθοδος βελτιώνει σημαντικά την αποδοτικότητα της διαδικασίας εκπαίδευσης.
University of Patras
