The generalization error of dictionary learning with moreau envelopes

Το τεκμήριο παρέχεται από τον φορέα :
Πολυτεχνείο Κρήτης   

Αποθετήριο :
Ιδρυματικό Αποθετήριο Πολυτεχνείου Κρήτης   

δείτε την πρωτότυπη σελίδα τεκμηρίου
στον ιστότοπο του αποθετηρίου του φορέα για περισσότερες πληροφορίες και για να δείτε όλα τα ψηφιακά αρχεία του τεκμηρίου*



The generalization error of dictionary learning with moreau envelopes (EN)

Γεωργογιαννης Αλεξανδρος (EL)
Georgogiannis Alexandros (EN)

full paper
conferenceItem

2018


This is a theoretical study on the sample complexity of dictionary learning with general type of reconstruction losses. The goal is to estimate a m × d matrix D of unit-norm columns when the only available information is a set of training samples. Points x in R m are subsequently approximated by the linear combination Da after solving the problem mina∈Rd Φ(x - Da) + g(a) with function g being either an indicator function or a sparsity promoting regularizer. Here is considered the case where Φ(x) = inf z∈Rm ||x - z||2 2 + h(||z||2) and h is an even and univariate function on the real line. Connections are drawn between Φ and the Moreau envelope of h. A new sample complexity result concerning the k-sparse dictionary problem removes the spurious condition regarding the coherence of D appearing in previous works. Finally comments are made on the approximation error of certain families of losses. The derived generalization bounds are of order O( p log n/n). (EN)

Approximation errors (EN)
Artificial intelligence (EN)
Dictionary learning (EN)

35th International Conference on Machine Learning (EL)

Αγγλική γλώσσα

International Machine Learning Society (EN)

Πολυτεχνείο Κρήτης (EL)
Technical University of Crete (EN)




*Η εύρυθμη και αδιάλειπτη λειτουργία των διαδικτυακών διευθύνσεων των συλλογών (ψηφιακό αρχείο, καρτέλα τεκμηρίου στο αποθετήριο) είναι αποκλειστική ευθύνη των αντίστοιχων Φορέων περιεχομένου.