Sebastien Rousseau

ΜΗΧΑΝΙΚΉ ΜΆΘΗΣΗ

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο

Η δεύτερη έκδοση του Foundations of Machine Learning ορίζει τη μάθηση ως αξιοποίηση της εμπειρίας για ακριβείς προβλέψεις και χτίζει ένα ολόκληρο πρόγραμμα σπουδών γύρω από τα μεγέθη που κρίνουν αν λειτουργεί: δεδομένα, πολυπλοκότητα και εγγυήσεις.

21 λεπτά ανάγνωσης
Banner for: Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) των Mehryar Mohri, Afshin Rostamizadeh και Ameet Talwalkar ορίζει τη μάθηση ως αξιοποίηση της εμπειρίας για ακριβείς προβλέψεις και χτίζει ένα αυστηρό πρόγραμμα σπουδών γύρω από τη δειγματική πολυπλοκότητα, τα φράγματα Rademacher και τις θεωρητικές εγγυήσεις.



Τα περισσότερα βιβλία για τη μηχανική μάθηση ξεκινούν με μια υπόσχεση για το τι θα μπορείτε να φτιάξετε. Αυτό ξεκινά με έναν ορισμό και μια λίστα με τα μεγέθη που κρίνουν αν ένα σύστημα που μαθαίνει θα πετύχει. Αυτή η σειρά δείχνει τι θεωρούν οι συγγραφείς ότι είναι το αντικείμενο, και πιστεύω ότι έχουν δίκιο. Ένας κλάδος που προβάλλεται μέσω της πρόβλεψης οφείλει στους αναγνώστες του μια εξήγηση για το πότε η πρόβλεψη είναι αξιόπιστη, και αυτήν ακριβώς την εξήγηση επιχειρεί να δώσει το βιβλίο.

Αυτό το άρθρο διαβάζει το βιβλίο μέσα από όσα λένε πραγματικά οι εισαγωγικές του σελίδες, ο πρόλογος και οι πρώτες σελίδες. Είναι μια στενότερη άσκηση από την κριτική κάθε κεφαλαίου, και είναι ειλικρινής για τα όριά της: οι πηγές εδώ είναι η σελίδα τίτλου, ο πίνακας περιεχομένων, ο πρόλογος και το πρώτο τμήμα της εισαγωγής. Μέσα σε αυτά τα όρια υπάρχει ένα σαφές επιχείρημα για να ακολουθήσει κανείς. Αφορά το τι είναι η μηχανική μάθηση, από τι εξαρτάται, τι επέλεξαν να καλύψουν οι συγγραφείς και τι επέλεξαν να αφήσουν εκτός.

Ένα βιβλίο με ακριβή καταγωγή #

Ας ξεκινήσουμε από τα στοιχεία που αγκυρώνουν το αντικείμενο. Το βιβλίο τιτλοφορείται Foundations of Machine Learning, και αυτή είναι η δεύτερη έκδοση. Ανήκει στη σειρά Adaptive Computation and Machine Learning, με επιμελητή τον Francis Bach. Συγγραφείς είναι οι Mehryar Mohri, Afshin Rostamizadeh και Ameet Talwalkar. Εκδότης είναι το The MIT Press, στο Cambridge της Μασαχουσέτης, και τα πνευματικά δικαιώματα ανήκουν στο Massachusetts Institute of Technology, με ημερομηνία 2018. Η σκληρόδετη έκδοση φέρει ISBN 9780262039406.

Δύο λεπτομέρειες της παραγωγής αξίζουν από μία πρόταση η καθεμία. Το βιβλίο στοιχειοθετήθηκε σε LaTeX από τους ίδιους τους συγγραφείς, κάτι που ταιριάζει σε ένα κείμενο πυκνό σε φράγματα, ορισμούς και αποδείξεις, και τυπώθηκε και δέθηκε στις Ηνωμένες Πολιτείες της Αμερικής. Καμία από τις δύο λεπτομέρειες δεν αλλάζει τον τρόπο που διαβάζετε τα μαθηματικά. Όμως συγγραφείς που στοιχειοθετούν μόνοι τους το βιβλίο τους έχουν περάσει από τα χέρια τους κάθε σελίδα, και σε ένα βιβλίο αυτού του είδους αυτό είναι καθησυχαστικό.

Η προέλευση του υλικού μετράει περισσότερο. Το μεγαλύτερο μέρος του προέρχεται από ένα μεταπτυχιακό μάθημα, που λέγεται επίσης Foundations of Machine Learning, το οποίο δίδαξε ο πρώτος συγγραφέας στο Courant Institute of Mathematical Sciences του New York University τα τελευταία δεκατέσσερα χρόνια. Πρόκειται για συγκεκριμένη, επαληθεύσιμη προέλευση. Ένα εγχειρίδιο που γεννήθηκε από δεκατέσσερα χρόνια διδασκαλίας ενός μαθήματος έχει πιθανότατα διαμορφωθεί από όσα οι φοιτητές βρήκαν δύσκολα, και οι ασκήσεις και τα παραρτήματα που περιγράφονται παρακάτω δίνουν αυτή την εντύπωση. Θα πρόσεχα όμως να μη σπρώξω το συμπέρασμα πιο μακριά απ' όσο επιτρέπει η πηγή. Ο πρόλογος λέει από πού προήλθε το υλικό, όχι όμως από πόσες αναθεωρήσεις πέρασε το μάθημα ή με τι δυσκολεύτηκαν οι φοιτητές. Όσα λέει αρκούν: πρόκειται για διδακτικό υλικό μαθήματος, όχι για επισκόπηση συναρμολογημένη από τη βιβλιογραφία.

Ο ορισμός που σηκώνει το βάρος #

Όλα όσα ακολουθούν εξαρτώνται από μία πρόταση. Η μηχανική μάθηση, γράφουν οι συγγραφείς, μπορεί να οριστεί σε γενικές γραμμές ως υπολογιστικές μέθοδοι που χρησιμοποιούν την εμπειρία για να βελτιώσουν την απόδοση ή για να κάνουν ακριβείς προβλέψεις.

Κάθε ουσιαστικό της πρότασης έχει δουλειά να κάνει. Οι «υπολογιστικές μέθοδοι» τοποθετούν το αντικείμενο μέσα στην επιστήμη υπολογιστών. Η «εμπειρία» στη συνέχεια προσδιορίζεται: αναφέρεται στην παρελθοντική πληροφορία που είναι διαθέσιμη στο σύστημα που μαθαίνει. Η πρόταση δεν ισχυρίζεται ότι το σύστημα κατανοεί οτιδήποτε, και δεν λέει τίποτα για νοημοσύνη. Ένα σύστημα που μαθαίνει διαθέτει παρελθοντική πληροφορία και έναν στόχο, δηλαδή βελτιωμένη απόδοση ή ακριβή πρόβλεψη, και ολόκληρη η επιστήμη αφορά τη σχέση ανάμεσα στα δύο.

Θα υποστήριζα ότι για τους τεχνικούς αναγνώστες και τους ιδρυτές αυτός είναι πιο χρήσιμος ορισμός από τους πιο μεγαλόστομους που κυκλοφορούν, επειδή δείχνει κατευθείαν τους μοχλούς που ελέγχετε. Αν η μάθηση είναι συνάρτηση της παρελθοντικής πληροφορίας, τότε η επιρροή σας στο αποτέλεσμα βρίσκεται στο ποια πληροφορία συλλέγετε και πόση. Ο επόμενος ισχυρισμός του κειμένου λέει ακριβώς αυτό: η ποιότητα και το μέγεθος των δεδομένων είναι καθοριστικά για την επιτυχία των προβλέψεων του συστήματος που μαθαίνει. Το κείμενο παρουσιάζει αυτόν τον ισχυρισμό ως απλό μηχανισμό, χωρίς καμία επιφύλαξη.

Οι συγγραφείς περιγράφουν και τις ίδιες τις τεχνικές. Είναι μέθοδοι που καθοδηγούνται από τα δεδομένα και συνδυάζουν θεμελιώδεις έννοιες της επιστήμης υπολογιστών με ιδέες από τη στατιστική, τις πιθανότητες και τη βελτιστοποίηση. Η πρόταση λειτουργεί ταυτόχρονα ως λίστα προαπαιτούμενων και ως χάρτης των γειτόνων του κλάδου. Μια ομάδα που θέλει να χτίσει συστήματα μάθησης αντλεί μαζί από την επιστήμη υπολογιστών, τη στατιστική, τις πιθανότητες και τη βελτιστοποίηση. Το να θεωρηθεί οποιαδήποτε από αυτές προαιρετική είναι μια επιλογή που το βιβλίο δεν υιοθετεί.

Ένα λυμένο παράδειγμα: έγγραφα και θέματα #

Η εισαγωγή αγκυρώνει τον ορισμό σε ένα συγκεκριμένο πρόβλημα μάθησης. Πάρτε ένα πεπερασμένο δείγμα τυχαία επιλεγμένων εγγράφων, το καθένα με ετικέτα ένα θέμα. Το ζητούμενο είναι να χρησιμοποιηθεί αυτό το δείγμα για να προβλεφθεί το θέμα εγγράφων που δεν έχουν ειδωθεί.

Η διατύπωση ανταμείβει μια αργή ανάγνωση. Το δείγμα είναι πεπερασμένο, άρα το σύστημα δεν βλέπει ποτέ τα πάντα. Τα έγγραφα επιλέγονται τυχαία, και αυτό επιτρέπει σε ένα πεπερασμένο δείγμα να πει κάτι για όσα δεν έχουν ειδωθεί. Το καθένα έχει ετικέτα θέματος, άρα το σύστημα έχει επίβλεψη. Και ο στόχος είναι έγγραφα που δεν έχει δει, που είναι η διαφορά ανάμεσα στην πρόβλεψη και την απομνημόνευση.

Οι συγγραφείς αναδεικνύουν στη συνέχεια δύο παράγοντες που κάνουν το έργο ευκολότερο ή δυσκολότερο. Ο πρώτος είναι το μέγεθος: προφανώς, όσο μεγαλύτερο το δείγμα, τόσο ευκολότερο το έργο. Ο δεύτερος είναι η ποιότητα των ετικετών. Η δυσκολία του έργου εξαρτάται επίσης από την ποιότητα των ετικετών που έχουν αποδοθεί στα έγγραφα του δείγματος, αφού οι ετικέτες μπορεί να μην είναι όλες σωστές, και από τον αριθμό των πιθανών θεμάτων.

Αυτή η πρόταση περιέχει τρεις ξεχωριστούς ρυθμιστές. Το μέγεθος του δείγματος είναι ο ένας. Η ορθότητα των ετικετών είναι ο άλλος. Ο αριθμός των πιθανών θεμάτων είναι ο τρίτος. Κανένας τους δεν αφορά τον αλγόριθμο. Όλοι είναι ιδιότητες του προβλήματος και των δεδομένων, και κρίνουν πόσο δύσκολο είναι το πρόβλημα πριν επιλεγεί οποιαδήποτε μέθοδος. Για έναν ιδρυτή που αποφασίζει πού θα ξοδέψει έναν προϋπολογισμό, αυτή είναι μια εύστοχη παρατήρηση. Αν μπορείτε να βελτιώσετε τις ετικέτες ή να μεγαλώσετε το δείγμα, δράτε πάνω στους παράγοντες που οι συγγραφείς ονομάζουν ρητά ως καθοριστικούς για τη δυσκολία.

Το παράδειγμα ονομάζει επίσης το δικό του έργο. Η πρόβλεψη της ετικέτας ενός εγγράφου είναι γνωστή και ως ταξινόμηση εγγράφων, και οι συγγραφείς σπεύδουν να προσθέσουν ότι δεν είναι σε καμία περίπτωση το μόνο έργο μάθησης. Αυτή η επιφύλαξη προσπερνιέται εύκολα. Το παράδειγμα των εγγράφων είναι όχημα, και ο ισχυρισμός από κάτω είναι γενικός.

Τρεις πολυπλοκότητες, όχι δύο #

Εδώ το βιβλίο κάνει την πιο χαρακτηριστική του κίνηση, και είναι εύκολο να σας ξεφύγει επειδή έρχεται ως σύντομη παρατήρηση. Η μηχανική μάθηση, λένε οι συγγραφείς, συνίσταται στη σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης. Όπως και σε άλλους τομείς της επιστήμης υπολογιστών, η χρονική και η χωρική πολυπλοκότητα είναι κρίσιμα μέτρα της ποιότητας τέτοιων αλγορίθμων. Όποιος έχει μελετήσει αλγορίθμους θα αναγνωρίσει αυτά τα δύο. Πόσο χρόνο παίρνει, και πόση μνήμη χρειάζεται;

Ύστερα έρχεται η προσθήκη. Η μηχανική μάθηση χρειάζεται επιπλέον μια έννοια δειγματικής πολυπλοκότητας για να εκτιμηθεί το μέγεθος δείγματος που απαιτείται ώστε ο αλγόριθμος να μάθει μια οικογένεια εννοιών. Αυτό είναι το μέτρο που δεν έχει αντίστοιχο σε μια ρουτίνα ταξινόμησης. Ένας αλγόριθμος ταξινόμησης δεν χρειάζεται να μάθει πόσα παραδείγματα απαιτεί. Ένα σύστημα που μαθαίνει το χρειάζεται, γιατί η έξοδός του είναι μια πρόβλεψη για περιπτώσεις που δεν έχει δει, και η ποσότητα εμπειρίας πίσω από αυτή την πρόβλεψη είναι μέρος αυτού για το οποίο πληρώνετε.

Θα το έθετα έτσι: ο χρόνος και ο χώρος σας λένε πόσο κοστίζει να εκτελεστεί ένας αλγόριθμος, και η δειγματική πολυπλοκότητα σας λέει πόσο κοστίζει να διδαχθεί. Ένα σύστημα που είναι γρήγορο αλλά χρειάζεται ένα ανέφικτα μεγάλο δείγμα δεν είναι αποδοτικό με καμία έννοια που μετράει για όποιον συλλέγει τα δεδομένα. Βάζοντας το τρίτο μέτρο δίπλα στα άλλα δύο, το βιβλίο λέει ότι τα δεδομένα είναι πόρος με τίμημα, που πρέπει να μπει στον προϋπολογισμό όπως η υπολογιστική ισχύς και η μνήμη.

Το κείμενο συνεχίζει προς την ίδια κατεύθυνση. Γενικότερα, οι θεωρητικές εγγυήσεις μάθησης για έναν αλγόριθμο εξαρτώνται από την πολυπλοκότητα των κλάσεων εννοιών που εξετάζονται και από το μέγεθος του δείγματος εκπαίδευσης. Αυτή είναι μια συμπυκνωμένη διατύπωση του από τι αποτελείται μια εγγύηση. Υπάρχουν δύο είσοδοι, πόσο πλούσια είναι η οικογένεια εννοιών και πόσα δεδομένα εκπαίδευσης έχετε, και μια εγγύηση είναι μια πρόταση που τις συσχετίζει με την απόδοση. Προσέξτε τι συνεπάγεται αυτό για τη δομή του βιβλίου. Τα κεφάλαια που ακολουθούν πρέπει να δώσουν τρόπους μέτρησης της πολυπλοκότητας μιας κλάσης εννοιών, και ο πίνακας περιεχομένων δείχνει ότι το κάνουν.

Οι συγγραφείς εξηγούν επίσης γιατί ο κλάδος βρίσκεται εκεί που βρίσκεται. Επειδή η επιτυχία ενός αλγορίθμου μάθησης εξαρτάται από τα δεδομένα που χρησιμοποιούνται, η μηχανική μάθηση είναι εγγενώς συνδεδεμένη με την ανάλυση δεδομένων και τη στατιστική. Ο μηχανισμός δηλώνεται ευθέως: η επιτυχία εξαρτάται από τα δεδομένα, άρα το αντικείμενο είναι συνυφασμένο με τις επιστήμες που μελετούν τα δεδομένα. Τη θεωρώ την πιο ειλικρινή πρόταση της εισαγωγής. Δεν παρουσιάζει τη στατιστική ως αντίπαλο ή πρόγονο. Την παρουσιάζει ως συνέπεια αυτού από το οποίο εξαρτάται η μάθηση.

Διάσταση Χρονική πολυπλοκότητα Χωρική πολυπλοκότητα Δειγματική πολυπλοκότητα
Λειτουργικός ορισμός Ασυμπτωτικός χρόνος εκτέλεσης που απαιτείται για την παραγωγή της υπόθεσης $h$ Αποτύπωμα μνήμης που απαιτείται κατά την εκπαίδευση και την αξιολόγηση Αριθμός παραδειγμάτων εκπαίδευσης $m$ που απαιτούνται για την εκμάθηση μιας οικογένειας εννοιών
Θεωρία αναφοράς Υπολογιστική πολυπλοκότητα (P έναντι NP, δυσκολία εκπαίδευσης) Περιορισμοί μνήμης της αρχιτεκτονικής και τοπικότητα κρυφής μνήμης Μάθηση PAC, πολυπλοκότητα Rademacher και διάσταση VC
Επίπτωση στο κόστος Υπολογιστική ισχύς διακομιστών και προϋπολογισμός συμπερασμού GPU/CPU Χωρητικότητα RAM και SRAM στο τσιπ Κόστος συλλογής, σχολιασμού και επισήμανσης δεδομένων
Θεωρητικός ρόλος Μετρά την αποδοτικότητα χρόνου εκτέλεσης του αλγορίθμου Μετρά την αποδοτικότητα στους πόρους μνήμης Καθορίζει το σφάλμα γενίκευσης και τα φράγματα για δεδομένα που δεν έχουν ειδωθεί

Η θεωρητική ραχοκοκαλιά #

Ο πρόλογος δηλώνει πώς είναι χτισμένο το βιβλίο. Τα πρώτα τρία ή τέσσερα κεφάλαια θέτουν τα θεωρητικά θεμέλια για το υλικό που ακολουθεί. Ο πίνακας περιεχομένων μάς επιτρέπει να δούμε από τι αποτελούνται αυτά τα θεμέλια, τουλάχιστον σε επίπεδο τίτλων.

Το πρώτο κεφάλαιο του πίνακα περιεχομένων τιτλοφορείται «The PAC Learning Framework» (το πλαίσιο μάθησης PAC), και σε αυτό εμφανίζονται ενότητες με τίτλους «Guarantees for finite hypothesis sets - consistent case» και «Guarantees for finite hypothesis sets - inconsistent case», δηλαδή εγγυήσεις για πεπερασμένα σύνολα υποθέσεων στη συνεπή και στη μη συνεπή περίπτωση. Τα ονόματα των ενοτήτων μάς λένε δύο πράγματα. Το ένα είναι ότι το πλαίσιο παράγει εγγυήσεις, κάτι που συμφωνεί με την έμφαση της εισαγωγής. Το άλλο είναι ότι οι εγγυήσεις χωρίζονται ανάλογα με το αν η περίπτωση είναι συνεπής ή μη συνεπής, και το βιβλίο εξετάζει τις δύο χωριστά. Δεν θα κάνω εικασίες για το τι περιέχουν η συνεπής και η μη συνεπής περίπτωση, γιατί οι πηγές εδώ δίνουν μόνο τους τίτλους των ενοτήτων. Όμως το ζευγάρωμα δείχνει ότι οι συγγραφείς δεν παρουσιάζουν ένα μόνο καθαρό θεώρημα για να προχωρήσουν. Δίνουν στη δυσκολότερη, πιο ακατάστατη περίπτωση δική της ενότητα.

Το επόμενο κεφάλαιο της λίστας είναι το «Rademacher Complexity and VC-Dimension». Οι ενότητές του καλύπτουν την πολυπλοκότητα Rademacher, τη συνάρτηση αύξησης, τη διάσταση VC και τα κάτω φράγματα. Διαβασμένο απέναντι στην εισαγωγή, αυτό το κεφάλαιο είναι η φυσική απάντηση σε ένα ερώτημα που θέτει η εισαγωγή. Αν οι εγγυήσεις εξαρτώνται από την πολυπλοκότητα των κλάσεων εννοιών που εξετάζονται, χρειάζεστε εργαλεία για να μετρήσετε αυτή την πολυπλοκότητα. Η πολυπλοκότητα Rademacher, η συνάρτηση αύξησης και η διάσταση VC παρατίθενται ως οι ενότητες που σηκώνουν αυτό το φορτίο. Αξίζει να σημειωθεί και η παρουσία των κάτω φραγμάτων στη λίστα των ενοτήτων. Ένα βιβλίο που παρουσιάζει μόνο άνω φράγματα σας λέει τι είναι εφικτό. Ένα που περιλαμβάνει και κάτω φράγματα σας λέει επίσης τι δεν είναι.

Έπειτα έρχεται το κεφάλαιο 4, «Model Selection», με ενότητες που περιλαμβάνουν την ελαχιστοποίηση του εμπειρικού κινδύνου (ERM) και τη δομική ελαχιστοποίηση κινδύνου (SRM). Θα επιστρέψουμε σε αυτό το κεφάλαιο όταν εξετάσουμε τη δεύτερη έκδοση, γιατί είναι ένα από τα σημεία όπου η νέα έκδοση αλλάζει τα περισσότερα.

Η δομή είναι σκόπιμη. Πρώτα τα θεμέλια, μετά ο μηχανισμός μέτρησης της πολυπλοκότητας, μετά η επιλογή μοντέλου και μόνο ύστερα οι αλγόριθμοι. Είναι ένας τρόπος διδασκαλίας που υποστηρίζεται, και ταιριάζει με την περιγραφή που δίνει το ίδιο το βιβλίο για τη λειτουργία του: τα αρχικά κεφάλαια θέτουν τη θεωρία, και τα υπόλοιπα χτίζουν πάνω της.

Από τη θεωρία στους αλγορίθμους: μηχανές διανυσμάτων υποστήριξης και πυρήνες #

Ο πίνακας περιεχομένων ονομάζει επίσης τα αλγοριθμικά κεφάλαια που ακολουθούν. Ένα τιτλοφορείται «Support Vector Machines», με ενότητες για τη διαχωρίσιμη και τη μη διαχωρίσιμη περίπτωση. Καθεμία από αυτές τις ενότητες καλύπτει το πρωτεύον πρόβλημα βελτιστοποίησης, τα διανύσματα υποστήριξης και το δυϊκό πρόβλημα βελτιστοποίησης. Ένα άλλο τιτλοφορείται «Kernel Methods».

Η μορφή του κεφαλαίου για τις μηχανές διανυσμάτων υποστήριξης είναι από μόνη της διαφωτιστική. Τα ίδια τρία θέματα εμφανίζονται τόσο κάτω από τον τίτλο της διαχωρίσιμης όσο και της μη διαχωρίσιμης περίπτωσης: το πρωτεύον πρόβλημα βελτιστοποίησης, τα διανύσματα υποστήριξης και το δυϊκό πρόβλημα βελτιστοποίησης. Η επανάληψη υποδηλώνει παράλληλη εξέταση, τα ίδια ερωτήματα τιθέμενα δύο φορές υπό διαφορετικές υποθέσεις. Ο παραλληλισμός αντικατοπτρίζει τη διάκριση συνεπούς και μη συνεπούς περίπτωσης στο κεφάλαιο για το PAC, οπότε σε όλο το βιβλίο αναδύεται ένα μοτίβο: πρώτα μια καθαρή περίπτωση, μετά η περίπτωση όπου η καθαρή υπόθεση δεν ισχύει.

Θα ήμουν επιφυλακτικός στο να διαβάσω πάρα πολλά σε έναν πίνακα περιεχομένων. Μπορεί να μας πει τι καλύπτει το βιβλίο και πώς χωρίζει το υλικό. Δεν μπορεί να μας πει πόσο καλά είναι γραμμένη οποιαδήποτε ενότητα, και τίποτα σε αυτές τις πηγές δεν το λέει. Αυτό που δείχνει είναι ότι η γλώσσα της βελτιστοποίησης στο κεφάλαιο για τις μηχανές διανυσμάτων υποστήριξης, πρωτεύον και δυϊκό, παραπέμπει πίσω στην περιγραφή της εισαγωγής για τις τεχνικές ως συνδυασμό της επιστήμης υπολογιστών με ιδέες από τη στατιστική, τις πιθανότητες και τη βελτιστοποίηση. Το σκέλος της βελτιστοποίησης σε εκείνη τη λίστα εμφανίζεται συγκεκριμένα σε αυτούς τους τίτλους ενοτήτων.

Το βιβλίο αφιερώνει επίσης ξεχωριστό κεφάλαιο στην ταξινόμηση πολλών κλάσεων, στην κατάταξη και στην παλινδρόμηση. Είναι μια σχεδιαστική απόφαση που αξίζει να υπερασπιστεί κανείς. Θα ήταν εύκολο να αντιμετωπιστούν ως υποσημειώσεις της δυαδικής ταξινόμησης. Δίνοντας σε καθεμία δικό της κεφάλαιο, οι συγγραφείς δείχνουν ότι τις θεωρούν διακριτά προβλήματα με δική τους ανάλυση, και αυτό ταιριάζει με τον δηλωμένο στόχο μιας ενιαίας παρουσίασης πολλών θεμάτων αντί για μια παρουσίαση που ευνοεί μία οπτική.

Τι επιλέγει το βιβλίο να μην καλύψει #

Το πιο ενδιαφέρον απόσπασμα του προλόγου αφορά τις παραλείψεις. Το βιβλίο, λένε οι συγγραφείς, είναι μια γενική εισαγωγή στη μηχανική μάθηση που μπορεί να χρησιμεύσει ως βιβλίο αναφοράς για ερευνητές και ως εγχειρίδιο για φοιτητές. Αφού διατυπώσουν αυτόν τον ευρύ ισχυρισμό, προσθέτουν ένα όριο: επέλεξαν να παραλείψουν μερικά σημαντικά θέματα, μεταξύ των οποίων τα γραφικά μοντέλα και τα νευρωνικά δίκτυα.

Λίγα εγχειρίδια το λένε τόσο ευθέως, και θα υποστήριζα ότι η ειλικρίνεια είναι προσόν. Ένας αναγνώστης που ξέρει από πριν τι λείπει μπορεί να σχεδιάσει γύρω από αυτό. Όποιος χρειάζεται νευρωνικά δίκτυα ξέρει να ψάξει αλλού, αντί να ανακαλύψει το κενό στο ένατο κεφάλαιο.

Δηλώνονται και οι λόγοι. Η παράλειψη γίνεται τόσο χάριν συντομίας όσο και λόγω της σημερινής έλλειψης στέρεων θεωρητικών εγγυήσεων για ορισμένες μεθόδους. Δίνονται δύο λόγοι. Η συντομία είναι πρακτικός περιορισμός κάθε βιβλίου. Ο δεύτερος λόγος είναι αυτός που λέει κάτι για τη φιλοσοφία του βιβλίου.

Ας το συνδέσουμε με την εισαγωγή. Οι θεωρητικές εγγυήσεις μάθησης είναι αυτό γύρω από το οποίο οργανώνεται το βιβλίο. Οι εγγυήσεις εξαρτώνται από την πολυπλοκότητα των κλάσεων εννοιών και από το μέγεθος του δείγματος εκπαίδευσης, και τα θεωρητικά κεφάλαια έρχονται πρώτα επειδή όλα τα άλλα χτίζονται πάνω τους. Μια μέθοδος για την οποία λείπουν σήμερα στέρεες εγγυήσεις ταιριάζει άβολα σε ένα βιβλίο χτισμένο έτσι. Η παράλειψη λοιπόν απορρέει από την κεντρική δέσμευση του βιβλίου. Είναι συνεπής με τον ορισμό του αντικειμένου με τον οποίο οι συγγραφείς επέλεξαν να ξεκινήσουν.

Υπάρχει εδώ ένα σημείο που θέλει προσοχή. Το κείμενο λέει «ορισμένες μεθόδους», άρα ο ισχυρισμός αφορά την έλλειψη στέρεων εγγυήσεων για ορισμένες μεθόδους, όχι για όλα τα θέματα που παραλείφθηκαν, και λέει «σημερινής», κάτι που δένει την κρίση με τη στιγμή της συγγραφής. Θα αντιστεκόμουν στον πειρασμό να το συνοψίσω ως «τα νευρωνικά δίκτυα δεν έχουν θεωρία». Αυτό δεν λέει η πηγή. Λέει ότι οι εγγυήσεις για ορισμένες μεθόδους λείπουν σήμερα, και ότι αυτό, μαζί με τη συντομία, ήταν ο λόγος που τα γραφικά μοντέλα και τα νευρωνικά δίκτυα έμειναν εκτός.

Για τους τεχνικούς αναγνώστες που διαλέγουν τι θα μελετήσουν, η πρακτική συνέπεια είναι απλή. Αυτό το βιβλίο σας δίνει το λεξιλόγιο των εγγυήσεων, και σας λέει καθαρά ποιους τομείς δεν καλύπτει.

Τι αλλάζει η δεύτερη έκδοση #

Η δεύτερη έκδοση είναι κάτι περισσότερο από ανατύπωση με διορθώσεις. Ο πρόλογος απαριθμεί τις προσθήκες, και καθεμία δείχνει πού θεωρούσαν οι συγγραφείς ότι η πρώτη έκδοση ήταν ισχνή.

Η κύρια αλλαγή είναι ένα πλήρες κεφάλαιο για την επιλογή μοντέλου, το κεφάλαιο 4, σε ένα θέμα που οι συγγραφείς χαρακτηρίζουν σημαντικό και που στην προηγούμενη έκδοση είχε συζητηθεί μόνο σύντομα. Η διατύπωση είναι ευθεία. Δεν ισχυρίζονται ότι η πρώτη έκδοση το κάλυπτε καλά. Λένε ότι είχε συζητηθεί μόνο σύντομα και ότι τώρα του αφιέρωσαν ολόκληρο κεφάλαιο. Οι ενότητες περιλαμβάνουν την ελαχιστοποίηση του εμπειρικού κινδύνου (ERM) και τη δομική ελαχιστοποίηση κινδύνου (SRM), όπως δείχνει ο πίνακας περιεχομένων.

Γιατί αξίζει η επιλογή μοντέλου αυτή την προαγωγή; Οι πηγές δεν το λένε, και δεν θα επινοήσω λόγο για λογαριασμό των συγγραφέων. Όμως η θέση του κεφαλαίου είναι εύγλωττη. Το κεφάλαιο 4 ακολουθεί αμέσως μετά τα κεφάλαια για το πλαίσιο PAC και για την πολυπλοκότητα Rademacher και τη διάσταση VC, γεγονός που το τοποθετεί μέσα σε αυτό που ο πρόλογος αποκαλεί τα πρώτα τρία ή τέσσερα κεφάλαια που θέτουν τα θεωρητικά θεμέλια. Οι συγγραφείς λοιπόν δεν πρόσθεσαν την επιλογή μοντέλου σαν δεύτερη σκέψη. Την ενσωμάτωσαν στα θεωρητικά θεμέλια.

Οι επόμενες προσθήκες είναι ένα νέο κεφάλαιο για τα μοντέλα μέγιστης εντροπίας, το κεφάλαιο 12, και ένα νέο κεφάλαιο για τα μοντέλα δεσμευμένης μέγιστης εντροπίας, το κεφάλαιο 13. Δύο εντελώς νέα κεφάλαια αποτελούν ουσιαστική επέκταση, και το βιβλίο αφιερώνει πλέον δύο διαδοχικά κεφάλαια στο ζεύγος.

Αλλάζουν και τα παραρτήματα. Οι συγγραφείς πρόσθεσαν μια πλήρη ενότητα για τη δυϊκότητα Fenchel στο παράρτημα B για την κυρτή βελτιστοποίηση, και πρόσθεσαν το παράρτημα E για τη θεωρία πληροφορίας. Το βιβλίο περιλαμβάνει επίσης ένα εκτενές παράρτημα με μια συνοπτική ανασκόπηση της γραμμικής άλγεβρας. Οι αλλαγές αυτές δείχνουν προς μια συνεπή κατεύθυνση: τα υποστηρικτικά μαθηματικά μεγάλωσαν μαζί με τα κεφάλαια. Η δυϊκότητα Fenchel προστίθεται στο παράρτημα κυρτής βελτιστοποίησης, και η θεωρία πληροφορίας αποκτά δικό της παράρτημα. Θα απέφευγα να πω ότι η θεωρία πληροφορίας βρίσκεται εκεί ειδικά για να υποστηρίξει τα κεφάλαια μέγιστης εντροπίας, αφού οι πηγές δεν δηλώνουν τέτοια σύνδεση, και οι δύο προσθήκες εμφανίζονται στον πρόλογο ως ξεχωριστά σημεία. Το ότι ήρθαν στην ίδια έκδοση είναι μια σύμπτωση που την αφήνω ως σύμπτωση.

Σε ποιους απευθύνεται το βιβλίο και πώς περιμένει να διαβαστεί #

Το βιβλίο δηλώνει το κοινό του: απευθύνεται σε φοιτητές και ερευνητές της μηχανικής μάθησης, της στατιστικής και άλλων συναφών πεδίων. Η λίστα αναφέρει ονομαστικά τη στατιστική, κάτι που αντηχεί το σημείο της εισαγωγής ότι η μηχανική μάθηση είναι εγγενώς συνδεδεμένη με την ανάλυση δεδομένων και τη στατιστική.

Δηλώνει επίσης τι προϋποθέτει. Ο αναγνώστης αναμένεται να είναι εξοικειωμένος με βασικές έννοιες της γραμμικής άλγεβρας, των πιθανοτήτων και της ανάλυσης αλγορίθμων. Είναι μια σύντομη λίστα, και ταιριάζει με τη λίστα των συστατικών της εισαγωγής, αν και όχι ακριβώς. Η εισαγωγή ονομάζει την επιστήμη υπολογιστών, τη στατιστική, τις πιθανότητες και τη βελτιστοποίηση ως πηγές των τεχνικών. Τα προαπαιτούμενα ονομάζουν τη γραμμική άλγεβρα, τις πιθανότητες και την ανάλυση αλγορίθμων. Η βελτιστοποίηση δεν είναι στα προαπαιτούμενα, και το βιβλίο το αντιμετωπίζει από την άλλη πλευρά: το παράρτημα B καλύπτει την κυρτή βελτιστοποίηση, με τη νέα ενότητα για τη δυϊκότητα Fenchel. Η γραμμική άλγεβρα αναμένεται ως υπόβαθρο, και το βιβλίο παρέχει παρ' όλα αυτά το εκτενές παράρτημα που την ανασκοπεί. Τα προαπαιτούμενα και τα παραρτήματα επικαλύπτονται λοιπόν σκόπιμα, και ένας αναγνώστης του οποίου η γραμμική άλγεβρα έχει σκουριάσει έχει μια συνοπτική επανάληψη μέσα στα ίδια εξώφυλλα.

Η παιδαγωγική δηλώνεται εξίσου καθαρά. Κάθε κεφάλαιο κλείνει με μια σειρά ασκήσεων, με πλήρεις λύσεις που παρουσιάζονται χωριστά. Είναι μια λογική διάταξη για ένα βιβλίο που εξυπηρετεί δύο κοινά. Ένας φοιτητής μπορεί να δοκιμάσει τις ασκήσεις και να ελέγξει με τις λύσεις, και ένας ερευνητής που χρησιμοποιεί το βιβλίο ως αναφορά δεν αναγκάζεται να περάσει από λυμένες απαντήσεις σε κάθε σελίδα. Αν οι λύσεις κυκλοφορούν ως χωριστός τόμος ή ως κάποιο άλλο έγγραφο, η πηγή δεν το λέει, μόνο ότι παρουσιάζονται χωριστά, οπότε το αφήνω εκεί.

Συνολικά, το κοινό, τα προαπαιτούμενα, οι ασκήσεις και τα παραρτήματα περιγράφουν ένα βιβλίο σχεδιασμένο για να το δουλέψει κανείς από την αρχή ως το τέλος. Τα δεκατέσσερα χρόνια διδασκαλίας στο Courant Institute στέκονται πίσω από αυτόν τον σχεδιασμό. Ένα μάθημα που διδάσκεται επανειλημμένα τείνει να παράγει τέτοιου είδους μηχανισμό, αν και ο πρόλογος δεν διεκδικεί ρητά αυτή τη σύνδεση, και την προτείνω μόνο ως ανάγνωση των στοιχείων, όχι ως εύρημα.

Οι εφαρμογές είναι ευρείες, και το βιβλίο το λέει #

Ένα τόσο θεωρητικό βιβλίο θα μπορούσε να εκληφθεί ως κάτι απομακρυσμένο από την πράξη. Η εισαγωγή το προλαβαίνει με μια απλή δήλωση: η μηχανική μάθηση επιδέχεται ένα πολύ ευρύ σύνολο πρακτικών εφαρμογών. Αυτή που κατονομάζεται είναι η ταξινόμηση κειμένων ή εγγράφων, που περιλαμβάνει τον εντοπισμό ανεπιθύμητης αλληλογραφίας.

Ο εντοπισμός ανεπιθύμητης αλληλογραφίας είναι καλή επιλογή παραδείγματος για έναν λόγο που εξηγεί το ίδιο το πλαίσιο των συγγραφέων. Είναι πρόβλημα ταξινόμησης εγγράφων ακριβώς με την έννοια του προηγούμενου παραδείγματος: έγγραφα με ετικέτες στην είσοδο, προβλέψεις για έγγραφα που δεν έχουν ειδωθεί στην έξοδο. Οι παράγοντες του μεγέθους του δείγματος και της ποιότητας των ετικετών εφαρμόζονται άμεσα. Ένα μεγαλύτερο δείγμα κάνει το έργο ευκολότερο, και τα λανθασμένα επισημασμένα μηνύματα το κάνουν δυσκολότερο. Ο αριθμός των πιθανών κατηγοριών είναι μικρός, κάτι που, κατά τη λογική του προηγούμενου αποσπάσματος, επηρεάζει επίσης τη δυσκολία. Εφαρμόζω τους δηλωμένους παράγοντες του βιβλίου στο δηλωμένο παράδειγμά του, και δεν ισχυρίζομαι τίποτα για τα φίλτρα ανεπιθύμητης αλληλογραφίας στην πράξη.

Υπάρχει επίσης ένα σιωπηλό επιχείρημα στη θέση αυτού του αποσπάσματος. Οι συγγραφείς εισάγουν την ταξινόμηση εγγράφων ως έργο μάθησης και αμέσως σημειώνουν ότι δεν είναι σε καμία περίπτωση το μόνο. Οι εφαρμογές είναι ευρείες επειδή ο υποκείμενος ορισμός είναι ευρύς. Οτιδήποτε ταιριάζει στις «υπολογιστικές μεθόδους που χρησιμοποιούν την εμπειρία για να βελτιώσουν την απόδοση ή για να κάνουν ακριβείς προβλέψεις» πληροί τις προϋποθέσεις. Αυτή η γενικότητα είναι και ο λόγος που το βιβλίο ασχολείται με τη θεωρία. Ένα πλαίσιο που προορίζεται να καλύψει ένα πολύ ευρύ σύνολο εφαρμογών δεν μπορεί να δεθεί με τις λεπτομέρειες καμίας από αυτές, και οι εγγυήσεις που διατυπώνονται με όρους πολυπλοκότητας της κλάσης εννοιών και μεγέθους δείγματος είναι ακριβώς το είδος που μεταφέρεται από πρόβλημα σε πρόβλημα.

Το στοίχημα του βιβλίου #

Μαζέψτε τα νήματα και αναδύεται μια συνεκτική θέση, κάτι περισσότερο απ' όσο μπορεί να ισχυριστεί ο πίνακας περιεχομένων των περισσότερων εγχειριδίων. Το βιβλίο ορίζει τη μάθηση με όρους εμπειρίας και πρόβλεψης. Ονομάζει τρεις πολυπλοκότητες, χρόνου, χώρου και δείγματος, ως τα μέτρα της ποιότητας. Δένει τις εγγυήσεις με την πολυπλοκότητα της κλάσης εννοιών και το μέγεθος του δείγματος, και βάζει μπροστά τη θεωρία που παρέχει αυτές τις εγγυήσεις. Έπειτα χτίζει τα αλγοριθμικά κεφάλαια πάνω σε αυτή τη βάση και λέει ανοιχτά ποιους δημοφιλείς τομείς αφήνει εκτός, επειδή οι εγγυήσεις για ορισμένες μεθόδους δεν είναι, προς το παρόν, στέρεες.

Είναι ένα στοίχημα στη θεωρία ως αυτό που διαρκεί. Καταλαβαίνω γιατί μια ομάδα συγγραφέων που πέρασε χρόνια διδάσκοντας ένα μεταπτυχιακό μάθημα θα το έβαζε. Το στοίχημα έχει κόστος, και οι συγγραφείς το ονομάζουν: η παράλειψη των γραφικών μοντέλων και των νευρωνικών δικτύων είναι το τίμημα της επιμονής σε στέρεες εγγυήσεις. Ένας αναγνώστης πρέπει να ζυγίσει αυτό το κόστος με ειλικρίνεια. Αν η δουλειά σας κυριαρχείται από τους τομείς που παραλείφθηκαν, αυτό το βιβλίο είναι θεμέλιο και όχι εγχειρίδιο χρήσης. Αν η δουλειά σας απαιτεί να σκέφτεστε αν ένα σύστημα που μαθαίνει θα γενικεύσει από ένα πεπερασμένο δείγμα, το λεξιλόγιο του βιβλίου είναι ακριβώς το νόημά του.

Για τους ιδρυτές, το χρήσιμο δίδαγμα είναι το λιγότερο λαμπερό. Η ποιότητα και το μέγεθος των δεδομένων είναι καθοριστικά για την επιτυχία των προβλέψεων, και η δυσκολία ενός έργου εξαρτάται από την ποιότητα των ετικετών και από τον αριθμό των πιθανών θεμάτων. Αυτές είναι δηλώσεις για εισόδους που συχνά μπορείτε να επηρεάσετε. Το βιβλίο δεν υπόσχεται ότι κάποιος συγκεκριμένος αλγόριθμος θα σώσει ένα φτωχό ή λανθασμένα επισημασμένο δείγμα, και σωστά δεν το υπόσχεται.

Για τους τεχνικούς αναγνώστες, το πιο ενδιαφέρον ερώτημα είναι αυτό που ο πρόλογος αφήνει ανοιχτό. Οι συγγραφείς παρέλειψαν ορισμένες μεθόδους λόγω της σημερινής έλλειψης στέρεων θεωρητικών εγγυήσεων. Η λέξη «σημερινής» το πλαισιώνει ως κατάσταση πραγμάτων τη στιγμή της συγγραφής, και οι πηγές δεν λένε αν, ή πώς, μπορεί να αλλάξει. Τι θα χρειαζόταν ώστε αυτές οι εγγυήσεις να γίνουν αρκετά στέρεες για να κερδίσουν ένα κεφάλαιο; Το βιβλίο δεν μπορεί να απαντήσει. Όντας ακριβές για το τι αφήνει εκτός και γιατί, δείχνει τουλάχιστον πού να ψάξει κανείς.

Τι σημαίνει αυτό ανά τομέα #

Η επιμονή στις εγγυήσεις στατιστικής μάθησης και στη δειγματική πολυπλοκότητα δίνει πρακτικά αξιοποιήσιμα όρια σε αρκετούς τομείς λογισμικού και έρευνας.

Ακαδημαϊκή μηχανική μάθηση και σχεδιασμός προγραμμάτων σπουδών #

Τα εκπαιδευτικά προγράμματα πρέπει να αντισταθούν στην πίεση να αντιμετωπίσουν τη μηχανική μάθηση ως εμπειρική μηχανική προτροπών ή ως υδραυλικά πλαισίων λογισμικού. Η θεμελίωση των φοιτητών στο πλαίσιο PAC, στην πολυπλοκότητα Rademacher και στη δομική ελαχιστοποίηση κινδύνου χτίζει διαρκή μαθηματικά ένστικτα που επιβιώνουν από την εναλλαγή των εφήμερων αρχιτεκτονικών βαθιάς μάθησης.

Μηχανική AI στις επιχειρήσεις και αποτίμηση δεδομένων #

Οι οργανισμοί που αναπτύσσουν συστήματα πρόβλεψης συχνά διαθέτουν υπερβολικό κεφάλαιο σε υπολογιστική ισχύ (κλίμακα μοντέλου) και παραμελούν τη δειγματική πολυπλοκότητα και την πιστότητα των ετικετών. Επειδή το σφάλμα γενίκευσης φράσσεται αυστηρά από την πολυπλοκότητα της κλάσης εννοιών σε σχέση με το μέγεθος του δείγματος, οι ομάδες πετυχαίνουν καλύτερη απόδοση επένδυσης επενδύοντας σε καθαρό σχολιασμό και σε έλεγχο δειγμάτων παρά σε μεγαλύτερα μοντέλα χωρίς κανονικοποίηση.

Έρευνα αιχμής στην AI και έλεγχος μοντέλων #

Καθώς ρυθμιστικά πλαίσια όπως ο Κανονισμός της ΕΕ για την Τεχνητή Νοημοσύνη απαιτούν προβλέψιμα όρια για τα αυτοματοποιημένα συστήματα λήψης αποφάσεων, οι εγγυήσεις στατιστικής μάθησης που τυποποιούνται στο Foundations of Machine Learning γίνονται αναγκαιότητα συμμόρφωσης. Οι ρυθμιστικές αρχές και οι ελεγκτές ασφάλειας απαιτούν αποδείξιμα φράγματα γενίκευσης και αυστηρά πρωτόκολλα επιλογής μοντέλου αντί για ευρετικές βαθμολογίες επικύρωσης.

Συμπέρασμα #

Το Foundations of Machine Learning παραμένει απαραίτητη άγκυρα σε έναν κλάδο που συχνά τον δελεάζει ο ωμός εμπειρισμός. Χτίζοντας ένα ολόκληρο πρόγραμμα σπουδών γύρω από τη μάθηση PAC, την πολυπλοκότητα Rademacher και τη διάσταση VC, οι Mehryar Mohri, Afshin Rostamizadeh και Ameet Talwalkar υπενθυμίζουν στους ερευνητές ότι η αλγοριθμική κομψότητα δεν μπορεί να υποκαταστήσει τις μαθηματικές εγγυήσεις. Η ειλικρινής παράλειψη των νευρωνικών δικτύων και των γραφικών μοντέλων από τους συγγραφείς, λόγω της απουσίας εγγυήσεων κλειστής μορφής, δεν είναι ελάττωμα - είναι η καθοριστική δύναμη του βιβλίου, που διαχωρίζει καθαρά όσα η επιστήμη μπορεί να αποδείξει αυστηρά από όσα απλώς παρατηρεί.

Συχνές ερωτήσεις #

Γιατί οι συγγραφείς παρέλειψαν τα νευρωνικά δίκτυα και τα γραφικά μοντέλα από τη δεύτερη έκδοση;

Οι συγγραφείς παρέλειψαν σκόπιμα τα νευρωνικά δίκτυα και τα γραφικά μοντέλα χάριν συντομίας και λόγω της σημερινής έλλειψης στέρεων θεωρητικών εγγυήσεων για αρκετές από αυτές τις μεθόδους. Το βιβλίο οργανώνεται αυστηρά γύρω από αλγορίθμους που επιδέχονται αυστηρά φράγματα γενίκευσης.

Τι διακρίνει τη δειγματική πολυπλοκότητα από τη χρονική και τη χωρική πολυπλοκότητα;

Ενώ η χρονική πολυπλοκότητα αξιολογεί την ταχύτητα εκτέλεσης και η χωρική πολυπλοκότητα μετρά την κατανάλωση μνήμης, η δειγματική πολυπλοκότητα ποσοτικοποιεί τον μαθηματικό όγκο δεδομένων εκπαίδευσης που απαιτεί ένας αλγόριθμος για να μάθει μια οικογένεια εννοιών εντός καθορισμένων ανοχών σφάλματος και εμπιστοσύνης.

Ποια είναι η βασική διαφορά ανάμεσα στην ελαχιστοποίηση του εμπειρικού κινδύνου και τη δομική ελαχιστοποίηση κινδύνου;

Η ελαχιστοποίηση του εμπειρικού κινδύνου (ERM) επιλέγει την υπόθεση που ελαχιστοποιεί άμεσα το σφάλμα εκπαίδευσης, με κίνδυνο υπερπροσαρμογής όταν η πολυπλοκότητα της υπόθεσης είναι υψηλή. Η δομική ελαχιστοποίηση κινδύνου (SRM) ισορροπεί το σφάλμα εκπαίδευσης με την πολυπλοκότητα της υπόθεσης (όπως η διάσταση VC ή η πολυπλοκότητα Rademacher) και δίνει τυπικά φράγματα για τον κίνδυνο γενίκευσης.

Βιβλιογραφία #

Τελευταία αναθεώρηση .

Τελευταία αναθεώρηση .

Αναδημοσίευση αυτού του άρθρου σε άλλες πλατφόρμες

Αντιγραφή διαμορφωμένου για Medium

# Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

> Originally published at [https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/](https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/)

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/

Αντιγραφή διαμορφωμένου για Mastodon

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/

Αντιγραφή διαμορφωμένου για LinkedIn

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

Ακολουθούν τα βασικά στρατηγικά συμπεράσματα:

- Ένα βιβλίο με ακριβή καταγωγή. Ας ξεκινήσουμε από τα στοιχεία που αγκυρώνουν το αντικείμενο.
- Ο ορισμός που σηκώνει το βάρος. Όλα όσα ακολουθούν εξαρτώνται από μία πρόταση.
- Ένα λυμένο παράδειγμα: έγγραφα και θέματα. Η εισαγωγή αγκυρώνει τον ορισμό σε ένα συγκεκριμένο πρόβλημα μάθησης.
- Τρεις πολυπλοκότητες, όχι δύο. Εδώ το βιβλίο κάνει την πιο χαρακτηριστική του κίνηση, και είναι εύκολο να σας ξεφύγει επειδή έρχεται ως σύντομη παρατήρηση.

Ποια είναι η προσέγγιση του οργανισμού σας στις προκλήσεις που περιγράφονται σε αυτό το άρθρο;

→ https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/

#ΜηχανικήΜάθηση #Εγχειρίδιο #FoundationsOfMachineLearning #MehryarMohri #ΜάθησηPac

Sebastien Rousseau | CC-BY-4.0
Παραπομπή σε αυτό το άρθρο

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

BibTeX

@online{rousseau2026τι,
  author  = {Rousseau, Sebastien},
  title   = {{Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau}},
  year    = {2026},
  url     = {https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/},
  urldate = {2026}
}

RIS

TY  - GEN
AU  - Rousseau, Sebastien
TI  - Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau
PY  - 2026
UR  - https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/
ER  -

Vancouver

Rousseau S. Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau. sebastienrousseau.com. 2026 Oct 10. Available from: https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/

Chicago

Rousseau, Sebastien. "Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau." sebastienrousseau.com. October 10, 2026. https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/.

APA

Rousseau, S. (2026, October 10). Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/

Αναδημοσίευση αυτού του άρθρου

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

Αυτό το άρθρο διατίθεται με άδεια Creative Commons Attribution 4.0 International. Η αναδημοσίευση απαιτεί αναφορά στην κανονική διεύθυνση URL.

Τι λένε τα περιεχόμενα ενός βιβλίου μηχανικής μάθησης για τον κλάδο — Sebastien Rousseau

Το Foundations of Machine Learning (δεύτερη έκδοση, MIT Press, 2018) αντιμετωπίζει τη μηχανική μάθηση ως σχεδίαση αποδοτικών και ακριβών αλγορίθμων πρόβλεψης.

Originally published at https://sebastienrousseau.com/el/2026-10-10-lene-ta-periechomena-enos-vivliou-michanikis/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.