Πίσω από την ανθρωπομορφική ορολογία βρίσκονται πιθανότητες, διανύσματα και σταθμισμένοι μέσοι
Ένας επιστήμονας που έχει εργαστεί επί δεκαετίες με μη γραμμικά συστήματα, μοντελοποίηση, στατιστική ή γλωσσολογία μπορεί να ανοίξει ένα σύγχρονο άρθρο για τα Μεγάλα Γλωσσικά Μοντέλα και να αισθανθεί ότι βρίσκεται μπροστά σε μια εντελώς νέα μαθηματική επιστήμη. Query, key, value, attention, heads, embeddings, transformers. Η εντύπωση είναι παραπλανητική. Όπως υποστηρίζει ο Joseph L. Breeden στο πρόσφατο κείμενό του The Simple Mathematics of Large Language Models, μεγάλο μέρος του φραγμού κατανόησης δεν βρίσκεται στα μαθηματικά, αλλά στη γλώσσα με την οποία περιγράφονται.
Κάτω από αυτή την ορολογία υπάρχουν εξαιρετικά οικεία εργαλεία: γραμμική άλγεβρα, δεσμευμένες πιθανότητες, σταθμισμένοι μέσοι, πολυωνυμική λογιστική παλινδρόμηση, μέγιστη πιθανοφάνεια και κατάβαση κλίσης. Αυτό δεν σημαίνει ότι τα LLMs είναι απλά συστήματα. Η πολυπλοκότητά τους προκύπτει από την κλίμακα, την επανάληψη αυτών των πράξεων σε πολλά στρώματα και την τεράστια ποσότητα δεδομένων και παραμέτρων.
Στον πυρήνα υπάρχει μια κατανομή πιθανότητας
Ένα αυτοπαλίνδρομο LLM μπορεί να περιγραφεί αρχικά χωρίς καμία αναφορά σε «νοημοσύνη». Δέχεται μια ακολουθία διακριτικών μονάδων κειμένου και εκτιμά μια δεσμευμένη κατανομή πιθανότητας για την επόμενη μονάδα:
P(xₜ | x₁, x₂, …, xₜ₋₁).
Παράγει μία μονάδα, την προσθέτει στο συγκείμενο και επαναλαμβάνει τη διαδικασία. Με τον κανόνα της αλυσίδας, η εκτίμηση των διαδοχικών δεσμευμένων πιθανοτήτων επιτρέπει την απόδοση πιθανότητας σε ολόκληρες ακολουθίες.
Το δύσκολο πρόβλημα είναι ότι ο αριθμός των πιθανών συγκειμένων αυξάνεται εκρηκτικά. Δεν είναι δυνατό να αποθηκεύσουμε έναν πίνακα που να περιέχει κάθε πιθανή ακολουθία και την εμπειρική κατανομή της επόμενης λέξης. Το μοντέλο πρέπει επομένως να μάθει ποιες διαφορετικές ακολουθίες είναι αρκετά όμοιες ώστε η πληροφορία από τη μία να βοηθά στην πρόβλεψη της άλλης. Από αυτή την ανάγκη ξεκινά μεγάλο μέρος της αρχιτεκτονικής των transformers.
Από τις λέξεις στα διανύσματα
Οι λέξεις δεν εισέρχονται στο μοντέλο ως γλωσσικές έννοιες. Το κείμενο πρώτα χωρίζεται σε διακριτικές μονάδες και κάθε μονάδα αντιστοιχίζεται σε ένα διάνυσμα. Αυτές οι διανυσματικές ενσωματώσεις, τα embeddings, τοποθετούν γλωσσικά στοιχεία σε έναν πολυδιάστατο χώρο στον οποίο οι μεταξύ τους σχέσεις μπορούν να αναπαρασταθούν αριθμητικά.
Για έναν στατιστικό, μια χρήσιμη, αν και όχι ακριβής, αναλογία είναι η ανάλυση κύριων συνιστωσών. Και στις δύο περιπτώσεις επιχειρούμε να αναπαραστήσουμε μεγάλη ποσότητα συσχετισμένης πληροφορίας μέσω ενός μικρότερου συνόλου λανθανουσών διαστάσεων. Στα embeddings όμως οι άξονες δεν έχουν συνήθως αυτόνομη, καθαρή ερμηνεία.
Η ιδέα έχει βαθιές γλωσσολογικές ρίζες. Η κατανεμημένη σημασιολογία στηρίζεται στην παρατήρηση ότι οι λέξεις αποκτούν μέρος της σημασίας τους από τα συμφραζόμενα στα οποία εμφανίζονται. Έτσι η «τράπεζα» που βρίσκεται κοντά σε «κατάθεση», «δάνειο» και «επιτόκιο» διακρίνεται από μια διαφορετική χρήση της ίδιας μορφής. Τα σύγχρονα μοντέλα προχωρούν πολύ πέρα από τα στατικά embeddings του word2vec, αλλά η βασική λογική της μάθησης από τα συμφραζόμενα παραμένει.
Τι είναι πραγματικά η «προσοχή»
Ο όρος attention προκαλεί ίσως τη μεγαλύτερη σύγχυση, επειδή παραπέμπει σε ψυχολογική λειτουργία. Μαθηματικά, όμως, ο πυρήνας είναι πολύ πιο πεζός: ένας σταθμισμένος συνδυασμός διανυσμάτων.
Για κάθε θέση δημιουργούνται μέσω μαθαίνόμενων γραμμικών μετασχηματισμών τρεις αναπαραστάσεις, που η καθιερωμένη ορολογία ονομάζει query, key και value. Ο Breeden προτείνει να τις σκεφτούμε απλούστερα ως διαφορετικούς πίνακες προβολής. Οι δύο πρώτες προβολές χρησιμοποιούνται για να υπολογιστεί ένας βαθμός σχέσης ανάμεσα σε δύο θέσεις. Η softmax μετατρέπει αυτούς τους βαθμούς σε θετικά, κανονικοποιημένα βάρη. Με τα βάρη αυτά σχηματίζεται ένας σταθμισμένος μέσος των τρίτων προβολών.
Για έναν στατιστικό, η softmax δεν είναι μυστηριώδης. Είναι ο γνωστός μετασχηματισμός που χρησιμοποιείται στην πολυωνυμική λογιστική παλινδρόμηση. Και η έξοδος ενός γλωσσικού μοντέλου είναι ουσιαστικά μια τεράστια πολυωνυμική ταξινόμηση, όπου οι κατηγορίες είναι οι πιθανές επόμενες διακριτικές μονάδες.
Οι λεγόμενες «κεφαλές προσοχής» είναι απλώς πολλά τέτοια σύνολα μετασχηματισμών που λειτουργούν παράλληλα. Ορισμένες καταλήγουν να ανταποκρίνονται σε θέσεις, συντακτικές σχέσεις ή συναναφορές. Αυτή η εξειδίκευση όμως δεν έχει προγραμματιστεί εκ των προτέρων. Αναδύεται κατά την εκπαίδευση και συχνά δεν επιδέχεται καθαρή γλωσσολογική ερμηνεία.
Εκπαίδευση σημαίνει εκτίμηση παραμέτρων
Η βασική εκπαίδευση ενός LLM είναι επίσης οικεία σε έναν στατιστικό. Το μοντέλο προσαρμόζει εκατομμύρια ή δισεκατομμύρια παραμέτρους έτσι ώστε να αυξήσει την πιθανότητα των πραγματικών επόμενων μονάδων στο σώμα εκπαίδευσης. Η διασταυρούμενη εντροπία που ελαχιστοποιείται είναι, στην περίπτωση αυτή, η αρνητική λογαριθμική πιθανοφάνεια.
Η κλίμακα αλλάζει δραματικά το υπολογιστικό πρόβλημα, όχι όμως τη βασική στατιστική αρχή. Μετά την αρχική προεκπαίδευση μπορούν να ακολουθήσουν εποπτευόμενη προσαρμογή και μέθοδοι αξιοποίησης ανθρώπινης ανατροφοδότησης ώστε η συμπεριφορά του μοντέλου να προσαρμοστεί καλύτερα σε οδηγίες και ανθρώπινες προτιμήσεις.
Τι μαθαίνει και τι δεν πρέπει να υποθέτουμε ότι μαθαίνει
Το γεγονός ότι ένα σχετικά απλό μαθηματικό σχήμα μπορεί, σε τεράστια κλίμακα, να παράγει τόσο σύνθετη συμπεριφορά είναι επιστημονικά εντυπωσιακό. Δεν δικαιολογεί όμως την αυτόματη μετατροπή συμπεριφορικών περιγραφών σε οντολογικούς ισχυρισμούς.
Ο Breeden, ακολουθώντας και τη στατιστική ανάγνωση του Cosma Shalizi, επισημαίνει ότι ένα μοντέλο με πεπερασμένο παράθυρο συγκειμένου μπορεί να ιδωθεί ως εξαιρετικά υψηλής τάξης μοντέλο Markov. Αυτό δεν σημαίνει ότι λειτουργεί σαν ένα απλό n-gram. Η εσωτερική παραμετροποίηση του επιτρέπει τεράστια γενίκευση μεταξύ διαφορετικών συγκειμένων.
Παραμένει επίσης ανοιχτό επιστημονικό ερώτημα κατά πόσο η εντυπωσιακή επίδοση σε εργασίες που ονομάζουμε «συλλογισμό» αντιστοιχεί σε πραγματική εκμάθηση αφηρημένων δομών ή σε εξαιρετικά ισχυρή στατιστική αξιοποίηση προτύπων. Οι ψευδαισθήσεις, η ευαισθησία στη διατύπωση και η έλλειψη εγγενούς γείωσης στον φυσικό κόσμο υπενθυμίζουν ότι η γλωσσική ευχέρεια δεν ταυτίζεται με την κατοχή ενός αξιόπιστου μοντέλου πραγματικότητας.
Η απομυθοποίηση είναι προϋπόθεση ανοιχτής ΤΝ
Η κατανόηση αυτών των μηχανισμών έχει πρακτική σημασία. Αν παρουσιάζουμε τα LLMs ως μυστηριώδεις μηχανές που «σκέφτονται», η τεχνολογία απομακρύνεται από τις επιστημονικές κοινότητες που μπορούν να τη μελετήσουν κριτικά. Αν τα περιγράψουμε με τη γλώσσα της στατιστικής, της γλωσσολογίας και της μοντελοποίησης, γίνονται ξανά αντικείμενο επιστημονικού ελέγχου.
Αυτό είναι ιδιαίτερα σημαντικό για την ανάπτυξη ανοιχτών μοντέλων για την ελληνική γλώσσα. Χρειαζόμαστε όχι μόνο μηχανικούς μηχανικής μάθησης, αλλά γλωσσολόγους, στατιστικούς, μαθηματικούς, ειδικούς στη μοντελοποίηση και επιστήμονες διαφορετικών πεδίων. Όσο καλύτερα καταλαβαίνουμε τι πραγματικά κάνει ένα LLM, τόσο ευκολότερα μπορούμε να το ελέγξουμε, να το αναπαραγάγουμε, να εντοπίσουμε τα όριά του και να δημιουργήσουμε καλύτερα ανοιχτά συστήματα.