Η Meta, η μητρική εταιρεία των Facebook, Instagram, WhatsApp, Threads και άλλων, διαχειρίζεται ένα από τα μεγαλύτερα συστήματα συστάσεων παγκοσμίως. Σε δύο πρόσφατες δημοσιεύσεις, οι ερευνητές της αποκάλυψαν πώς τα παραγωγικά μοντέλα μπορούν να βελτιώσουν την κατανόηση και την ανταπόκριση στις προθέσεις των χρηστών. Αντιμετωπίζοντας τις συστάσεις ως ένα γενεσιουργό πρόβλημα, προκύπτουν νέες, πλουσιότερες σε περιεχόμενο και αποτελεσματικότερες προσεγγίσεις επίλυσης τους ζητήματος σε σχέση με τις κλασικές μεθόδους.
Αυτή η προσέγγιση είναι ιδιαίτερα χρήσιμη για εφαρμογές που απαιτούν ανάκτηση εγγράφων, προϊόντων ή άλλων αντικειμένων.
Η Σημασία της Γενετικής Ανάκτησης
Η τυπική προσέγγιση για τη δημιουργία συστημάτων συστάσεων περιλαμβάνει τον υπολογισμό, την αποθήκευση και την ανάκτηση πυκνών αναπαραστάσεων εγγράφων. Για παράδειγμα, για την πρόταση αντικειμένων σε χρήστες, μια εφαρμογή εκπαιδεύει ένα μοντέλο που υπολογίζει ενσωματώσεις για τα αιτήματα των χρηστών και για ένα μεγάλο σύνολο αντικειμένων. Κατά τη διάρκεια της χρήσης, το σύστημα προσπαθεί να κατανοήσει την πρόθεση του χρήστη βρίσκοντας ένα ή περισσότερα στοιχεία με παρόμοιες ενσωματώσεις.
Αυτή η προσέγγιση απαιτεί αυξανόμενη χωρητικότητα αποθήκευσης και υπολογιστικής ισχύος καθώς αυξάνεται ο αριθμός των αντικειμένων, επειδή κάθε ενσωμάτωση πρέπει να αποθηκευτεί και κάθε λειτουργία σύστασης απαιτεί σύγκριση της ενσωμάτωσης του χρήστη με ολόκληρο το σύνολο των αντικειμένων.
Η γενετική ανάκτηση είναι μια πιο πρόσφατη προσέγγιση που στοχεύει στην κατανόηση της πρόθεσης του χρήστη και στην παροχή συστάσεων όχι μέσω αναζήτησης σε βάση δεδομένων, αλλά προβλέποντας το επόμενο στοιχείο σε μια σειρά αλληλεπιδράσεων του χρήστη.
Πως Λειτουργεί η Γενετική Ανάκτηση
Η γενετική ανάκτηση βασίζεται στον υπολογισμό των σημασιολογικών αναγνωριστικών (SID), τα οποία περιέχουν πληροφορίες συμφραζομένων για κάθε στοιχείο. Τα γεννητικά συστήματα ανάκτησης, όπως το TIGER, λειτουργούν σε δύο φάσεις. Αρχικά, ένα μοντέλο κωδικοποιητή εκπαιδεύεται για να δημιουργήσει μια μοναδική τιμή ενσωμάτωσης (SID) για κάθε στοιχείο, με βάση την περιγραφή και τις ιδιότητές του. Αυτά τα SID αποθηκεύονται μαζί με το στοιχείο. Στη δεύτερη φάση, ένα μοντέλο μετασχηματιστή εκπαιδεύεται για να προβλέπει το επόμενο SID σε μια ακολουθία εισόδου.
Η λίστα των SID εισόδου αντιπροσωπεύει τις αλληλεπιδράσεις του χρήστη με προηγούμενα στοιχεία, και η πρόβλεψη του μοντέλου είναι το SID του προτεινόμενου στοιχείου. Η γενετική ανάκτηση μειώνει την ανάγκη για αποθήκευση και αναζήτηση μεμονωμένων ενσωματώσεων, διατηρώντας σταθερό το κόστος συμπερασμάτων και αποθήκευσης καθώς αυξάνεται ο αριθμός των αντικειμένων. Επίσης, ενισχύει την ικανότητα καταγραφής βαθύτερων σημασιολογικών σχέσεων και προσφέρει πλεονεκτήματα των μοντέλων παραγωγής, όπως η τροποποίηση της θερμοκρασίας για την προσαρμογή της ποικιλίας των προτάσεων.
Προηγμένη Γενετική Ανάκτηση
Παρά το χαμηλότερο κόστος αποθήκευσης και συμπερασμάτων, η γενετική ανάκτηση παρουσιάζει ορισμένους περιορισμούς. Για παράδειγμα, τείνει να προσαρμόζεται υπερβολικά στα αντικείμενα που έχει δει κατά την εκπαίδευση, αντιμετωπίζοντας προβλήματα με νέα αντικείμενα. Αυτό αναφέρεται ως «πρόβλημα ψυχρής εκκίνησης», το οποίο αφορά νέους χρήστες και στοιχεία χωρίς ιστορικό αλληλεπίδρασης.
Για την αντιμετώπιση αυτών των ελλείψεων, η Meta ανέπτυξε το υβριδικό σύστημα συστάσεων LIGER, το οποίο συνδυάζει την αποδοτικότητα της γενετικής ανάκτησης με την ποιότητα ενσωμάτωσης και τις δυνατότητες κατάταξης της πυκνής ανάκτησης. Κατά την εκπαίδευση, το LIGER χρησιμοποιεί τόσο το σκορ ομοιότητας όσο και τους επόμενους στόχους για βελτιωμένες συστάσεις.
Κατά τη χρήση, το LIGER επιλέγει υποψηφίους με βάση τον μηχανισμό παραγωγής και τους συμπληρώνει με στοιχεία ψυχρής εκκίνησης, τα οποία στη συνέχεια ταξινομούνται με βάση τις ενσωματώσεις. Οι ερευνητές τονίζουν τις «τεράστιες δυνατότητες της συγχώνευσης πυκνών και παραγωγικών μεθόδων ανάκτησης για την προώθηση των συστημάτων συστάσεων», καθώς και την αυξανόμενη πρακτικότητά τους για εφαρμογές πραγματικού κόσμου, επιτρέποντας πιο εξατομικευμένες εμπειρίες.
Πολυτροπική Γενετική Ανάκτηση και Mender
Σε μια ξεχωριστή δημοσίευση, οι ερευνητές παρουσίασαν μια νέα πολυτροπική γενετική μέθοδο ανάκτησης, το Multimodal preference discerner (Mender), μια τεχνική που επιτρέπει στα παραγωγικά μοντέλα να συλλέγουν σιωπηρές προτιμήσεις από τις αλληλεπιδράσεις των χρηστών με διάφορα αντικείμενα. Το Mender βασίζεται σε μεθόδους δημιουργίας ανάκτησης που βασίζονται σε SID και προσθέτει στοιχεία που εμπλουτίζουν τις προτάσεις με τις προτιμήσεις των χρηστών.
Το Mender χρησιμοποιεί ένα μοντέλο μεγάλης γλώσσας (LLM) για να μεταφράσει τις αλληλεπιδράσεις των χρηστών σε συγκεκριμένες προτιμήσεις. Για παράδειγμα, εάν ένας χρήστης έχει επαινέσει ή παραπονεθεί για ένα αντικείμενο σε μια κριτική, το μοντέλο το συνοψίζει σε μια προτίμηση για τη συγκεκριμένη κατηγορία προϊόντος. Το κύριο μοντέλο σύστασης εκπαιδεύεται ώστε να εξαρτάται τόσο από την ακολουθία των αλληλεπιδράσεων των χρηστών όσο και από τις προτιμήσεις του χρήστη κατά την πρόβλεψη του επόμενου SID.
Αυτό δίνει στο μοντέλο τη δυνατότητα να γενικεύει, να εκτελεί μάθηση εντός πλαισίου και να προσαρμόζεται στις προτιμήσεις των χρηστών χωρίς ρητή εκπαίδευση. «Οι συνεισφορές μας ανοίγουν το δρόμο για μια νέα κατηγορία μοντέλων ανάκτησης παραγωγής που ξεκλειδώνουν τη δυνατότητα χρήσης οργανικών δεδομένων για την καθοδήγηση σύστασης μέσω των προτιμήσεων του χρήστη σε κείμενο», σημειώνουν οι ερευνητές.
Επιπτώσεις για Εταιρικές Εφαρμογές
Η αποτελεσματικότητα των συστημάτων παραγωγής γενετικής ανάκτησης έχει σημαντικές επιπτώσεις για τις εταιρικές εφαρμογές. Αυτές οι εξελίξεις μεταφράζονται σε πρακτικά οφέλη, όπως μειωμένο κόστος υποδομής και ταχύτερη εξαγωγή συμπερασμάτων. Η ικανότητα της τεχνολογίας να διατηρεί σταθερά το κόστος αποθήκευσης και συμπερασμάτων, ανεξάρτητα από το μέγεθος του καταλόγου, την καθιστά ιδιαίτερα πολύτιμη για τις αναπτυσσόμενες επιχειρήσεις.
