ΑρχικήΛογισμικάMeta: Η αστοχία υλικού ευθύνεται για τις παραισθήσεις της τεχνητής νοημοσύνης

Meta: Η αστοχία υλικού ευθύνεται για τις παραισθήσεις της τεχνητής νοημοσύνης

Τα απαρατήρητα και μη ανιχνεύσιμα bitflips, λέγεται ότι είναι ένας από τους λόγους για τους οποίους τα μοντέλα τεχνητής νοημοσύνης (ΤΝ) έχουν παραισθήσεις.

Ο όμιλος Meta, μητρική εταιρεία του Facebook, εντόπισε σφάλματα υλικού ως έναν από τους λόγους για τις ψευδαισθήσεις που εμφανίζονται στα συστήματα ΤΝ. Όπως αναφέρει το The Register σε άρθρο του, το φαινόμενο αυτό δεν αποτελεί καινοτομία. Η μελέτη, που συντάχθηκε από εργαζόμενους της Meta σε συνεργασία με το Πανεπιστήμιο Cornell, εξηγεί πως μεταστροφές bit (bitflips), όπου η τιμή ενός bit μνήμης αλλάζει άγνωστα από 0 σε 1 ή το αντίστροφο, μπορούν να προκαλέσουν ψευδαισθήσεις.

Ωστόσο, η αξιοπιστία των συστημάτων AI είναι «ένα ουσιαστικό κριτήριο για την επιτυχή χρήση και την ευρεία αποδοχή των τεχνολογιών τεχνητής νοημοσύνης », τονίζουν οι συγγραφείς της μελέτης PVF (Parameter Vulnerability Factor): A Scalable Metric for Understanding AI Vulnerability Against SDCs in Model Parameters

Σιωπηλά Σφάλματα Δεδομένων

Η αυξανόμενη πολυπλοκότητα και ετερογένεια των συστημάτων ΤΝ τα καθιστούν, σύμφωνα με τη μελέτη, ευάλωτα σε αστοχία υλικού. Οι αλλαγές που προκαλούνται από τα bitflips δεν γίνονται συχνά αντιληπτές, με τη Meta να αναφέρεται σε αυτά ως σιωπηλά σφάλματα δεδομένων (Silent Data Corruptions, SDCs). Σύμφωνα με τους ερευνητές, τα SDCs “εμφανίζονται όλο και πιο συχνά και είναι δύσκολο να εντοπιστούν”.

Σε συστήματα τεχνητής νοημοσύνης, τέτοιες σιωπηλές φθορές δεδομένων μπορούν να οδηγήσουν σε αλλοιώσεις παραμέτρων, οι οποίες με τη σειρά τους βλάπτουν τις παραμέτρους του μοντέλου ΤΝ και αλλοιώνουν τις αρχικές τους τιμές. Αυτό μπορεί να οδηγήσει σε λανθασμένα αποτελέσματα, “που τελικά επηρεάζουν την ποιότητα και την αξιοπιστία των υπηρεσιών ΤΝ”.

Μια νέα μέτρηση, την οποία οι ερευνητές ονομάζουν Παράγοντας Ευπάθειας Παραμέτρων (αγγλικά: Parameter Vulnerability Factor, PVF), έρχεται να βοηθήσει την κατάσταση. Το PVF εκφράζει την πιθανότητα ένα σφάλμα να οδηγήσει σε λανθασμένη έξοδο.

Αυτή η μέτρηση μπορεί να βοηθήσει τους σχεδιαστές τεχνητής νοημοσύνης να “εξισορροπήσουν την προστασία από σφάλματα ώστε να μην επηρεαστεί η απόδοση και η αποτελεσματικότητα” και να “κατευθύνουν ευάλωτες συνιστώσες παραμέτρων τεχνητής νοημοσύνης σε ιδιαίτερα προστατευμένα τμήματα υλικού (modules)”.

να ισορροπήσουν την προστασία “από σφάλματα με την απόδοση και την αποτελεσματικότητα” και να κατευθύνουν “ευάλωτα συστατικά παραμέτρων τεχνητής νοημοσύνης προς ιδιαίτερα προστατευμένα υλικά μονάδες”.

Στέλιος Θεοδωρίδης
Στέλιος Θεοδωρίδης
Ο ήρωας μου είναι ο γάτος μου ο Τσάρλι και ακροάζομαι μόνο Psychedelic Trance
RELATED ARTICLES

Πρόσφατα άρθρα

Tηλέφωνα έκτακτης ανάγκης

Δίωξη Ηλεκτρονικού Εγκλήματος: 11188
Ελληνική Αστυνομία: 100
Χαμόγελο του Παιδιού: 210 3306140
Πυροσβεστική Υπηρεσία: 199
ΕΚΑΒ 166