Ένα σοβαρό περιστατικό έλαβε χώρα στην Bytedance, τη μητρική εταιρεία του TikTok, όπου ένας ασκούμενος φοιτητής φέρεται να σαμπόταρε την εκπαίδευση ενός μοντέλου τεχνητής νοημοσύνης (AI). Η είδηση προκάλεσε έντονο ενδιαφέρον, και μάλιστα η αναφορά για το συμβάν κυκλοφόρησε σε πολλά μέσα ενημέρωσης παγκοσμίως.
Το περιστατικό της παρέμβασης στην εκπαίδευση AI
Οι πρώτες αναφορές για το περιστατικό προήλθαν από την Κίνα και πλέον επιβεβαιώνονται από την ίδια την Bytedance. Ο ασκούμενος, που θεωρείται ότι είναι μεταπτυχιακός φοιτητής από το Πανεπιστήμιο του Πεκίνου, παρενέβη με κακόβουλο τρόπο στην εκπαίδευση ενός AI σε ένα ερευνητικό έργο της εταιρείας.
Ωστόσο σύμφωνα με την επίσημη δήλωση της Bytedance, η κατάσταση παρουσιάστηκε από τα μέσα ενημέρωσης με υπερβολικό και εσφαλμένο τρόπο.
Η παρέμβαση του ασκούμενου φοιτητή είχε επίδραση σε μια ερευνητική ομάδα που ασχολείται με την τεχνολογία μάρκετινγκ, αλλά, όπως διευκρινίζει η εταιρεία, το περιστατικό δεν επηρέασε το βασικό έργο της Bytedance, ούτε άλλους τομείς της εταιρείας, όπως το μεγάλο AI μοντέλο της Bytedance.
Υπερβολικές φήμες για την έκταση της ζημιάς
Σύμφωνα με τις φήμες, το περιστατικό είχε ως αποτέλεσμα να χαθούν περισσότερες από 8.000 GPU, προκαλώντας ζημιές ύψους δεκάδων εκατομμυρίων δολαρίων. Ωστόσο, η Bytedance αρνείται αυτούς τους ισχυρισμούς, χαρακτηρίζοντάς τους “υπερβολικούς”. Αν και δεν διευκρινίζει πόσες GPU επηρεάστηκαν ή το ακριβές κόστος της ζημιάς, η εταιρεία υπογραμμίζει ότι οι αναφορές για την έκταση της καταστροφής είναι διογκωμένες.
Η απομάκρυνση του φοιτητή και τα μέτρα της εταιρείας
Η Bytedance επιβεβαιώνει ότι ο ασκούμενος απολύθηκε τον Αύγουστο μετά το περιστατικό. Επιπλέον, η εταιρεία ανέφερε το συμβάν στην αρμόδια ένωση του κλάδου, καθώς και στο εκπαιδευτικό ίδρυμα του φοιτητή, για να διερευνηθούν περαιτέρω οι πράξεις του. Όπως αναφέρεται από το The Register, ο φοιτητής πιθανότατα ανήκει στο τμήμα επιστήμης υπολογιστών του Πανεπιστημίου του Πεκίνου.
Η ζημιά στους συναδέλφους
Ο ασκούμενος φέρεται να προκαλούσε φθορές για περίπου δύο μήνες, καταστρέφοντας εργασίες που είχαν πραγματοποιηθεί από 30 εργαζόμενους της εταιρείας. Μάλιστα, η δουλειά κάποιων συναδέλφων για σχεδόν τρεις μήνες χάθηκε εξαιτίας των ενεργειών του.
Αντίκτυπος και συνέπειες για την Bytedance
Παρόλο που η παρέμβαση του φοιτητή δεν επηρέασε τις βασικές λειτουργίες της εταιρείας, το γεγονός ανέδειξε την ανάγκη για αυστηρότερους ελέγχους στην ασφάλεια των εσωτερικών συστημάτων, ειδικά σε κρίσιμα έργα που αφορούν την εκπαίδευση τεχνητής νοημοσύνης. Οι ενέργειες αυτές δεν φαίνεται να έχουν προκαλέσει βλάβη στη φήμη της Bytedance, ωστόσο είναι σαφές ότι η εταιρεία λαμβάνει μέτρα για να αποτρέψει παρόμοια περιστατικά στο μέλλον.
Η εκπαίδευση του AI και οι προκλήσεις
Η Bytedance, ως μια από τις κορυφαίες εταιρείες τεχνολογίας στον κόσμο, αντιμετωπίζει προκλήσεις στην εκπαίδευση AI και στην ανάπτυξη καινοτόμων συστημάτων. Τέτοια περιστατικά, αν και μεμονωμένα, φέρνουν στο φως τους κινδύνους που υπάρχουν κατά τη διαδικασία εκπαίδευσης και ανάπτυξης πολύπλοκων συστημάτων τεχνητής νοημοσύνης.
Είναι σημαντικό να γίνουν επενδύσεις στην ενίσχυση της ασφάλειας και της επίβλεψης σε αυτά τα ερευνητικά έργα, καθώς και να διασφαλιστεί ότι τα ερευνητικά δεδομένα είναι ασφαλή και προστατευμένα από εσωτερικές ή εξωτερικές απειλές.
