- Το Ευρωπαϊκό Κοινοβούλιο απενεργοποίησε τις λειτουργίες AI στις συσκευές βουλευτών και προσωπικού, επειδή το τμήμα IT δεν μπορεί να εγγυηθεί την ασφάλεια των δεδομένων.
- Το κεντρικό πρόβλημα είναι ότι ορισμένοι ψηφιακοί βοηθοί χρησιμοποιούν cloud υπηρεσίες, στέλνοντας εμπιστευτικά δεδομένα εκτός συσκευής χωρίς πλήρη έλεγχο.
- Η απαγόρευση είναι προσωρινή και θα ισχύει μέχρι να διευκρινιστεί ακριβώς ποια δεδομένα κοινοποιούνται και προς ποιον.
Τι ακριβώς συνέβη με τις συσκευές του Κοινοβουλίου
Το Ευρωπαϊκό Κοινοβούλιο απενεργοποίησε τις λειτουργίες τεχνητής νοημοσύνης στις συσκευές των βουλευτών, εν μέσω ανησυχιών ότι ευαίσθητο περιεχόμενο θα μπορούσε να καταλήξει εκεί που δεν θα έπρεπε.
Σύμφωνα με δημοσίευμα του Politico, το προσωπικό ενημερώθηκε ότι οι λειτουργίες AI στις εταιρικές συσκευές, συμπεριλαμβανομένων των tablets, απενεργοποιήθηκαν επειδή το τμήμα πληροφορικής δεν μπορούσε να εγγυηθεί την ασφάλεια των δεδομένων.
Ποιος ξέρει πού δημιουργείται εκείνη η χρήσιμη σύνοψη ενός email; Αυτή η απλή ερώτηση βρίσκεται στον πυρήνα της ανησυχίας που οδήγησε στην απόφαση, καθώς η αβεβαιότητα γύρω από την επεξεργασία δεδομένων στο cloud αυξάνεται συνεχώς, ακόμη και μεταξύ των ίδιων των θεσμικών οργάνων που νομοθετούν πάνω σε αυτά τα θέματα.
Η απαγόρευση αφορά λειτουργίες AI που στέλνουν δεδομένα σε cloud υπηρεσίες. Εφαρμογές καθημερινής χρήσης, όπως το ημερολόγιο, δεν επηρεάζονται από το μέτρο.
Το πρόβλημα με τις υπηρεσίες cloud και τους ψηφιακούς βοηθούς
Το κεντρικό ζήτημα είναι ότι ορισμένοι ψηφιακοί βοηθοί AI απαιτούν τη χρήση υπηρεσιών cloud για να εκτελέσουν εργασίες, όπως η σύνοψη email, στέλνοντας έτσι δεδομένα εκτός της συσκευής.
Αυτό αποτελεί σοβαρή πρόκληση για την προστασία δεδομένων, ιδιαίτερα σε ένα θεσμικό περιβάλλον όπου διακινείται εμπιστευτικό πολιτικό και νομοθετικό περιεχόμενο.
Η κατάσταση είναι δυσάρεστη για τους κατασκευαστές συσκευών που προωθούν την επεξεργασία πάνω στη συσκευή (on-device processing), αφού η απόφαση δεν κάνει διάκριση μεταξύ τοπικής και απομακρυσμένης επεξεργασίας.
Σύμφωνα με αναφορές, το γραφείο τεχνικής υποστήριξης του Κοινοβουλίου δήλωσε χαρακτηριστικά:
«Καθώς αυτές οι λειτουργίες συνεχίζουν να εξελίσσονται και γίνονται διαθέσιμες σε περισσότερες συσκευές, η πλήρης έκταση των δεδομένων που κοινοποιούνται στους παρόχους υπηρεσιών εξακολουθεί να αξιολογείται. Μέχρι να διευκρινιστεί πλήρως, θεωρείται ασφαλέστερο αυτές οι λειτουργίες να παραμείνουν απενεργοποιημένες.»
Διαρροές δεδομένων μέσω AI: ένα πραγματικό ζήτημα
Η προστασία δεδομένων και οι υπηρεσίες τεχνητής νοημοσύνης δεν αποτελούσαν ποτέ τον πιο αρμονικό συνδυασμό.
Έρευνες έχουν δείξει ότι εργαζόμενοι διαρρέουν τακτικά εταιρικά μυστικά μέσω ψηφιακών βοηθών, ενώ οι υπηρεσίες AI που λειτουργούν πάνω στη συσκευή βρίσκονται στο επίκεντρο της προσοχής κατασκευαστών, εν μέσω ανησυχιών για το τι ακριβώς αποστέλλεται στο cloud.
Η ιδέα ότι εμπιστευτικά δεδομένα στέλνονται σε κάποια άγνωστη τοποθεσία στο cloud για να παράγουν μια χρήσιμη σύνοψη έχει προφανώς ανησυχήσει τους βουλευτές, και γι’ αυτό εφαρμόζεται μια γενική απαγόρευση.
Εν τούτοις, το ζήτημα έχει σαφώς μικρότερη σημασία αν η επεξεργασία πραγματοποιείται τοπικά στην ίδια τη συσκευή.
Μελέτες δείχνουν ότι εργαζόμενοι διαρρέουν τακτικά εμπιστευτικές πληροφορίες μέσω AI βοηθών, χωρίς να το αντιλαμβάνονται, ιδίως όταν χρησιμοποιούν εργαλεία σύνοψης και αυτόματης απάντησης.
Τι ισχύει και τι όχι: τα όρια της απαγόρευσης
Σύμφωνα με το δημοσίευμα του Politico, τα καθημερινά εργαλεία, όπως οι εφαρμογές ημερολογίου, δεν επηρεάζονται από την απόφαση.
Η απαγόρευση είναι προσωρινή και θα ισχύει μέχρι οι τεχνικοί ειδικοί να διευκρινίσουν τι ακριβώς κοινοποιείται και προς ποιον κατευθύνεται.
| Κατηγορία | Κατάσταση | Λεπτομέρεια |
|---|---|---|
| Λειτουργίες AI (σύνοψη, βοηθοί) | Απενεργοποιημένες | Αφορά εταιρικές συσκευές και tablets |
| Εφαρμογές ημερολογίου | Ενεργές | Δεν επηρεάζονται από το μέτρο |
| Εφαρμογές AI τρίτων | Αποθαρρύνεται η χρήση | Σύσταση κατά της παραχώρησης ευρείας πρόσβασης σε δεδομένα |
| Διάρκεια απαγόρευσης | Προσωρινή | Μέχρι την ολοκλήρωση αξιολόγησης ασφαλείας |
Η στάση του Κοινοβουλίου απέναντι στην τεχνητή νοημοσύνη
Το Ευρωπαϊκό Κοινοβούλιο εξετάζει με προσοχή την τεχνητή νοημοσύνη εδώ και χρόνια και έχει θεσπίσει την πρώτη νομοθεσία παγκοσμίως που σχεδιάστηκε ειδικά για να αντιμετωπίσει τους αντιληπτούς κινδύνους από αυτή την τεχνολογία, γνωστή ως AI Act.
Η απαγόρευση, μαζί με τις κατευθυντήριες οδηγίες που αποθαρρύνουν τους βουλευτές από τη χρήση υπηρεσιών AI για εργασίες του Κοινοβουλίου, αφορά περισσότερο τους φόβους για το πού θα μπορούσαν να καταλήξουν τα δεδομένα, παρά κάτι συγκεκριμένο σχετικά με την ίδια την τεχνητή νοημοσύνη ως τεχνολογία.
Οι οδηγίες συνιστούσαν επίσης να μην παραχωρείται ευρεία πρόσβαση σε δεδομένα σε εφαρμογές AI τρίτων, κάτι που αποτελεί λογική σύσταση ανεξάρτητα από το πού εργάζεται κάποιος, καθώς η κατάχρηση δικαιωμάτων πρόσβασης αποτελεί έναν από τους πιο συνηθισμένους φορείς κινδύνου σε κάθε ψηφιακό περιβάλλον.
Ο ευρωπαϊκός κανονισμός AI Act αποτελεί την πρώτη νομοθεσία στον κόσμο που ρυθμίζει ειδικά τους κινδύνους από την τεχνητή νοημοσύνη, με κατηγοριοποίηση ανά επίπεδο ρίσκου.
Τι σημαίνει η απόφαση για οργανισμούς και επιχειρήσεις
Η απόφαση του Ευρωπαϊκού Κοινοβουλίου δεν αποτελεί απλώς μια εσωτερική τεχνική ρύθμιση, αλλά λειτουργεί ως σήμα προς κάθε οργανισμό που χρησιμοποιεί εταιρικές συσκευές με ενσωματωμένες λειτουργίες AI.
Αν ένα θεσμικό όργανο της Ευρωπαϊκής Ένωσης δεν μπορεί να εγγυηθεί πού καταλήγουν τα δεδομένα, οι επιχειρήσεις που χειρίζονται εμπιστευτικές πληροφορίες πελατών, ιατρικά αρχεία ή οικονομικά στοιχεία θα πρέπει να αναρωτηθούν αν βρίσκονται σε καλύτερη θέση.
Πρακτικές συμβουλές για οργανισμούς
Ένα πρώτο βήμα είναι η χαρτογράφηση των ροών δεδομένων σε κάθε συσκευή και εφαρμογή AI που χρησιμοποιεί ο οργανισμός.
Πολλές φορές, λειτουργίες όπως η αυτόματη σύνοψη, η μεταγραφή φωνής και οι έξυπνες προτάσεις ενεργοποιούνται αυτόματα κατά τις ενημερώσεις λογισμικού, χωρίς ρητή συγκατάθεση του χρήστη ή του τμήματος IT.
Δεύτερον, η διάκριση μεταξύ on-device και cloud-based AI πρέπει να γίνει κεντρική στην πολιτική ασφαλείας.
Η τοπική επεξεργασία μειώνει σημαντικά τον κίνδυνο, αλλά δεν τον εξαλείφει πλήρως, καθώς ακόμη και τα on-device μοντέλα ενδέχεται να στέλνουν τηλεμετρία ή αναφορές χρήσης σε εξωτερικούς διακομιστές.
| Τύπος επεξεργασίας AI | Επίπεδο κινδύνου | Σύσταση |
|---|---|---|
| Cloud-based (εξωτερικοί servers) | Υψηλό | Αξιολόγηση παρόχου, κρυπτογράφηση, συμβατικές εγγυήσεις |
| On-device (τοπική επεξεργασία) | Μεσαίο | Έλεγχος τηλεμετρίας, περιορισμός δικαιωμάτων εφαρμογών |
| Υβριδικό μοντέλο | Μεταβλητό | Λεπτομερής αξιολόγηση ανά λειτουργία και ροή δεδομένων |
Η σημασία της εκπαίδευσης του προσωπικού
Τρίτον, η εκπαίδευση του προσωπικού παραμένει κρίσιμος παράγοντας. Πολλές διαρροές δεδομένων μέσω AI δεν οφείλονται σε τεχνικές αδυναμίες, αλλά στην άγνοια του χρήστη ο οποίος επικολλά εσωτερικά έγγραφα σε έναν ψηφιακό βοηθό χωρίς να σκεφτεί πού αποθηκεύονται, ποιος έχει πρόσβαση ή αν η πληροφορία χρησιμοποιείται για εκπαίδευση μοντέλων.
Τέταρτον, κάθε οργανισμός θα πρέπει να εξετάσει τη δημιουργία μιας λίστας εγκεκριμένων εργαλείων AI με σαφή κριτήρια ένταξης, όπως η συμμόρφωση με τον GDPR, η δυνατότητα τοπικής αποθήκευσης δεδομένων και η διαφάνεια στους όρους χρήσης.
Αυτό αποτρέπει την ανεξέλεγκτη χρήση εφαρμογών τρίτων και δίνει σαφές πλαίσιο στους εργαζόμενους.
Η περίπτωση του Ευρωπαϊκού Κοινοβουλίου δείχνει ότι ακόμη και οι πιο οργανωμένοι οργανισμοί αντιμετωπίζουν δυσκολίες στον έλεγχο της ροής δεδομένων μέσα από εργαλεία AI, ενώ παράλληλα αναδεικνύει ότι η αρχή της προφύλαξης μπορεί να είναι η πιο ρεαλιστική στρατηγική μέχρι να ωριμάσουν τα πρότυπα ασφαλείας και οι μηχανισμοί ελέγχου.
Η τεχνολογία εξελίσσεται ταχύτερα από τις πολιτικές που την περιβάλλουν, και κάθε καθυστέρηση στην αξιολόγηση αυξάνει τον κίνδυνο έκθεση
