- Ένας προγραμματιστής χρησιμοποίησε τεχνητή νοημοσύνη για να τακτοποιήσει το Macbook της συζύγου του, αλλά έχασε 15 χρόνια φωτογραφιών.
- Η τεχνητή νοημοσύνη Claude Cowork δεν αναγνώρισε τις ιδιαιτερότητες του συστήματος αρχείων του macOS και διέγραψε οριστικά τους φακέλους.
- Η ανάκτηση των δεδομένων έγινε δυνατή μόνο μέσα από ένα κρυφό χαρακτηριστικό του iCloud με τη βοήθεια της υποστήριξης της Apple.
Ένας προγραμματιστής παραλίγο να διαγράψει όλες τις αναμνηστικές φωτογραφίες που είχε τραβήξει η σύζυγός του τα τελευταία χρόνια.
Και αυτό συνέβη μόνο και μόνο επειδή ήθελε να καθαρίσει το Macbook της χρησιμοποιώντας ένα εργαλείο τεχνητής νοημοσύνης.
Οι πράκτορες τεχνητής νοημοσύνης (AI-Agenten) είναι πανίσχυρα εργαλεία με τα οποία μπορούν να αυτοματοποιηθούν πάρα πολλές πολύπλοκες εργασίες.
Με αυτόν τον τρόπο υποτίθεται ότι εξοικονομούμε πολύτιμο χρόνο από επαναλαμβανόμενες ή κουραστικές δουλειές στον υπολογιστή.
Ωστόσο, όταν αυτοί οι πράκτορες τεχνητής νοημοσύνης ξεφεύγουν από τα όρια, δεν μας προκαλούν απλώς επιπλέον δουλειά.
Σε περίπτωση αμφιβολίας, μας κοστίζουν επίσης τεράστια ψυχική φθορά, όπως ακριβώς συνέβη πρόσφατα σε έναν προγραμματιστή που μοιράστηκε τον πόνο του στο X.
Η τεχνητή νοημοσύνη διαγράφει όλες τις αναμνηστικές φωτογραφίες
Ο Nick Davidov είχε αρχικά σχεδιάσει να κάνει κάτι καλό για τη σύζυγό του και να την εξυπηρετήσει. Ήθελε να καθαρίσει τον υπολογιστή της και να τον οργανώσει με τέτοιο τρόπο ώστε να μπορεί να τον χρησιμοποιεί πιο αποτελεσματικά.
Για να μην χρειαστεί να κάνει όλη αυτή τη δουλειά με το χέρι, αποφάσισε να χρησιμοποιήσει το Claude Cowork. Αυτός ο συγκεκριμένος πράκτορας τεχνητής νοημοσύνης κυκλοφόρησε μόλις τον Ιανουάριο από την εταιρεία Anthropic.
Η εντολή εργασίας που δόθηκε στον πράκτορα τεχνητής νοημοσύνης ήταν εξαιρετικά απλή και ξεκάθαρη. Του ζητήθηκε το εξής: «Οργάνωσε την επιφάνεια εργασίας για να επιτρέπεις μια ευκολότερη πλοήγηση».
Το λειτουργικό σύστημα macOS έχει μια ιδιαιτερότητα, καθώς από προεπιλογή δεν κάνει διάκριση μεταξύ πεζών και κεφαλαίων γραμμάτων στα ονόματα των φακέλων.
Αυτή η φαινομενικά απλή οδηγία εργασίας κόστισε στη σύζυγο του Davidov όλες τις φωτογραφίες που βρίσκονταν στο αγαπημένο της Macbook. Λίγο μετά την έναρξη της εργασίας, το Claude Cowork έγραψε ένα ανησυχητικό μήνυμα.
Η τεχνητή νοημοσύνη ανέφερε ότι έπρεπε να διακόψει άμεσα τη δουλειά της και να είναι απόλυτα ειλικρινής με τον προγραμματιστή. Το μήνυμα έγραφε: «Έκανα ένα τεράστιο λάθος κατά την αναδιοργάνωση των φωτογραφιών».
Σύμφωνα με τα στοιχεία, το Claude Cowork προσπάθησε να συγχωνεύσει δύο διαφορετικούς φακέλους με τα ονόματα «Photos» και «photos» σε έναν.
Κατά τη διάρκεια αυτής της διαδικασίας, η τεχνητή νοημοσύνη δεν έλαβε υπόψη της ότι το σύστημα αρχείων του macOS δεν ξεχωρίζει τα πεζά από τα κεφαλαία γράμματα.
Το καταστροφικό λάθος της εντολής διαγραφής
Έτσι, αντί να διαγράψει έναν άδειο φάκελο και να κρατήσει τον άλλον με τα αρχεία, το Claude Cowork διέγραψε εντελώς και τους δύο φακέλους. Για να το κάνει αυτό, ο πράκτορας τεχνητής νοημοσύνης χρησιμοποίησε την εντολή «rm -rf».
Η εντολή «rm -rf» στο τερματικό είναι εξαιρετικά επικίνδυνη, καθώς διαγράφει αρχεία και υποφακέλους άμεσα, βίαια και χωρίς καμία προειδοποίηση επιβεβαίωσης.
Αυτή η συγκεκριμένη γραμμή εντολών rm χρησιμοποιείται για να ξεκινήσει η οριστική και σε επίπεδο συστήματος διαγραφή όλων των αρχείων. Ως αποτέλεσμα, οι φωτογραφίες των τελευταίων 15 ετών διαγράφηκαν οριστικά από τον σκληρό δίσκο του Macbook.
Το χειρότερο ήταν ότι δεν μπορούσαν πλέον να βρεθούν ούτε στον Κάδο Ανακύκλωσης, αλλά ούτε και στο αντίγραφο του iCloud. Ο Davidov δήλωσε σοκαρισμένος για το περιστατικό: «Παραλίγο να πάθω καρδιακή προσβολή».
Συνέχισε λέγοντας: «Αλλά η γυναίκα μου είναι πραγματικά αγία. Με είχε ήδη συγχωρήσει πριν καν προλάβω να ανακαλύψω πώς θα μπορούσα να επαναφέρω τις χαμένες εικόνες».
Η διαδικασία ανάκτησης και το τελικό συμπέρασμα
Για να καταφέρει να λύσει αυτό το κρίσιμο πρόβλημα, ο απελπισμένος προγραμματιστής στράφηκε στην επίσημη υποστήριξη της Apple. Οι εξειδικευμένοι υπάλληλοι του αποκάλυψαν ότι μια ειδική λειτουργία του iCloud θα μπορούσε να είναι η απόλυτη σωτηρία του.
Μέσω αυτής της λειτουργίας, μπόρεσε να ενεργοποιήσει ένα παλιό σημείο επαναφοράς του συστήματος (Wiederherstellungspunkt). Αυτή η κίνηση έφερε ευτυχώς πίσω τις περισσότερες από τις πολύτιμες φωτογραφίες της συζύγου του.
Από αυτό το τρομακτικό περιστατικό, ο Davidov άντλησε ένα πολύ ξεκάθαρο μάθημα για το μέλλον. «Μην αφήνετε ποτέ το Claude Cowork να πλησιάσει τα συστήματα αρχείων σας», προειδοποιεί.
Και προσθέτει αυστηρά: «Μην το αφήνετε να αγγίξει τίποτα που είναι εξαιρετικά δύσκολο να επιδιορθωθεί ξανά. Το Claude Code απλά δεν είναι ακόμα έτοιμο για το ευρύ κοινό».
Δεν είναι μόνο το Claude που κάνει λάθη. Πρόσφατα, η τεχνητή νοημοσύνη της Replit διέγραψε εταιρική βάση δεδομένων, ενώ το Antigravity της Google έσβησε ολόκληρο σκληρό δίσκο χρήστη.
Γιατί η τεχνητή νοημοσύνη κάνει τόσο καταστροφικά λάθη
Η βασική αιτία πίσω από τέτοιου είδους τεράστιες αστοχίες είναι η έλλειψη πραγματικής κατανόησης του πλαισίου (context) από την πλευρά της τεχνητής νοημοσύνης. Ένας αλγόριθμος εκτελεί τυφλά εντολές, χωρίς να έχει την ανθρώπινη αντίληψη του κινδύνου.
Όταν δίνουμε πλήρη δικαιώματα διαχειριστή σε ένα AI, του επιτρέπουμε να παίρνει αποφάσεις σε κλάσματα δευτερολέπτου. Αυτό σημαίνει ότι ένα μικρό λογικό σφάλμα μπορεί να μετατραπεί σε ανεπανόρθωτη καταστροφή δεδομένων.
| Ενέργεια Οργάνωσης | Ανθρώπινη Προσέγγιση | Προσέγγιση Τεχνητής Νοημοσύνης (ΑΙ) |
|---|---|---|
| Συγχώνευση Φακέλων | Ελέγχει τα περιεχόμενα, μεταφέρει τα αρχεία χειροκίνητα. | Εκτελεί μαζικές εντολές τερματικού χωρίς οπτικό έλεγχο. |
| Διαγραφή Διπλότυπων | Στέλνει τα αρχεία στον Κάδο Ανακύκλωσης για ασφάλεια. | Χρησιμοποιεί “rm -rf” παρακάμπτοντας τον Κάδο Ανακύκλωσης. |
Τα σύγχρονα λειτουργικά συστήματα έχουν σχεδιαστεί με δικλείδες ασφαλείας για τον άνθρωπο, όπως τα παράθυρα επιβεβαίωσης διαγραφής. Ωστόσο, η τεχνητή νοημοσύνη χρησιμοποιεί συχνά το τερματικό, παρακάμπτοντας εντελώς όλα αυτά τα σωσίβια ασφαλείας.
Πρακτικές συμβουλές για ασφαλή χρήση AI στον υπολογιστή σας
Εάν σκοπεύετε να χρησιμοποιήσετε εργαλεία αυτοματισμού για την οργάνωση του υπολογιστή σας, πρέπει να είστε προετοιμασμένοι. Είναι απολύτως απαραίτητο να λάβετε προληπτικά μέτρα προστασίας για τα ευαίσθητα προσωπικά σας δεδομένα.
Ακολουθούν οι βασικοί κανόνες που πρέπει να τηρείτε πριν δώσετε πρόσβαση σε οποιονδήποτε ψηφιακό βοηθό:
- Ποτέ μην δίνετε δικαιώματα root/admin: Περιορίστε την πρόσβαση της τεχνητής νοημοσύνης μόνο σε συγκεκριμένους φακέλους εργασίας.
- Χρησιμοποιήστε περιβάλλοντα δοκιμών (Sandbox): Αφήστε το AI να τρέξει τις εντολές του πρώτα σε έναν εικονικό, ασφαλή χώρο.
- Επιβάλετε λειτουργία Read-Only: Ρυθμίστε το εργαλείο ώστε να μπορεί να διαβάζει τα αρχεία, αλλά να ζητά την άδειά σας πριν γράψει ή διαγράψει κάτι.
Εφαρμόστε τον χρυσό κανόνα αντιγράφων ασφαλείας “3-2-1”: Διατηρείτε 3 αντίγραφα των δεδομένων σας, σε 2 διαφορετικά μέσα αποθήκευσης, με το 1 αντίγραφο να βρίσκεται εκτός του φυσικού σας χώρου (π.χ. Cloud).
Πως να προστατεύσετε τα αρχεία σας από αυτοματοποιημένα εργαλεία
Η ιστορία του Nick Davidov πρέπει να λειτουργήσει ως ένα τεράστιο καμπανάκι κινδύνου για όλους τους χρήστες. Η ευκολία που προσφέρει η σύγχρονη τεχνητή νοημοσύνη έρχεται συχνά με ένα πολύ κρυφό και ακριβό τίμημα.
Αν δεν έχετε ένα αυτοματοποιημένο και πλήρως λειτουργικό σύστημα backup, όπως το Time Machine στο macOS, μην πειραματίζεστε. Μια απλή εντολή που εκτελείται λανθασμένα στο παρασκήνιο αρκεί για να καταστρέψει αναμνήσεις και δουλειά ετών.
Στο εγγύς μέλλον, οι εταιρείες ανάπτυξης AI λογισμικού οφείλουν να ενσωματώσουν καλύτερους μηχανισμούς προστασίας στα εργαλεία τους.
Μέχρι τότε, η τελική ευθύνη για την προστασία των ψηφιακών μας αρχείων παραμένει αποκλειστικά στα δικά μας χέρια.
