Η εμφάνιση των deadbots – λογισμικών τεχνητής νοημοσύνης που μιμούνται την προσωπικότητα των αποθανόντων – δημιουργεί σοβαρά ηθικά και νομικά ζητήματα που αφορούν την ανθρώπινη αξιοπρέπεια, τη θλίψη, αλλά και την ψυχολογική υγεία των χρηστών. Με την πρόσφατη θέσπιση του νέου ευρωπαϊκού νομικού πλαισίου για την τεχνητή νοημοσύνη, ανοίγει μια αναγκαία συζήτηση για τον τρόπο που πρέπει να ρυθμίζεται η χρήση αυτής της νέας τεχνολογίας, ώστε να προστατεύονται οι χρήστες και οι προσωπικές σχέσεις που αυτοί διατηρούν με τους θανόντες.
Η νομοθεσία για την τεχνητή νοημοσύνη και ο κίνδυνος των deadbots
Η ευρωπαϊκή νομοθεσία για την τεχνητή νοημοσύνη θεσπίστηκε την 1η Αυγούστου, ταξινομώντας τις τεχνολογίες σύμφωνα με τον κίνδυνο που ενέχουν για την κοινωνία. Τεχνολογίες με «απαράδεκτο κίνδυνο», δηλαδή τεχνολογίες που εκμεταλλεύονται τα ευάλωτα σημεία των ανθρώπων, κρίνονται απαγορευμένες. Τα deadbots, τα οποία βασίζονται σε δεδομένα ψηφιακής ταυτότητας του αποθανόντος, ενδέχεται να ενταχθούν σε αυτή την κατηγορία, καθώς μπορούν να χρησιμοποιηθούν για την επαναδημιουργία «ψηφιακών προσωπικοτήτων» και αλληλεπιδράσεων, μιμούμενα τη συμπεριφορά και τις επικοινωνιακές συνήθειες των νεκρών.
Ηθικές και ψυχολογικές διαστάσεις των deadbots
Σύμφωνα με τη Belén Jiménez, ειδικό στην τεχνολογική διαμεσολάβηση της θλίψης και ερευνήτρια στην Universitat Oberta de Catalunya, τα deadbots εγείρουν σημαντικά ερωτήματα για την ψυχολογική επίδραση που έχουν στους πενθούντες. «Πρέπει να ρυθμιστεί η χρήση τους, καθώς το κίνητρο κέρδους των εταιρειών που τα εμπορεύονται δεν συμβαδίζει πάντα με την ψυχολογική ή θεραπευτική τους αξία», υπογραμμίζει η Jiménez.
Η έρευνα της Jiménez, η οποία έχει δημοσιευθεί στο Ethics in Online AI-based Systems, δείχνει ότι τα deadbots μπορούν να προκαλέσουν αντιφατικά συναισθήματα στους πενθούντες. Η επιθυμία τους να διατηρήσουν τη συναισθηματική σύνδεση με τους αποθανόντες συχνά συνδυάζεται με ανησυχία, που οφείλεται στην αλληλεπίδραση με ένα πρόγραμμα που μιμείται την προσωπικότητα των αγαπημένων τους.
Η σύνθετη φύση της σχέσης με τα deadbots
Ο όρος «συνεχείς δεσμοί», που χρησιμοποιείται στην ψυχολογία της θλίψης, περιγράφει την ανάγκη των ανθρώπων να διατηρήσουν κάποιον συναισθηματικό δεσμό με τους θανόντες. Τα deadbots, σύμφωνα με την Jiménez, εκμεταλλεύονται αυτή την ανάγκη και μπορεί να λειτουργούν σαν μια σύγχρονη και τεχνολογική εκδοχή της φανταστικής συνομιλίας ή του διαλόγου μπροστά στον τάφο.
Αν και η ανάγκη διατήρησης του δεσμού δεν είναι παθολογική, η χρήση των deadbots εγκυμονεί κινδύνους. Ελλείψει ρυθμίσεων, ο χρήστης μπορεί να αναπτύξει σχέση εξάρτησης από το deadbot, γεγονός που θα μπορούσε να προκαλέσει δεύτερη θλίψη σε περίπτωση τεχνικών προβλημάτων ή διακοπής της λειτουργίας του.
Οι ευρωπαϊκές ρυθμίσεις και η ψηφιακή βιομηχανία μετά θάνατον
Η νέα ευρωπαϊκή νομοθεσία για την τεχνητή νοημοσύνη περιλαμβάνει αυστηρά πρότυπα για τις εφαρμογές AI που αφορούν την υγεία και τη θλίψη. Ο χρήστης πρέπει πάντα να ενημερώνεται όταν επικοινωνεί με λογισμικό και όχι με άνθρωπο, ενώ επιβάλλονται πρόστιμα ύψους έως και 30 εκατομμυρίων ευρώ ή 6% του κύκλου εργασιών για παραβάσεις.
Αν και η τεχνολογία αυτή μπορεί να προσφέρει τρόπους διαχείρισης της ψηφιακής θλίψης, είναι σημαντικό να τεθούν κανόνες για τον σεβασμό και την αξιοπρέπεια του αποθανόντος. Οι κανονισμοί, σύμφωνα με την Jiménez, πρέπει να διασφαλίζουν ότι οι υπηρεσίες αυτές δεν παραβιάζουν τα δικαιώματα των αποθανόντων και ότι συμβάλλουν στην ψυχολογική ευημερία των χρηστών τους.
Ηθική διάσταση και ανάγκη για αυστηρούς ελέγχους
Ο σεβασμός προς τον αποθανόντα και η ψυχολογική ασφάλεια των πενθούντων είναι υψίστης σημασίας σε αυτό το πεδίο. Εταιρείες που αναπτύσσουν deadbots πρέπει να συμμορφώνονται με αυστηρά πρότυπα και να επενδύουν σε διαφάνεια και ελέγχους ποιότητας. Καθώς οι συναισθηματικοί δεσμοί και η ψυχολογική κατάσταση των χρηστών εξαρτώνται από τη σχέση που είχαν με τον αποθανόντα, η τεχνολογία αυτή πρέπει να διαχειρίζεται με προσοχή για να προληφθούν οι αρνητικές επιπτώσεις της.
Τα deadbots, παρόλο που βασίζονται σε τεχνητή νοημοσύνη, δεν αντικαθιστούν τον πραγματικό δεσμό με τους θανόντες. Αντίθετα, μπορεί να οδηγήσουν σε εξάρτηση ή θλίψη, γεγονός που καθιστά απαραίτητη τη ρύθμιση αυτής της τεχνολογίας.
