ΑρχικήΕπιστήμηΠρέπει οι φωνητικοί βοηθοί τεχνητής νοημοσύνης να έχουν φύλο;

Πρέπει οι φωνητικοί βοηθοί τεχνητής νοημοσύνης να έχουν φύλο;

Μελέτες έχουν δείξει εδώ και καιρό ότι οι άνδρες είναι πιο πιθανό να διακόψουν τον συνομιλητή τους σε μία συζήτηση, ειδικά όταν μιλούν με γυναίκες. Νέα έρευνα από μηχανικούς του Πανεπιστημίου Τζονς Χόπκινς αποκαλύπτει ότι αυτή η συμπεριφορά επεκτείνεται και στους φωνητικούς βοηθούς με τεχνητή νοημοσύνη, όπως η Alexa και η Siri, με τους άνδρες να διακόπτουν σχεδόν διπλάσιες φορές από τις γυναίκες.

Τα ευρήματα της μελέτης δημοσιεύθηκαν στο Proceedings of the ACM on Human-Computer Interaction.

Αυτά τα ευρήματα εγείρουν ανησυχίες σχετικά με το πως ο σχεδιασμός των ψηφιακών φωνητικών βοηθών –ιδιαίτερα κατά τη χρήση στερεοτυπικά «θηλυκών» χαρακτηριστικών, όπως η απολογητική συμπεριφορά και η θέρμη– μπορεί να ενισχύσει τις έμφυλες προκαταλήψεις, οδηγώντας τους ερευνητές στο συμπέρασμα να υποστηρίξουν τον σχεδιασμό πιο ουδέτερων ως προς το φύλο φωνητικών εργαλείων.

«Οι φωνητικοί βοηθοί συνομιλίας συχνά θηλυκοποιούνται μέσω του φιλικού τους τονισμού, των ονομάτων με φύλο και της υποτακτικής συμπεριφοράς. Καθώς γίνονται όλο και πιο διαδεδομένοι στη ζωή μας, ο τρόπος με τον οποίο αλληλεπιδρούμε μαζί τους –και οι προκαταλήψεις που μπορεί ασυνείδητα να επηρεάζουν αυτές τις αλληλεπιδράσεις– μπορεί να διαμορφώσει όχι μόνο τις σχέσεις ανθρώπου-τεχνολογίας, αλλά και τις πραγματικές κοινωνικές δυναμικές μεταξύ των ανθρώπων», λέει η επικεφαλής της μελέτης Amama Mahmood, φοιτήτρια διδακτορικού πέμπτου έτους στο Τμήμα Επιστήμης Υπολογιστών της Σχολής Whiting.

Η Mahmood και ο σύμβουλος της Chien-Ming Huang, επίκουρος καθηγητής επιστήμης υπολογιστών και διευθυντής του Intuitive Computing Laboratory, παρουσίασαν τα ευρήματά τους σχετικά με το φύλο και την αντίληψη των φωνητικών βοηθών στο 27ο Συνέδριο ACM για τη Συνεργατική Εργασία με Υπολογιστές και την Κοινωνική Πληροφορική, που πραγματοποιήθηκε το περασμένο φθινόπωρο στο Σαν Χοσέ της Κόστα Ρίκα.

Στην επιτόπια μελέτη της Mahmood και του Huang, 40 συμμετέχοντες –19 άνδρες και 21 γυναίκες– χρησιμοποίησαν μια προσομοίωση φωνητικού βοηθού για να ολοκληρώσουν μια διαδικτυακή εργασία αγορών. Χωρίς να το γνωρίζουν, ο βοηθός ήταν προγραμματισμένος να κάνει συγκεκριμένα λάθη, επιτρέποντας στους ερευνητές να παρατηρήσουν τις αντιδράσεις των συμμετεχόντων.

Οι συμμετέχοντες αλληλεπίδρασαν με τρεις τύπους φωνής –θηλυκή, αρσενική και ουδέτερη ως προς το φύλο– και ο φωνητικός βοηθός απάντησε στα λάθη του προσφέροντας μια απλή απολογία.

«Εξετάσαμε πως οι χρήστες αντιλαμβάνονταν αυτούς τους πράκτορες (αγγλικά: agents), εστιάζοντας σε χαρακτηριστικά όπως η αντιληπτή θέρμη, η ικανότητα και η ικανοποίηση των χρηστών με την αποκατάσταση σφαλμάτων», λέει η Mahmood. «Αναλύσαμε επίσης τη συμπεριφορά των χρηστών, παρατηρώντας τις αντιδράσεις τους, τις διακοπές του φωνητικού βοηθού και αν το φύλο τους έπαιξε ρόλο στον τρόπο με τον οποίο απάντησαν».

Οι ερευνητές παρατήρησαν ξεκάθαρα στερεότυπα στον τρόπο με τον οποίο οι χρήστες αντιλαμβάνονταν και αλληλεπιδρούσαν με τους φωνητικούς βοηθούς τεχνητής νοημοσύνης. Για παράδειγμα, οι χρήστες συσχέτισαν μεγαλύτερη ικανότητα με τους βοηθούς με θηλυκή φωνή, πιθανώς αντανακλώντας υποκείμενες προκαταλήψεις που συνδέουν ορισμένες «υποστηρικτικές» δεξιότητες με παραδοσιακά θηλυκούς ρόλους.

Το φύλο των χρηστών επηρέασε επίσης τη συμπεριφορά τους—οι άνδρες χρήστες διέκοπταν τον φωνητικό βοηθό συχνότερα κατά τη διάρκεια σφαλμάτων και ανταποκρίνονταν πιο κοινωνικά (χαμογελώντας και γνέφοντας) στη θηλυκή βοηθό από ό,τι στην αρσενική, υποδηλώνοντας μια προτίμηση για υποστήριξη με θηλυκή φωνή.

Ωστόσο, η εργασία με έναν φωνητικό βοηθό ουδέτερου φύλου που απολογούνταν για τα λάθη του μείωσε τις αγενείς αλληλεπιδράσεις και τις διακοπές—παρόλο που αυτή η φωνή θεωρούνταν λιγότερο θερμή και πιο «ρομποτική» από τις αντίστοιχες με φύλο.

«Αυτό δείχνει ότι ο σχεδιασμός εικονικών πρακτόρων με ουδέτερα χαρακτηριστικά και προσεκτικά επιλεγμένες στρατηγικές μετριασμού σφαλμάτων—όπως οι απολογίες—έχει τη δυνατότητα να ενθαρρύνει πιο σεβαστικές και αποτελεσματικές αλληλεπιδράσεις», λέει η Mahmood.

Η Mahmood και ο Huang σχεδιάζουν να εξερευνήσουν τον σχεδιασμό φωνητικών βοηθών που μπορούν να εντοπίζουν προκατειλημμένες συμπεριφορές και να προσαρμόζονται σε πραγματικό χρόνο για να τις μειώσουν, ενθαρρύνοντας δικαιότερες αλληλεπιδράσεις. Στόχος τους είναι επίσης να συμπεριλάβουν περισσότερα μη δυαδικά άτομα στην έρευνά τους, καθώς αυτή η ομάδα υποεκπροσωπήθηκε στην αρχική τους ομάδα μελέτης.

«Ο προσεκτικός σχεδιασμός—ειδικά στον τρόπο με τον οποίο αυτοί οι πράκτορες απεικονίζουν το φύλο—είναι απαραίτητος για να διασφαλιστεί η αποτελεσματική υποστήριξη των χρηστών χωρίς την προώθηση επιβλαβών στερεοτύπων. Τελικά, η αντιμετώπιση αυτών των προκαταλήψεων στον τομέα της φωνητικής υποστήριξης και της τεχνητής νοημοσύνης θα μας βοηθήσει να δημιουργήσουμε ένα πιο δίκαιο ψηφιακό και κοινωνικό περιβάλλον», λέει η Mahmood.

Περαιτέρω σκέψεις για το φύλο και την τεχνητή νοημοσύνη

Πέρα από τα ευρήματα της συγκεκριμένης έρευνας, είναι σημαντικό να εξετάσουμε ευρύτερα τις επιπτώσεις της ενσωμάτωσης φύλου στην τεχνητή νοημοσύνη. Η επιλογή μιας φωνής και μιας προσωπικότητας για έναν ψηφιακό βοηθό δεν είναι ποτέ ουδέτερη. Αντανακλά και ενισχύει τις κοινωνικές μας αντιλήψεις για το φύλο, τις οποίες πρέπει να εξετάζουμε κριτικά.

Η ανάγκη για διαφορετικότητα και συμπερίληψη στον σχεδιασμό της τεχνητής νοημοσύνης

Είναι ζωτικής σημασίας τόσο οι ερευνητές, όσο και οι σχεδιαστές τεχνητής νοημοσύνης να λαμβάνουν υπόψη τη διαφορετικότητα των χρηστών και να αποφεύγουν τη δημιουργία προϊόντων που διαιωνίζουν στερεότυπα. Η συμπερίληψη ατόμων από διαφορετικά φύλα, εθνικότητες και κοινωνικές ομάδες στη διαδικασία σχεδιασμού είναι απαραίτητη για τη δημιουργία πιο δίκαιων και αποτελεσματικών τεχνολογιών.

Στέλιος Θεοδωρίδης
Στέλιος Θεοδωρίδης
Ο ήρωας μου είναι ο γάτος μου ο Τσάρλι και ακροάζομαι μόνο Psychedelic Trance
RELATED ARTICLES

Πρόσφατα άρθρα

Tηλέφωνα έκτακτης ανάγκης

Δίωξη Ηλεκτρονικού Εγκλήματος: 11188
Ελληνική Αστυνομία: 100
Χαμόγελο του Παιδιού: 210 3306140
Πυροσβεστική Υπηρεσία: 199
ΕΚΑΒ 166