Το AI ενισχύει τα στερεότυπα που οι φιλελεύθερες κοινωνίες προσπαθούν να απαλλαγούν

Το AI ενισχύει τα στερεότυπα που οι φιλελεύθερες κοινωνίες προσπαθούν να απαλλαγούν.

Σύμφωνα με το παλιό ρητό που λέει ότι η “γνώση είναι δύναμη”, οι εταιρείες πλέον επιδιώκουν να προσφέρουν όλο και πιο οικείες δυνατότητες για τους πελάτες τους ως έναν τρόπο να κερδίσουν πλεονέκτημα έναντι των ανταγωνιστών τους.

Η ανάπτυξη της Τεχνητής Νοημοσύνης (AI), οι αλγόριθμοι που χρησιμοποιούν τη μηχανική μάθηση για την ανάλυση μεγάλων πολύπλευρων συνόλων δεδομένων, αποτελεί έναν ιδιαίτερα ελκυστικό τρόπο για να γίνει αυτό αρτιότερα.

Ειδικότερα, η ταχεία εξέλιξη των δυνατοτήτων AI για τις διακρίσεις προτύπων και κατηγοριοποίηση, οι κορυφαίοι ερευνητές μπαίνουν συχνά στο τριπάκι να διερευνήσουν τις δυνατότητές της για όλο και πιο σύνθετα καθήκοντα, διότι προφανώς είναι η ουσία του θέματος.

Ετούτη η τεχνολογία δεν περιορίζεται πλέον στην απλή κατηγοριοποίηση των άμεσων ανιχνεύσιμων συμπεριφορών στο διαδίκτυο (για παράδειγμα”likes” συγκεκριμένων εμπορικών σημάτων) ή αντικειμένων εικόνας (γάτα εναντίον σκύλου).

Η τεχνητή νοημοσύνη (AI) αναπτύσσεται και προσπαθεί να συνάγει τέτοια προσωπικά χαρακτηριστικά όπως την προσωπικότητα, το φύλο και την ηλικία από τη χρήση της γλώσσας στα κοινωνικά μέσα ενημέρωσης και να χρησιμοποιεί ανάλυση εικόνας προσώπου για να προβλέψει την πιθανότητα κάποιος να διαπράξει έγκλημα ή να είναι τρομοκράτης ή παιδεραστής .

Πρόσφατα, μια ομάδα ερευνητών του Stanford χρησιμοποίησε το AI για να προβλέψει τον σεξουαλικό προσανατολισμό από τις εικόνες του προσώπου . Είναι σαφές ότι η ανάπτυξη τέτοιων μεθόδων για την εξαγωγή στενών λεπτομερειών σχετικά με τους ανθρώπους συνεπάγεται ισχυρές με επιπτώσεις στην ιδιωτική ζωή.

Μια δυνητικά ακόμα πιο προβληματική πτυχή αυτής της ώθησης προς την αλγοριθμική κατηγοριοποίηση των ανθρώπων είναι η συνοδευτική τάση απλοϊκής μείωσης. Για να εκπαιδεύσουμε τον AI να κατηγοριοποιήσουμε τους ανθρώπους, πρέπει να παρέχουμε διακριτικά καθορισμένες κατηγορίες στόχων και μεγάλα σύνολα ετικετών δεδομένων. Αυτό αναγκάζει έναν να μειώσει τους πολύπλοκους ανθρώπους σε ξεχωριστές κοινωνικο-ψυχολογικές τάξεις.

Ο μηχανισμός Gaydar αξιολογεί τον σεξουαλικό προσανατολισμό.

Η πρόσφατη μελέτη σχετικά με την ανίχνευση εάν ένα άτομο είναι ομοφυλόφιλος ή ετεροφυλόφιλος με βάση μια φωτογραφία είναι ένα σαφές παράδειγμα του πώς η επιλογή των κατηγοριών ετικετών επιβάλλει μια δυαδική άποψη της σεξουαλικότητας. Σκοπός της μελέτης ήταν να δείξει ότι τα πρόσωπα περιέχουν λεπτές πληροφορίες σχετικά με τον σεξουαλικό προσανατολισμό που μπορούν να αντιληφθούν και να ερμηνευτούν από βαθιά νευρωνικά δίκτυα (κατηγορία ΑΙ).

Για να αποκτήσουν τα μεγάλα σύνολα δεδομένων που απαιτούνται για αυτόν τον τύπο εκμάθησης μηχανών, συνέλεξαν 130.741 εικόνες προσώπου από δημόσια προφίλ που δημοσιεύθηκαν σε έναν ιστοχώρο των ΗΠΑ. Το σύνολο δεδομένων περιλάμβανε ίσους αριθμούς ομοφυλόφιλων και ετεροφυλόφιλων ατόμων, με γενετήσιο προσανατολισμό που καθορίστηκε με βάση το φύλο των συνεργατών που αναζητούσαν σύμφωνα με τα προφίλ τους.

Παρόλο που η χρήση ενός dating site είναι πιθανότατα ένας καλός δείκτης σεξουαλικού ενδιαφέροντος σε ένα άτομο, η χρήση αυτών των δεδομένων για την κατάρτιση ενός δυαδικού ταξινομητή έρχεται σε αντίθεση με την πραγματικότητα ενός ευρέος φάσματος ανθρώπινης σεξουαλικότητας , που κυμαίνεται από ασεξουαλικούς έως διάφορους βαθμούς αμφιφυλόφιλων.

Το πρόβλημα είναι ότι μόλις ένα αυτοματοποιημένο σύστημα δείξει ότι είναι ικανό να κάνει μια τέτοια ταξινόμηση αναγωγής με έναν υψηλό βαθμό αξιοπιστίας, γίνεται ένα εργαλείο που μπορεί εύκολα να εφαρμοστεί σε κλίμακα. Η κατηγοριοποίηση βάσει αυτού του απλοποιημένου κοινωνικο-ψυχολογικού χαρακτηριστικού γίνεται ένα ελκυστικό νέο στοιχείο που προστίθεται σε όλα τα είδη εξατομίκευσης των υπηρεσιών. Υπάρχει λοιπόν ένας πραγματικός κίνδυνος ότι μια τέτοια απλοποιημένη προοπτική των ανθρώπων θα εδραιωθεί περαιτέρω.

Το τμήμα συζήτησης του εγγράφου κατηγοριοποίησης ομοφυλόφιλων / ίσων προσώπων υποδηλώνει ότι οι ερευνητές γνωρίζουν τις μεγαλύτερες επιπτώσεις αυτού του είδους εργασίας. Φτάνουν στο σημείο να δηλώνουν ότι ένα από τα κινητήρια κίνητρα για την έρευνα ήταν να καταστήσουν τους υπεύθυνους χάραξης πολιτικής, το ευρύ κοινό και τις ομοφυλοφιλικές κοινότητες ενήμερους για τους κινδύνους που ενδέχεται να αντιμετωπίσουν ήδη “λόγω εργασίας που είναι δυνατό” που γίνεται κλειστά σε εταιρίες και κυβερνητικές οργανώσεις “.

Ανάκτηση ανατροφοδότησης

Δυστυχώς, παρά την κοινωνική αυτή ευαισθητοποίηση, η μεθοδολογία που ακολουθήθηκε ήταν η κοινή πρακτική που χρησιμοποιείται σε αυτόν τον τομέα της έρευνας, η οποία αντιμετωπίζει κάθε προσβάσιμου από το κοινό δεδομένων ως ένα παιχνίδι, ανεξαρτήτως του γεγονότος ότι τα υποκείμενα των δεδομένων δεν είχαν ποτέ την πρόθεση να χρησιμοποιηθούν για ετούτο το σκοπό.

Φυσικά, θα ήταν δύσκολο να επικοινωνήσουμε με τους ανθρώπους των οποίων οι εικόνες χρησιμοποιήθηκαν. Αλλά τουλάχιστον οι εκπρόσωποι της ομοφυλοφιλικής κοινότητας θα έπρεπε κάποιο δικηγορικό γραφείο για να τους συμβουλεύσει.

Προκειμένου να εκφράσουν πραγματικά τις ανησυχίες τους σχετικά με τον αντίκτυπο αυτού του είδους έρευνας στα δικαιώματα των λαών, οι ερευνητές θα έπρεπε να έχουν επιτρέψει στην πληγείσα κοινότητα, στην προκειμένη περίπτωση ΛΟΑΤ, να εκφράσουν άμεσα τις απόψεις τους ως μέρος του τμήματος συζήτησης του εγγράφου.

Αυτό θα είχε αλλάξει τον τρόπο με τον οποίο η έρευνα δημοσιεύει στοιχεία στα μέσα μαζικής ενημέρωσης και τον τρόπο με τον οποίο λαμβάνεται από την πληγείσα κοινότητα. Αυτή η άμεση εμπλοκή των ενδιαφερομένων είναι μία από τις βασικές αρχές της υπεύθυνης έρευνας και καινοτομίας , η οποία αποσκοπεί στη διασφάλιση της βιωσιμότητας, της αποδοχής και της επιθυμητότητας των ερευνητικών διαδικασιών και των αποτελεσμάτων.

Προκειμένου να αντιμετωπιστούν τα θέματα της μη ελεγχόμενης χρήσης του AI για εταιρικό κέρδος, είναι σημαντικό να προωθηθεί μια κουλτούρα ευρείας δέσμευσης και δεοντολογίας των ενδιαφερομένων μερών στην κοινότητα έρευνας και ανάπτυξης του AI.

Τα καλά νέα είναι ότι αυτό είναι ήδη σε εξέλιξη, με δεοντολογικές κατευθυντήριες γραμμές , πρωτοβουλίες και την ανάπτυξη προτύπων που βασίζονται στη δεοντολογία και έχουν ως στόχο να παράσχουν ένα μέσο για την πιστοποίηση της ηθικής χρήσης της ΑΠ, παρόμοια με τα πρότυπα ασφάλειας των τροφίμων.

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

Παρακαλώ εισάγετε το σχόλιο σας!
Παρακαλώ εισάγετε το όνομά σας