Νέο νομοσχέδιο των ΗΠΑ θα αναγκάσει τις εταιρείες να ελέγξουν τους αλγορίθμους τους για προκατάληψη

Νέο νομοσχέδιο των ΗΠΑ θα αναγκάσει τις εταιρείες να ελέγξουν τους αλγορίθμους τους για προκατάληψη

Οι νομοθέτες των ΗΠΑ έχουν εισαγάγει ένα νέο νομοσχέδιο το οποίο θα τεθεί προς ψήφιση τις επόμενες ημέρες και αν τελικά εγκριθεί θα απαιτεί από τις μεγάλες εταιρείες να ελέγχουν τα συστήματα που βασίζονται στην μηχανική μάθηση, όπως οι αλγόριθμοι αναγνώρισης προσώπου και στόχευσης διαφημίσεων – με την προοπτική να μην προβαίνουν σε προκατάληψη έναντι ευαίσθητων κοινωνικών ομάδων όπως είναι οι μαύροι και οι φτωχοί άνθρωποι.

Ο νόμος περί αλγοριθμικής λογοδοσίας υποστηρίζεται από τους γερουσιαστές Cory Booker (D-NJ) και Ron Wyden (D-OR), και αν τελικά περάσει, θα ζητήσει από την Ομοσπονδιακή Επιτροπή Εμπορίου να δημιουργήσει κανόνες για την αξιολόγηση των αυτοματοποιημένων συστημάτων.

Έπειτα από τη μεριά τους οι εταιρείες θα είναι υποχρεωμένες να αξιολογήσουν αν οι αλγόριθμοι που τροφοδοτούν τα αυτοματοποιημένα συστήματα τους δεν κάνουν διακρίσεις μεταξύ των ανθρώπων, καθώς και ό,τι δεν θέτουν σε κίνδυνο την ιδιωτικότητα ή την ασφάλεια των καταναλωτών.

Ο νόμος περί αλγοριθμικής λογοδοσίας θα απευθύνεται σε μεγάλες εταιρείες που έχουν συνήθως πρόσβαση σε μεγάλες ποσότητες πληροφοριών και θα ισχύει για εταιρείες που κάνουν πάνω από 50 εκατομμύρια δολάρια τζίρο ετησίως, και κατέχουν πληροφορίες για τουλάχιστον 1 εκατομμύριο άτομα ή συσκευές, ακόμα και εάν ενεργούν κατά κύριο λόγο ως μεσίτες δεδομένων που αγοράζουν και πωλούν τα δεδομένα των καταναλωτών.

Αυτές οι εταιρείες θα πρέπει να αξιολογήσουν ένα ευρύ φάσμα αλγορίθμων – συμπεριλαμβανομένων οποιωνδήποτε επηρεάζει τα νόμιμα δικαιώματα των καταναλωτών, προσπαθεί να προβλέψει και να αναλύσει τη συμπεριφορά τους, όπως είθισται να συμβαίνει για παράδειγμα με τις κάμερες παρακολούθησης σε φυσικούς χώρους που συλλέγουν πληροφορίες από τους ανυποψίαστους ανθρώπους μέσω της αναγνώρισης προσώπου.

Εδώ οφείλω να επισημάνω το γεγονός πως το θέμα με την προκατάληψη των αλγορίθμων είναι αρκετά σοβαρό, προφανώς διότι όταν το σύστημα αναγνώρισης προσώπου λειτουργεί ως face control στα μαγαζιά και αποφασίζει αυτόματα ποια άτομα θα μπουν μέσα και ποια όχι, τότε γίνεται εύκολα αντιληπτό πως ενδέχεται κάποιοι άνθρωποι να αδικηθούν λόγω του χρώματος τους, γιατί δεν γουστάρουν τα αφεντικά την φάτσα τους.

Διαβάστε επίσης:

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

Παρακαλώ εισάγετε το σχόλιο σας!
Παρακαλώ εισάγετε το όνομά σας