Η Νέα Υόρκη δημιούργησε μία ομάδα που θα εντοπίζει παραβιάσεις στους αλγόριθμους.
Ο δήμαρχος της Νέας Υόρκης, Bill De Blasio, ανακοίνωσε σήμερα μια ομάδα που θα εξετάσει διάφορα δημόσια συστήματα της πόλης που χρησιμοποιούν αλγόριθμους για τη λήψη αποφάσεων. Το γραφείο του δημάρχου τον χαρακτήρισε «το πρώτο του είδους του στις ΗΠΑ» και είπε ότι αυτή η εξειδικευμένη ομάδα θα δημοσιεύσει μία έκθεση επί του θέματος τον Δεκέμβριο του 2019.
Συγκεκριμένα, η νέα ομάδα θα εξετάσει τους αλγόριθμους μηχανικής μάθησης που χρησιμοποιούνται από την αστυνομική υπηρεσία της Νέας Υόρκης, το τμήμα μεταφορών, το τμήμα ποινικής δικαιοσύνης του δημάρχου, τη διοίκηση παιδικών υπηρεσιών, το τμήμα εκπαίδευσης και το τμήμα κοινωνικών υπηρεσιών.
Η παρούσα ομάδα θα αναπτύξει μια διαδικασία για να καθορίσει εάν τα αυτοματοποιημένα συστήματα είναι «δίκαια», και «υπεύθυνα». Θα προσδιορίσει επίσης τρόπους με τους οποίους η λήψη αποφάσεων των αλγορίθμων μπορεί να γίνουν πιο διαφανής.
Η δημιουργία της επιχειρησιακής μονάδας είναι υποχρεωτική από το νόμο του Συμβουλίου του Δήμου που ψηφίστηκε το 2017, και αναμφισβήτητα αποτελεί μέρος των ευρύτερων προσπαθειών του Συμβουλίου να μελετήσει πώς τα συστήματα τεχνητής νοημοσύνης AI δεν θα προβαίνουν σε διακρίσεις εις βάρος των ανθρώπων με βάση τη φυλή, το φύλο, τον σεξουαλικό προσανατολισμό, τις αναπηρίες, τις ιδιαιτερότητες και άλλα πολλά.
«Δεδομένου ότι η τεχνολογία και τα δεδομένα γίνονται κύριο μέρος των καθημερινών εργασιών για τη διαχείριση της πόλης, οι αλγόριθμοι που χρησιμοποιούμε για να βοηθήσουμε τη λήψη αποφάσεων πρέπει να ευθυγραμμιστούν με τους στόχους και τις αξίες μας» δήλωσε ο δήμαρχος de Blasio. «Η ίδρυση της Task Force Automated Decision Systems είναι ένα σημαντικό πρώτο βήμα για μεγαλύτερη διαφάνεια και ισότητα στη χρήση της τεχνολογίας μας».
Η ειδική ομάδα θα προεδρεύεται από την Emily Newman, ενεργό διευθυντή της Υπηρεσίας Δραστηριοτήτων του Δημάρχου, και την Brittny Saunders, αναπληρωτή επίτροπο στρατηγικών πρωτοβουλιών στην Επιτροπή Ανθρωπίνων Δικαιωμάτων της Νέας Υόρκης.
