Ερευνητές ανέπτυξαν AI για να ξεγελάσουν το σύστημα αναγνώρισης προσώπου.
Μια ομάδα μηχανικών ερευνητών από το Πανεπιστήμιο του Τορόντο έχει δημιουργήσει έναν αλγόριθμο για το δυναμικό αποπροσανατολισμό των συστημάτων αναγνώρισης προσώπου.
Με επικεφαλής τον καθηγητή Parham Aarabi και τον μεταπτυχιακό φοιτητή Avishek Bose, η ομάδα χρησιμοποίησε μια τεχνική από την βαθιά μάθηση που ονομάζεται “adversarial training”, η οποία συνδυάζει και χρησιμοποιεί ταυτόχρονα και τους αλγόριθμους από την τεχνητή νοημοσύνη.
Ο Aarabi και ο Bose σχεδίασαν ένα σύνολο από δύο νευρωνικά δίκτυα για το συγκεκριμένο σκοπό, το πρώτο προσδιορίζει τα πρόσωπα και το άλλο διαταράσσει την ισορροπία, και κατά συνέπεια τον αποπροσανατολισμό της αναγνώρισης προσώπου από το πρώτο.
Ουσιαστικά τα δύο νευρωνικά δίκτυα είναι αλληλοεξαρτώμενα και συνεχώς μαθαίνουν το ένα από το άλλο, δημιουργώντας μια συνεχιζόμενη βάση δεδομένων με χρήσιμα στοιχεία που εξυπηρετούν αυτό το σκοπό.
«Το σύστημα αποδιοργάνωσης βασισμένο στο AI μπορεί να επιτεθεί σε ένα νευρικό δίκτυο για να αποπροσανατολίσει την τεχνολογία ανίχνευσης και αναγνώρισης προσώπου», δήλωσε ο Bose σε συνέντευξή του στο Eureka Alert.
Για παράδειγμα, όταν η ανίχνευση προσώπου μέσω του AI προσπαθεί να σαρώσει τις γωνίες των ματιών, το επιθετικό σύστημα τις προσαρμόζει με τέτοιο δυναμικό τρόπο τις φωτογραφίες που λιγότερο αισθητές και κατανοητές για την παρούσα τεχνολογία. Στην πραγματικότητα δημιουργεί πολύ λεπτές διαταραχές στη φωτογραφία, αλλά για το ανιχνευτή, είναι αρκετά σημαντικές ούτως ώστε να το ξεγελάσει.
Το αποτέλεσμα μοιάζει με ένα φίλτρο του Instagram που μπορεί να εφαρμοστεί σε φωτογραφίες για την προστασία της ιδιωτικής ζωής. Ο αλγόριθμος στοχεύει σε πολύ συγκεκριμένα εικονοστοιχεία στην εικόνα, κάνοντας λεπτές αλλαγές που είναι σχεδόν ανεπαίσθητες στο ανθρώπινο μάτι.
O Bose πρόσθεσε: «Το κλειδί εδώ ήταν να εκπαιδεύσουμε τα δύο νευρικά δίκτυα ενάντια στο άλλο, με το ένα να δημιουργεί ένα όλο και πιο ισχυρό σύστημα ανίχνευσης προσώπου και το άλλο να δημιουργεί ένα ισχυρότερο εργαλείο για την απενεργοποίηση της ανίχνευσης προσώπου».
Οι ανησυχίες σχετικά με την ιδιωτικότητα και την ασφάλεια των δεδομένων είναι υψηλές γενικά από το ευρύ κοινό, oπότε το συγκεκριμένο σύστημα θα μπορέσει να δώσει μία λύση στην προστασία των χρηστών στο διαδίκτυο, aκόμη και στην πραγματική ζωή στον έξω κόσμο.
