Google Duplex: Όταν το ρομπότ προσομοιώνει την ανθρώπινη φωνή κατά 100%.
Την Τρίτη, η Google παρουσίασε τον φωνητικό βοηθό, ο οποίος πραγματοποιεί πειστικά τηλεφωνήματα για να κλείσει ραντεβού, και μάλιστα ακούγεται σαν να είναι πραγματικός άνθρωπος, τουλάχιστον αυτό φάνηκε κατά τη διάρκεια της επίδειξης του (έτσι για την ιστορία, η φωνή ήταν γυναικεία).
Ωστόσο ο πραγματικός άνθρωπος στο τμήμα εξυπηρέτησης πελατών που δέχτηκε την τηλεφωνική κλήση από το ρομπότ δεν φαινόταν να γνωρίζει ότι μιλούσε σε μια μηχανή. Αυτό θα μπορούσε να παρουσιάσει ακανθώδη ζητήματα για τη μελλοντική χρήση της τεχνητής νοημοσύνης AI.
Μεταξύ αυτών των πιθανών σοβαρών ζητημάτων, τίθεται το θέμα κατά πόσο είναι ηθικό και νόμιμο- να ξεγελάσουμε τους ανθρώπους, βάζοντας έναν φωνητικό βοηθό να κλείσει ραντεβού για εμάς, χωρίς να ξέρει ο συνομιλητής μας στην άλλη άκρη της γραμμής πως έχουμε βάλει κάποιο ρομπότ με σύστημα ΑΙ στη θέση μας για να το πράξει, το οποίο μάλιστα είναι τόσο πειστικό που προσομοιώνει την ανθρώπινη φωνή κατά 100%.
Και ενώ η επίδειξη της Google υπογράμμισε τις καλοήθεις χρήσεις των ρομπότ συνομιλίας, τι συμβαίνει όμως όταν οι spammers και οι απατεώνες, οι χάκερς ή οποιοσδήποτε άλλος επιτήδειος αποκτήσει αυτό το εργαλείο;
Ο διευθύνων σύμβουλος της Google, ο Sundar Pichai, παρουσίασε αυτήν την υποτιθέμενη ευχάριστη έκπληξη την Τρίτη, καθώς παρουσίασε τη νέα τεχνολογία, που ονομάζεται Google Duplex, κατά τη διάρκεια του ετήσιου συνεδρίου της εταιρείας για προγραμματιστές λογισμικού. Η φωνητικός βοηθός κατά τη διάρκεια της συνομιλίας πρόσθεσε παύσεις, με “ums” και “mmm-hmms” στην ομιλία της για να ακούγεται πιο ανθρώπινη, καθώς μιλούσε με πραγματικούς υπαλλήλους σε ένα κομμωτήριο και ένα εστιατόριο.
«Αυτό το νέο χαρακτηριστικό του φωνητικού βοηθού μοιάζει πολύ εντυπωσιακό, αλλά μπορεί να οδηγήσει σαφώς σε επικίνδυνες χρήσεις, κάνοντας κατάχρηση αυτού του τύπου την τεχνολογία», δήλωσε ο Matthew Fenech, ο οποίος ερευνά τις συνέπειες της τεχνητής νοημοσύνης AI για την οργάνωση Future Advocacy με έδρα το Λονδίνο.
Ο Fenech είπε ότι δεν είναι δύσκολο να φανταστούμε ποιες μπορεί να είναι οι κακές χρήσεις παρόμοιων chatbots, ενδεικτικά σας αναφέρω μερικές από αυτές, όπως οι επιχειρήσεις spamming, scamming seniors ή κακόβουλες κλήσεις χρησιμοποιώντας τις φωνές πολιτικών ή προσωπικών εχθρών.
Ο Pichai και άλλα στελέχη της Google προσπάθησαν να μας πείσουν ότι η συγκεκριμένη τεχνολογία είναι ακόμα πειραματική, και θα προωθηθεί πολύ προσεκτικά στο μέλλον, ούτως ώστε να αποφευχθούν πιθανές δυσλειτουργίες ή κακόβουλη χρήση. Επίσης τόνισαν ότι δεν είναι ακόμα διαθέσιμο για τις συσκευές των καταναλωτών.
«Είναι σημαντικό για εμάς, οι χρήστες και οι επιχειρήσεις να έχουν μια καλή εμπειρία με αυτή την υπηρεσία, οπότε η διαφάνεια είναι βασικό μέρος αυτού του πράγματος», ανέφεραν οι μηχανικοί της Google Yaniv Leviathan και Yossi Matias, οι οποίοι συνέβαλαν στο σχεδιασμό της νέας τεχνολογίας. «Θέλουμε να είμαστε σαφείς σχετικά με την πρόθεση της πρόσκλησης, ώστε οι επιχειρήσεις να κατανοήσουν σωστά το πλαίσιο αυτής της πτυχής. Θα πειραματιστούμε με τη σωστή προσέγγιση κατά τους προσεχείς μήνες».
Δεν είναι σαφές πώς η εταιρεία θα καταφέρει να μην παραβεί με το Google Duplex τους υφιστάμενους νόμους περί τηλεπικοινωνιών, οι οποίοι μπορεί να διαφέρουν ανάλογα με τη χώρα. Επιπλέον η Google απέφυγε με έξυπνο τρόπο να σχολιάσει με το πώς σκοπεύει να επιδιώξει να λάβει τη συγκατάθεση των ατόμων που καλούνται από τα ρομπότ της.
Ένας από τους συνιδιοκτήτες ενός κομμωτηρίου στη περιοχή του Bay Area του Σαν Φρανσίσκο υποστήριξε ότι: Φαίνεται σαν κάτι που θα ήταν χρήσιμο για τους πελάτες μας. Ωστόσο, αναρωτήθηκε εάν το κατάστημα θα ήταν σε θέση να μπλοκάρει αυτές τις κλήσεις και αναρωτήθηκε εάν υπάρχει πιθανότητα η συνομιλία να καταγράφεται και αν ναι, ο παραλήπτης αυτών των αυτοματοποιημένων κλήσεων μπορεί να γνωρίζει τι ακριβώς καταγράφεται από τη συζήτηση;.
Οι νόμοι κατά της υποκλοπής στην Καλιφόρνια και σε πολλές άλλες Πολιτείες των Ηνωμένων Πολιτειών Αμερικής έχουν ήδη καταστήσει παράνομη την καταγραφή τηλεφωνικών κλήσεων χωρίς τη συγκατάθεση τόσο του καλούντος, όσο και εκείνου που καλεί.
Η Ομοσπονδιακή Επιτροπή Επικοινωνιών των ΗΠΑ έχει επίσης έχει θεσπίσει σκληρούς κανονισμούς για τα robocalls, τις ανεπιθύμητες και τις αυτόματες κλήσεις που πραγματοποιούν οι πάροχοι τηλεπικοινωνιών προς τους πελάτες τους.
Τέτοιες κλήσεις είναι τυπικά προ-καταγεγραμμένοι μονόλογοι, αλλά οι περισσότερες επιχειρήσεις και οργανισμοί χρησιμοποιούν μηχανική μάθηση για να τελειοποιήσουν το σύστημά τους, και κατά συνέπεια τα ρομπότ να μπορούν να απαντήσουν στις ερωτήσεις ενός ατόμου σαν να επρόκειτο για μία φυσιολογική συνομιλία μεταξύ δύο ατόμων.
