Η Google ανακοίνωσε ότι θα αρχίσει να επισημαίνει τις εικόνες που δημιουργούνται ή επεξεργάζονται με τεχνητή νοημοσύνη (AI) στα αποτελέσματα αναζήτησής της. Η αλλαγή αυτή, που θα εφαρμοστεί τους επόμενους μήνες, έχει στόχο να βοηθήσει τους χρήστες να αναγνωρίζουν το περιεχόμενο που παράγεται από AI, διευκολύνοντας την αναζήτηση και αποκαθιστώντας την εμπιστοσύνη στα αποτελέσματα.
Η Google θα χρησιμοποιήσει το εργαλείο “Σχετικά με αυτήν την εικόνα”, το οποίο θα είναι διαθέσιμο στις λειτουργίες Αναζήτηση, Google Lens και Circle to Search του Android. Η ίδια τεχνολογία θα ενσωματωθεί και στις διαφημιστικές υπηρεσίες της εταιρείας, ενώ εξετάζεται η επέκτασή της και στα βίντεο του YouTube. Περισσότερες πληροφορίες γι’ αυτό θα ανακοινωθούν αργότερα μέσα στο έτος.
Για την επισημοποίηση των εικόνων που δημιουργούνται από AI, η Google θα χρησιμοποιεί τα μεταδεδομένα του Coalition for Content Provenance and Authenticity (C2PA), μιας βιομηχανικής ομάδας που συνεργάζεται για την προστασία της ψηφιακής αυθεντικότητας. Τα μεταδεδομένα αυτά θα καταγράφουν πότε, πού και πώς δημιουργήθηκε μια εικόνα, καθώς και το λογισμικό και τον εξοπλισμό που χρησιμοποιήθηκαν. Η Google εντάχθηκε στην C2PA ως μέλος της διευθύνουσας επιτροπής νωρίτερα φέτος.
Παρά την υποστήριξη από μεγάλες εταιρείες όπως οι Amazon, Microsoft, OpenAI και Adobe, το πρότυπο C2PA δεν έχει ακόμα ευρεία υιοθέτηση από κατασκευαστές εξοπλισμού. Σήμερα, μόνο λίγα μοντέλα φωτογραφικών μηχανών από τις εταιρείες Sony και Leica το υποστηρίζουν, ενώ μερικοί προγραμματιστές εργαλείων AI, όπως τα Black Forrest Labs, έχουν αρνηθεί να το υιοθετήσουν.
Παράλληλα, η άνοδος των deepfakes που δημιουργούνται από AI έχει προκαλέσει ανησυχία. Οι διαδικτυακές απάτες που χρησιμοποιούν τέτοιες τεχνολογίες έχουν αυξηθεί σημαντικά τα τελευταία δύο χρόνια. Ένα χαρακτηριστικό παράδειγμα ήταν τον Φεβρουάριο, όταν ένας χρηματοδότης από το Χονγκ Κονγκ έχασε 25 εκατομμύρια δολάρια, πιστεύοντας ότι επικοινωνούσε με τον CFO της εταιρείας του μέσω τηλεδιάσκεψης.
Σύμφωνα με μελέτη της Sumsub, οι απάτες με τη χρήση deepfakes αυξήθηκαν κατά 245% παγκοσμίως από το 2023 έως το 2024, με την αύξηση να φτάνει το 303% στις ΗΠΑ.
Ο David Fairman, υπεύθυνος ασφαλείας της Netskope, δήλωσε στο CNBC ότι «η εύκολη πρόσβαση σε αυτές τις υπηρεσίες έχει μειώσει τα εμπόδια για τους εγκληματίες του κυβερνοχώρου», τονίζοντας ότι πλέον δεν απαιτείται εξειδικευμένη τεχνογνωσία για τη δημιουργία ψηφιακών απατών.
