Η μεγαλύτερη απειλή των deepfakes δεν είναι μόνο η παραπληροφόρηση, αλλά η σταδιακή κατάρρευση της ίδιας της εμπιστοσύνης στην ίδια την πραγματικότητα. Αυτό είναι το βασικό συμπέρασμα της Ruth Azar-Knupffer, συνιδρύτριας της VerifyLabs.AI, η οποία προειδοποιεί ότι η κοινωνία βρίσκεται ήδη μέσα σε μια κρίση αυθεντικότητας χωρίς ακόμη να το έχει αντιληφθεί πλήρως.
Στην ανάλυσή της, η Azar-Knupffer υποστηρίζει ότι οι περισσότεροι άνθρωποι συνεχίζουν να λειτουργούν κανονικά μέσα σε ένα ψηφιακό περιβάλλον όπου εικόνες, βίντεο και φωνές μπορούν πλέον να παραχθούν τεχνητά με τρομακτική ακρίβεια. Όπως σημειώνει, η κοινωνία δεν έχει ακόμη συνειδητοποιήσει πόσο γρήγορα η τεχνητή νοημοσύνη υπονομεύει τους ίδιους τους μηχανισμούς εμπιστοσύνης πάνω στους οποίους βασίζονται οι ανθρώπινες σχέσεις, οι συναλλαγές και η ενημέρωση.
Η Azar-Knupffer παρομοιάζει την κατάσταση με τον Τιτανικό. Ακόμη και μετά τη σύγκρουση με το παγόβουνο, πολλοί επιβάτες συνέχισαν να συμπεριφέρονται σαν να μη συμβαίνει τίποτα, επειδή πίστευαν ότι το πλοίο ήταν αβύθιστο.
Κατά την ίδια λογική, η κοινωνία συνεχίζει να εμπιστεύεται όσα βλέπει ή ακούει στο διαδίκτυο, παρότι η τεχνολογία παραγωγής ψεύτικου οπτικοακουστικού υλικού έχει εξελιχθεί δραματικά. Σύμφωνα με την ίδια, τα σύγχρονα deepfakes είναι ποιοτικά πολύ πιο προηγμένα ακόμη και σε σχέση με πριν από λίγους μήνες, ενώ οι δυνατότητες ανίχνευσής τους δυσκολεύονται να ακολουθήσουν τον ρυθμό εξέλιξης.
Η ίδια τονίζει ότι οι πολίτες δεν μπορούν να μετατραπούν ξαφνικά σε ειδικούς ψηφιακής εγκληματολογίας, με αποτέλεσμα να δημιουργείται ένα τεράστιο κενό προστασίας για άτομα, επιχειρήσεις και οργανισμούς.
Ως χαρακτηριστικό παράδειγμα αναφέρει υπόθεση στο Χονγκ Κονγκ στις αρχές του 2024, όταν εργαζόμενος σε οικονομικό τμήμα μετέφερε 25 εκατ. δολάρια σε απατεώνες, αφού συμμετείχε σε βιντεοκλήση όπου εμφανίζονταν, μέσω deepfake. ο οικονομικός διευθυντής της εταιρείας και συνάδελφοί του.
Κανείς δεν αμφισβήτησε αυτό που έβλεπε στην οθόνη.
Η Azar-Knupffer επισημαίνει ότι τα εξελιγμένα συνθετικά βίντεο μπορούν πλέον να είναι ακόμη πιο πειστικά από την ίδια την πραγματικότητα, επειδή δεν περιέχουν τα «λάθη», τον θόρυβο ή τις ατέλειες που συχνά χαρακτηρίζουν ένα αυθεντικό βίντεο.
Η συνιδρύτρια της VerifyLabs.AI συνδέει την εξάπλωση των deepfakes με το «doublethink» του George Orwell στο βιβλίο 1984: την ταυτόχρονη αποδοχή δύο αντιφατικών πραγματικοτήτων.
Όπως αναφέρει, οι άνθρωποι σήμερα θέλουν και χρειάζονται να πιστεύουν ότι αυτό που βλέπουν είναι αληθινό, ενώ ταυτόχρονα γνωρίζουν ότι πιθανότατα μπορεί να είναι ψεύτικο. Αυτή η διαρκής γνωστική σύγκρουση, όπως σημειώνει, διαβρώνει το κοινωνικό συμβόλαιο εμπιστοσύνης.
Κατά την ίδια, ακόμη και τα αυταρχικά καθεστώτα του 20ού αιώνα δεν μπορούσαν να αφαιρέσουν από τον άνθρωπο την προσωπική του αντίληψη για την πραγματικότητα. Η τεχνητή νοημοσύνη, όμως, καταφέρνει κάτι διαφορετικό: να δημιουργεί αμφιβολία ακόμη και για όσα βλέπουμε με τα ίδια μας τα μάτια.
Η Azar-Knupffer υποστηρίζει ότι τα εργαλεία ανίχνευσης συνθετικού περιεχομένου δεν αποτελούν πλέον προαιρετική επιλογή, αλλά βασική προϋπόθεση λειτουργίας για οργανισμούς και επιχειρήσεις.
Ωστόσο, ξεκαθαρίζει ότι η τεχνολογία από μόνη της δεν αρκεί. Όπως σημειώνει, τα συστήματα ανίχνευσης πρέπει να λειτουργούν ως υποστήριξη της ανθρώπινης κρίσης και όχι ως «μαύρα κουτιά» που απαιτούν τυφλή εμπιστοσύνη.
Η ίδια δίνει ιδιαίτερη έμφαση στη διαφάνεια και στην επεξήγηση των αποτελεσμάτων, ώστε οι χρήστες να αναπτύσσουν υγιή σκεπτικισμό αντί για απόλυτη δυσπιστία απέναντι σε κάθε πληροφορία.
Σύμφωνα με την Azar-Knupffer, η ψηφιακή παιδεία πρέπει πλέον να επαναπροσδιοριστεί. Η ικανότητα επαλήθευσης της αυθεντικότητας περιεχομένου δεν αφορά πια μόνο ειδικούς, αλλά κάθε χρήστη του διαδικτύου.
Όπως αναφέρει, η επαλήθευση πρέπει να μετατραπεί από περιστασιακή διαδικασία σε καθημερινή συνήθεια. Εφόσον τα εργαλεία γίνουν εύχρηστα και ευρέως διαθέσιμα, οι πολίτες θα μπορούν να ελέγχουν οι ίδιοι τις πληροφορίες αντί να εξαρτώνται αποκλειστικά από πλατφόρμες ή θεσμούς.
Η Azar-Knupffer καταλήγει ότι η αντιμετώπιση της απειλής απαιτεί άμεση νομοθετική δράση, αυστηρότερο πλαίσιο για τις εταιρείες που συμβάλλουν στην ανεξέλεγκτη εξάπλωση deepfakes και συλλογική ευθύνη από κυβερνήσεις, πλατφόρμες, οργανισμούς και πολίτες.
Όπως υπογραμμίζει, η εμπιστοσύνη δεν πρόκειται να αποκατασταθεί από μόνη της. Χρειάζεται συνειδητή επένδυση σε τεχνολογικά εργαλεία, εκπαίδευση και μηχανισμούς προστασίας που θα επιτρέψουν στους ανθρώπους να ξεχωρίζουν ξανά τι είναι αληθινό και τι όχι.
Περισσότερες ειδήσεις
Love at first… bot — Όταν το AI δημιουργεί τον ιδανικό (ψεύτικο) σύντροφο
Το 68% των σύγχρονων passwords «σπάει» μέσα σε μία ημέρα — Το δικό σας;
