Deepfakes και Ψηφιακή Εγκληματολογία: Πώς ανιχνεύεται το συνθετικό περιεχόμενο

Η ανάπτυξη των τεχνολογιών τεχνητής νοημοσύνης έχει μεταβάλει σημαντικά τον τρόπο με τον οποίο παράγεται και διακινείται το ψηφιακό περιεχόμενο. Εικόνες, βίντεο και ηχητικά αρχεία μπορούν πλέον να δημιουργηθούν ή να τροποποιηθούν με εξαιρετικά ρεαλιστικό τρόπο, ακόμη και από άτομα χωρίς ιδιαίτερη τεχνική εξειδίκευση. Στο πλαίσιο αυτό, τα λεγόμενα deepfakes και γενικότερα τα synthetic media αποτελούν ένα ταχέως αναπτυσσόμενο πεδίο ανησυχίας για τη νομική και εγκληματολογική κοινότητα.

Ο όρος “deepfake” χρησιμοποιείται για να περιγράψει οπτικοακουστικό υλικό το οποίο έχει δημιουργηθεί ή αλλοιωθεί μέσω αλγορίθμων τεχνητής νοημοσύνης, κυρίως με χρήση τεχνικών βαθιάς μάθησης. Η τεχνολογία αυτή μπορεί να χρησιμοποιηθεί για την αντικατάσταση προσώπων σε βίντεο, τη σύνθεση φωνής, την αλλοίωση εκφράσεων ή ακόμη και για τη δημιουργία πλήρως συνθετικών εικόνων και βίντεο που εμφανίζονται ως αυθεντικά (Mirsky & Lee, 2021).

Επιπτώσεις στις νομικές και ερευνητικές διαδικασίες

Παρότι η δημόσια συζήτηση γύρω από τα deepfakes επικεντρώνεται συχνά στην παραπληροφόρηση ή στη χρήση τους στα μέσα κοινωνικής δικτύωσης, οι επιπτώσεις τους εκτείνονται σημαντικά και στο πεδίο των νομικών διαδικασιών και των ποινικών ερευνών. Synthetic media έχουν συνδεθεί με υποθέσεις εκβιασμού, οικονομικής απάτης, πλαστοπροσωπίας, ψευδών καταγγελιών και διακίνησης παραποιημένου αποδεικτικού υλικού (Chesney & Citron, 2019). Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι ένα βίντεο ή ένα ηχητικό αρχείο δεν μπορεί πλέον να θεωρείται αυτομάτως αξιόπιστο αποκλειστικά και μόνο επειδή φαίνεται αληθοφανές.

Παράλληλα, η διάδοση των deepfakes δημιουργεί και ένα επιπλέον πρόβλημα: την ευκολότερη αμφισβήτηση αυθεντικών αποδεικτικών στοιχείων. Στη διεθνή βιβλιογραφία το φαινόμενο αυτό έχει περιγραφεί ως “liar’s dividend”, δηλαδή η δυνατότητα ενός ατόμου να αρνηθεί τη γνησιότητα πραγματικού υλικού, επικαλούμενο ότι πρόκειται για προϊόν τεχνητής νοημοσύνης (Chesney & Citron, 2019). Κατά συνέπεια, το πρόβλημα δεν περιορίζεται μόνο στην παραγωγή ψευδούς υλικού, αλλά επηρεάζει συνολικά την αξιοπιστία των ψηφιακών αποδεικτικών μέσων.

Πώς εξετάζεται ένα πιθανό deepfake;

Η διερεύνηση πιθανών deepfakes εντάσσεται στο πεδίο της ψηφιακής και πολυμεσικής εγκληματολογίας. Η αξιολόγηση ενός ύποπτου αρχείου δεν βασίζεται σε μία μόνο ένδειξη, αλλά σε συνδυαστική ανάλυση πολλαπλών τεχνικών χαρακτηριστικών. Εξετάζονται, μεταξύ άλλων, ασυνέπειες στον φωτισμό, στις σκιές, στις αντανακλάσεις και στις μικροκινήσεις του προσώπου, καθώς και πιθανές αλλοιώσεις μεταξύ διαδοχικών καρέ του βίντεο (Verdoliva, 2020).

Ιδιαίτερη σημασία έχει επίσης η ανάλυση των τεχνικών χαρακτηριστικών συμπίεσης και κωδικοποίησης ενός αρχείου. Διαφοροποιήσεις στη δομή των καρέ, ίχνη επανακωδικοποίησης ή ασυνέπειες στον τρόπο αποθήκευσης των δεδομένων ενδέχεται να υποδηλώνουν επεξεργασία ή τεχνητή παραγωγή υλικού.

Παράλληλα, τα μεταδεδομένα ενός αρχείου μπορούν να προσφέρουν πληροφορίες σχετικά με το λογισμικό που χρησιμοποιήθηκε, τη χρονική ακολουθία επεξεργασίας ή πιθανές μετατροπές του αρχείου. Ωστόσο, η απουσία μεταδεδομένων δεν αποτελεί από μόνη της απόδειξη αλλοίωσης, καθώς πολλές πλατφόρμες κοινωνικής δικτύωσης αφαιρούν αυτόματα τέτοιες πληροφορίες κατά τη μεταφόρτωση περιεχομένου.

Ο ρόλος της ηχητικής και ψηφιακής εγκληματολογίας

Σημαντικό ρόλο διαδραματίζει και η ηχητική εγκληματολογία. Σε περιπτώσεις συνθετικής φωνής ή αλλοιωμένου ήχου εξετάζονται χαρακτηριστικά όπως η φυσικότητα της ροής της ομιλίας, οι ανωμαλίες στις συχνότητες και ο συγχρονισμός μεταξύ εικόνας και ήχου.

Επιπλέον, σύγχρονες τεχνικές ανίχνευσης επιχειρούν να εντοπίσουν ψηφιακά «ίχνη» που αφήνουν τα μοντέλα τεχνητής νοημοσύνης κατά την παραγωγή περιεχομένου, όπως συγκεκριμένες στατιστικές ασυνέπειες στην εικόνα ή μοτίβα που σχετίζονται με αλγορίθμους δημιουργίας συνθετικών δεδομένων (Mirsky & Lee, 2021).

Τα όρια της ανίχνευσης και οι συχνές παρανοήσεις

Παρά την πρόοδο των τεχνικών ανίχνευσης, είναι σημαντικό να αποφεύγονται οι υπεραπλουστεύσεις. Συχνά προβάλλεται η άποψη ότι τα deepfakes μπορούν να αναγνωριστούν εύκολα από ορισμένα εμφανή χαρακτηριστικά, όπως τα μάτια ή οι εκφράσεις του προσώπου. Ωστόσο, τα σύγχρονα συστήματα τεχνητής νοημοσύνης έχουν βελτιωθεί σημαντικά και πολλά από τα παλαιότερα «σημάδια» αλλοίωσης δεν θεωρούνται πλέον αξιόπιστοι δείκτες.

Από την άλλη πλευρά, εξίσου προβληματική είναι και η αντίληψη ότι πλέον δεν μπορεί να επαληθευτεί κανένα ψηφιακό αποδεικτικό στοιχείο. Η εγκληματολογική αξιολόγηση εξακολουθεί να παρέχει ουσιαστικές πληροφορίες σχετικά με την αξιοπιστία ενός αρχείου, ιδιαίτερα όταν συνδυάζεται με έλεγχο προέλευσης, εξέταση συσκευών και συνολική διερευνητική αξιολόγηση των δεδομένων.

Η ανάγκη για ψηφιακή εγκληματολογική ετοιμότητα

Καθώς οι τεχνολογίες παραγωγής synthetic media εξελίσσονται με ταχύ ρυθμό, η ανάγκη για εξειδικευμένη ψηφιακή εγκληματολογική ανάλυση αναμένεται να αυξηθεί σημαντικά τα επόμενα χρόνια. Νομικοί επαγγελματίες, πραγματογνώμονες και διωκτικές αρχές καλούνται πλέον να λειτουργήσουν σε ένα περιβάλλον όπου η αξιολόγηση της αυθεντικότητας ψηφιακού υλικού αποτελεί κρίσιμο μέρος της ερευνητικής και αποδεικτικής διαδικασίας.

Βιβλιογραφία

Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.

Mirsky, Y., & Lee, W. (2021). The creation and detection of deepfakes: A survey. ACM Computing Surveys, 54(1), 1–41. https://doi.org/10.1145/3425780

Verdoliva, L. (2020). Media forensics and deepfakes: An overview. IEEE Journal of Selected Topics in Signal Processing, 14(5), 910–932. https://doi.org/10.1109/JSTSP.2020.3002101