Γιάννης Δημητρέλλος
Καλωσήρθατε στο 2022, μια εποχή που ακόμα και οι εκφράσεις του προσώπου σου μπορούν να κλαπούν και να μετατραπούν σε κάτι που δεν μπορείς να διανοηθείς και η κάμερα ενός smartphone δυνητικά μπορεί να χρησιμοποιηθεί ως «όπλο».
Το Σεπτέμβριο του 2021, το Τechnology Review σε άρθρο του ανέφερε πως υπήρχε μια εφαρμογή τεχνητής νοημοσύνης που με ένα κλικ μπορούσε να «κοπιάρει» το πρόσωπο μιας γυναίκας και να το εντάξει μέσα στο βίντεο μιας ταινίας πορνό. Σύμφωνα με το σχετικό ρεπορτάζ, η εφαρμογή είχε ένα πανεύκολο interface, όπου μπορούσες να ανεβάσεις φωτογραφία, να κάνεις δοκιμές, να δημιουργήσεις τη δική σου «σύνθεση» μέσα σε αισθησιακή ταινία και άλλα. Το συγκεκριμένο app δεν κατονομάστηκε και δεν αναφέρθηκε σχετικό link, ενώ φαίνεται πως μετά τη δημοσίευση του άρθρου, κατέβηκε από την υπηρεσία hosting που το είχε online. Αυτή ήταν μόνο η κορυφή του παγόβουνου.
Κατ’ αρχήν, τι είναι το deepfake;
Σε συγκεκριμένες περιπτώσεις, μπορεί να έχει πλάκα! Βλέπεις το πρόσωπο του Mr Bean στο σώμα του Hannibal Lecter ή αυτό του Sylvester Stallone μέσα από μια ‘μαγική’ A.I επεξεργασία, να ‘κουμπώνει’ ιδανικά στο σώμα του Macaulay Culkin.
Κάπου εδώ τελειώνει το τρολ χιούμορ
Σύμφωνα με την εταιρεία ερευνών, Sensity AI, περίπου το 95% των deepfake εικόνων που δημιουργούνται καθημερινά, έχουν χαρακτήρα εκδικητικής πορνογραφίας και το 90% αυτών αφορούν γυναίκες. Οι σελέμπριτι γυναίκες μέχρι στιγμής, ήταν οι πρώτες παθούσες. Αμέτρητες επώνυμες ηθοποιοί έχουν δει τα πρόσωπα τους σε βίντεο σκληρής πορνογραφίας, σε sites με ονομασίες όπως XVideos και το XnXX, εκεί όπου μαζεύουν καθημερινά εκατοντάδες χιλιάδες views. Όπως περιγράφει και η ίδια η Kristen Bell σε video του Vox, για το deepfake έμαθε ξαφνικά, μέσα από έναν φίλο του συντρόφου της, ηθοποιού Dax Sheppard, ο οποίος τον ειδοποίησε πως “κυκλοφορεί ένα video με το πρόσωπο της γυναίκας σου, ένα video σκληρού πορνό.
The most urgent threat of deepfakes isn’t politics
The real threat of deepfakes, explained with Kristen Bell.Join the Open Sourced Reporting Network: http://www.vox.com/opensourcednetworkActress Kristen Bell …
Πώς συμβαίνει κάτι τέτοιο
Όλα ξεκινούν από ένα εργαλείο που κυκλοφορεί ως desktop εφαρμογή, δίνει – μέχρι και σήμερα – τη δυνατότητα στο χρήστη να ξεγυμνώσει μια οποιαδήποτε φωτογραφία ενός ατόμου. Λέγεται Deepnude και παραμένει διαθέσιμο μέχρι σήμερα, με ένα απλό Google search.
Οι εφαρμογές
Κυκλοφορούν σε περιβάλλον Windows/Mac και δίνουν την – οριακά νόμιμη – δυνατότητα στο χρήστη να πειραματιστεί με απλούς αλγορίθμους τεχνητής νοημοσύνης πάνω σε πρόσωπα.
Jiggy – Εφαρμογή που σου δίνει τη δυνατότητα να βάλεις ένα random πρόσωπο μέσα σε gif. Το ίδιο ακριβώς προσφέρει και το Reface.
Deepface Lab – Εκπαιδευτική εφαρμογή σε περιβάλλον Windows που μαθαίνει στο χρήστη πώς να δημιουργεί παραλλαγές έκφρασης προσώπου τύπου Deepfake. Η εφαρμογή προορίζεται για μαθητές και ερευνητες, παρ’ όλα αυτά μπορεί να λειτουργήσει ως tutorial για τον οποιονδήποτε θέλει να μάθει να δημιουργεί ένα Deepfake video.
My Heritage – Faceapp: Εφαρμογές όπου μπορείς να φορτώσεις μια εικόνα προσώπου και να της δώσεις animated κίνηση, χαμόγελο/κάθε είδους έκφραση ή/και να την «μεγαλώσεις» ηλικιακά. Ουσιαστικά πρόκειται για εργαλεία που μέσω των social media όπου προβλήθηκαν σε παγκόσμια κλίμακα, ουσιαστικά μας εισήγαγαν στο deepfake, παρουσιάζοντας το ως ένα παιχνίδι που δείχνει πως θα είσαι στα 60 σου και άλλες «χαριτωμενιές».
Zao – Deepfakes web β: Εδώ πάμε σε πιο εξειδικευμένες περιπτώσεις ανάπτυξης deepfake. Με το Zao (διαθέσιμο μόνο σε όσους έχουν κινέζικο αριθμό κινητού τηλεφώνου), μπορείς να ενσωματώσεις ένα οποιοδήποτε πρόσωπο σε μια γκάμα από χιλιάδες clips γνωστών σειρών και ταινιών. Το Deepfakes web β, είναι ένα πλήρες εργαλείο ανάπτυξης deepfake video, του οποίου η χρήση παραχωρείται μόνο μέσω ωριαίας συνδρομής.
Το Dark Web
Τα παραπάνω εργαλεία θεωρούνται νόμιμα ως προς τη χρήση τους. Στο Dark Web εμφανίζονται διαρκώς εφαρμογές που δίνουν τη δυνατότητα στο χρήστη να βάλει ένα οποιοδήποτε πρόσωπο σε ένα κλιπ ταινίας πορνό. Για κάθε μια εφαρμογή που εξαφανίζεται, δεκάδες άλλες παρόμοιες μπορούν να εμφανιστούν στη θέση της. Είσαι σίγουρος ότι θέλεις να το ψάξεις περισσότερο;
Νομοθεσία
Σε ορισμένες πολιτείες των ΗΠΑ, διώκεται ήδη η δημιουργία και το μοίρασμα deepfake video των οποίων το περιεχόμενο αφορά πολιτικά πρόσωπα. Μέχρι στιγμής, η θέσπιση σχετικής νομοθεσίας στην Αμερική, που να «χτυπάει» κάθε δημιουργό deepfake με όχι και τόσο αγαθές προθέσεις μοιάζει δύσκολη, καθώς κάτι τέτοιο «σκοντάφτει» στο άρθρο του Συντάγματος που επικαλείται την ελεύθερη δημοκρατική έκφραση. Στην Ευρώπη, η νομοθεσία για τη δημιουργία ψηφιακού περιεχομένου μέσω AI, δεν περιλαμβάνει σοβαρές κυρώσεις για τους δημιουργούς. Μένουν τα (αστεία;) βιντεάκια.
J’adore starring Mr Bean DeepFake
No Description
*ΔΕΙΤΕ ΕΠΙΣΗΣ
Skinwalkers: τα ανατριχιαστικά πλάσματα που προκαλούν τρόμο στο TikTok
Εξαιρετικά ενδιαφέρον άρθρο, οι εφαρμογές της τεχνητής νοημοσύνης μπορεί να οδηγήσουν σε εφιαλτικά αποτελέσματα αν δεν υπάρξει ουσιαστικός έλεγχος από τους αρμόδιους οργανισμούς. Άσχετο με το θέμα της εκδικητικής πορνογραφιας, αλλά σχετικό με τους κινδύνους και την “μεροληψία” των αλγορίθμων του machine learning είναι το ντοκιμαντέρ του νετφλιξ με τίτλο “coded bias”.