Η Εισαγγελία του Μανχάταν (Manhattan District Attorney's Office) κατέσχεσε 12 domains τα οποία, όπως αναφέρει, χρησιμοποιούνταν για την παράνομη διακίνηση, δημοσίευση και πώληση deepfake βίντεο με διάσημα πρόσωπα. Ανακοινώνοντας τις κατασχέσεις τη Δευτέρα, η εισαγγελία ανέφερε ότι περίπου 1.200 άτομα, στη συντριπτική τους πλειονότητα γυναίκες, απεικονίζονταν σε μη συναινετικές σεξουαλικές εικόνες και βίντεο στους ιστότοπους: influencers μέσων κοινωνικής δικτύωσης, ηθοποιοί, ακτιβιστές, αθλητές, μουσικοί και πολιτικοί.
«Αυτές οι φρικτές παραβιάσεις της ιδιωτικής ζωής ακολουθούν τα θύματα στην καριέρα και στην προσωπική τους ζωή και έχουν τεράστιο κόστος για τη συναισθηματική και ψυχική τους υγεία» (σε απόδοση από τα αγγλικά), δήλωσε σε ανακοίνωσή του ο εισαγγελέας Alvin Bragg, καλώντας τα πιθανά θύματα να επικοινωνήσουν με το γραφείο κυβερνοεγκλήματος της εισαγγελίας. Οι έρευνες για το ποιοι ευθύνονται για τους ιστότοπους, αλλά και για όσους ανέβασαν βίντεο θυμάτων, βρίσκονται σε εξέλιξη, αναφέρει η εισαγγελία.
Οι κατασχέσεις έγιναν βάσει της ποινικής δικονομίας της Νέας Υόρκης. Η εισαγγελία δεν έχει δημοσιοποιήσει τα ονόματα των ιστότοπων, ωστόσο το Wired διαπίστωσε ότι οι αρχικές σελίδες αρκετών από αυτούς αντικαταστάθηκαν στα τέλη της περασμένης εβδομάδας από ειδοποιήσεις με την ένδειξη «THIS DOMAIN HAS BEEN SEIZED». Οι σελίδες παραπέμπουν πλέον σε ένταλμα κατάσχεσης που εξέδωσε δικαστήριο (New York State Supreme Court).
Εκατομμύρια προβολές και προφίλ αιρετών αξιωματούχων
Συνολικά οι ιστότοποι είχαν κατά πάσα πιθανότητα εκατομμύρια προβολές, ενώ αρχειοθετημένες εκδοχές τους δείχνουν ότι ορισμένα βίντεο είχαν προβληθεί δεκάδες χιλιάδες φορές, με έναν από αυτούς να δηλώνει ότι λειτουργούσε από το 2018. «Τα περισσότερα βίντεο είχαν τη μορφή πραγματικών πορνογραφικών ταινιών, παραποιημένων ώστε να εμφανίζονται τα πρόσωπα των στόχων αντί εκείνων των αρχικών ηθοποιών», λέει ο Benjamin Shultz, επικεφαλής ερευνητής της μη κερδοσκοπικής οργάνωσης American Sunlight Project. Πολλά βίντεο φαίνεται ότι ήταν αναδημοσιεύσεις υλικού που είχε αρχικά κυκλοφορήσει στο MrDeepFakes, πλατφόρμα deepfake που τέθηκε εκτός λειτουργίας αφού δημοσιογράφοι αποκάλυψαν τους δημιουργούς της, αναφέρει ο Shultz.
«Σε τουλάχιστον δύο από τους κατασχεθέντες ιστότοπους, αιρετοί αξιωματούχοι είχαν προφίλ με το όνομα και τη θέση τους, μαζί με ένα πλέγμα παραποιημένων βίντεο που φιλοξενούσαν την εικόνα τους», λέει ο Shultz, ο οποίος καταγράφει την κακόβουλη χρήση deepfake σε βάρος πολιτικών προσώπων. Πρόσφατη έρευνα εντόπισε 56 Ευρωπαίους πολιτικούς που είχαν αναφερθεί ή εμφανιστεί στους ιστότοπους, αναφέρει ο Shultz, συμπεριλαμβανομένων 16 πολιτικών από τις ΗΠΑ και δύο από το Ηνωμένο Βασίλειο.
Μια κατάσχεση που αφήνει ανέπαφο τον ευρύτερο κλάδο
Η νομοθεσία κατά των deepfake άργησε να διαμορφωθεί, όμως ο αμερικανικός νόμος Take It Down Act επιτρέπει ολοένα και περισσότερο την αφαίρεση τέτοιου υλικού, ενώ τμήμα του δίνει στις διωκτικές αρχές τη δυνατότητα να κατεβάζουν και να κατάσχουν ιστότοπους. Τέτοιοι ιστότοποι δημοσιεύουν χιλιάδες μη συναινετικά βίντεο εδώ και σχεδόν μια δεκαετία και, καθώς βελτιώνεται η τεχνητή νοημοσύνη (AI), έχουν εμφανιστεί ιστοσελίδες, εφαρμογές και bots φτιαγμένα ώστε να «ξεγυμνώνουν» φωτογραφίες γυναικών ή να παράγουν βίντεο με ωμό σεξουαλικό περιεχόμενο.
«Οι κατασχέσεις είναι σημαντική νίκη στον αγώνα κατά του συνθετικού μη συναινετικού ερωτικού υλικού (synthetic nonconsensual intimate imagery, NCII)», λέει η Leonie Oehmig, ερευνήτρια στο Institute for Strategic Dialogue (ISD) που μελετά το οικοσύστημα παραγωγής deepfake. Η Oehmig αναφέρει ότι η εφαρμογή των πολιτειακών νόμων δείχνει πως το υλικό μπορεί να αντιμετωπιστεί, καθώς και ότι οι κατασχεμένοι ιστότοποι δεν φαίνεται να είναι προσβάσιμοι μέσω εικονικών ιδιωτικών δικτύων (VPN) από αλλού. «Αυτό δείχνει ότι η ουσιαστική, συντονισμένη επιβολή είναι εφικτή ακόμη και εκεί όπου η ίδια η ρύθμιση παραμένει κατακερματισμένη μεταξύ δικαιοδοσιών».
Άλλα τμήματα του κλάδου των deepfake εξακολουθούν να προκαλούν σοβαρή βλάβη, αναφέρει η Oehmig. «Η αποτελεσματική παρέμβαση πρέπει να στοχεύει το οικοσύστημα σε πολλαπλά σημεία: στα εργαλεία που χρησιμοποιούνται για τη δημιουργία συνθετικού NCII, στην ανακάλυψη και την προώθησή τους, στη φιλοξενία και την τεχνική υποδομή που τα κρατά στο διαδίκτυο, καθώς και στα συστήματα πληρωμών και συνεργατών που επιτρέπουν στους διαχειριστές να τα εμπορευματοποιούν».