Βάνα Κράβαρη
Το «algospeak» γίνεται όλο και συχνότερο στο ίντερνετ, μιας και οι οι χρήστες προσπαθούν να παρακάμψουν τα φίλτρα ελέγχου του περιεχομένου σε πλατφόρμες κοινωνικής δικτύωσης, όπως το TikTok, το Instagram και το YouTube. Πρακτικά, το algospeak αναφέρεται σε συνθηματικές λέξεις ή μικροαλλαγές σε φράσεις που έχουν υιοθετήσει οι χρήστες σε μια προσπάθεια να δημιουργήσουν ένα ασφαλές λεξιλόγιο, ώστε να αποφύγουν την αφαίρεση ή το shadowban αναρτήσεών τους από τα συστήματα ελέγχου περιεχομένου. Λογικά θα έχετε δει και εσείς ένα βίντεο στο TikTok δεύτερη φορά μέχρι να συνειδητοποιήσετε ότι ας πούμε το «νεκρός» έχει μετατραπεί σε «unalive» (αν το ψάξεις στο search του TikTok θα διαπιστώσεις ότι το moderation το έχει ήδη πάρει χαμπάρι) ή το «sexual assault» σε «SA» από τους δημιουργούς περιεχομένου. Όσο για τον «δονητή»; Στη νέα αλγοριθμική γλώσσα λέγεται «spicy eggplant».
Καθώς η πανδημία ώθησε περισσότερους ανθρώπους να επικοινωνήσουν και να εκφραστούν στο ίντερνετ, τα αλγοριθμικά συστήματα ελέγχου περιεχομένου είχαν πρωτοφανή αντίκτυπο στις λέξεις που επιλέγουμε, ιδίως στο TikTok, και δημιούργησαν μια νέα μορφή διαδικτυακής γλώσσας. Μια νέα διάλεκτο αν θέλετε.
Σε αντίθεση με άλλες mainstream πλατφόρμες κοινωνικής δικτύωσης, ο κύριος τρόπος διανομής του περιεχομένου στο TikTok είναι μέσω μιας αλγοριθμικά επιμελημένης σελίδας «for you». Ναι, το γεγονός ότι έχεις ακόλουθους, δεν εγγυάται ότι οι άνθρωποι θα δουν το περιεχόμενό σου. Αυτή η μετατόπιση έχει οδηγήσει τον μέσο χρήστη στο να προσαρμόζει τα βίντεό του κυρίως για τον αλγόριθμο, παρά για τους ακόλουθούς του, γεγονός που σημαίνει ότι η τήρηση των κανόνων moderation είναι πιο κρίσιμη από ποτέ.
Όταν ξέσπασε η πανδημία, οι άνθρωποι στο TikTok και σε άλλες εφαρμογές άρχισαν να αναφέρονται σε αυτή ως «περιοδεία επανένωσης των Backstreet Boys» ή να την αποκαλούν «panini» ή «panda express», καθώς οι πλατφόρμες δεν μπούσταραν ιδιαιτέρως περιεχόμενο που αφορούσε την πανδημία, στο πλαίσιο της μάχης τους να περιορίσουν την παραπληροφόρηση. Όταν οι νέοι άρχισαν να συζητούν για θέματα ψυχικής υγείας, καθιερώθηκε το «becoming unalive» προκειμένου να κάνουν ειλικρινείς συζητήσεις για την αυτοκτονία χωρίς να τους «τιμωρήσει» ο αλγόριθμος. Τα σεξεργαζόμενα άτομα, τα οποία λογοκρίνονται εδώ και καιρό από τα συστήματα moderation, αναφέρονται στο TikTok ως «λογιστές» και χρησιμοποιούν το emoji-καλαμπόκι ως υποκατάστατο της λέξης «πορνό».
Καθώς οι συζητήσεις για σημαντικά γεγονότα φιλτράρονται μέσω αλγοριθμικών συστημάτων παροχής περιεχομένου, όλο και περισσότεροι χρήστες μεταλλάσσουν τη γλώσσα τους σε κάτι άλλο, πιο φιλικό στον αλγόριθμο. Όταν έγινε η ρωσική εισβολή στην Ουκρανία, οι χρήστες στο YouTube και το TikTok χρησιμοποίησαν το emoji-ηλιοτρόπιο, αντί για την ουκρανική σημαία. Για να ενθαρρύνουν τους ακόλουθούς τους να ακολουθήσουν κάποιον σχετικό σύνδεσμο, αντί για «link in bio» έλεγαν «blink in lio».
Οι ευφημισμοί είναι ιδιαίτερα συνηθισμένοι σε ριζοσπαστικοποιημένες ή επιβλαβείς κοινότητες. Οι κοινότητες που τάσσονται υπέρ της ανορεξίας και των διατροφικών διαταραχών, έχουν από καιρό υιοθετήσει παραλλαγές σε λέξεις που πηγαίνουν πακέτο με αλγοριθμικούς περιορισμούς. Ένα paper από τη Σχολή Διαδραστικής Πληροφορικής του Ινστιτούτου Τεχνολογίας της Τζόρτζια διαπίστωσε ότι η πολυπλοκότητα αυτών των παραλλαγών αυξήθηκε ακόμη περισσότερο με την πάροδο του χρόνου. Να θυμίσουμε όλους εκείνους τους αντιεμβολιαστές-influencers κατά τη διάρκεια της πανδημίας που αναφέρονταν στους εμβολιασμένους πολίτες με διάφορες άσχετες λέξεις; Ή το πώς το «εμβόλιο» έγινε «μπόλι»;
Η προσαρμογή της γλώσσας για την αποφυγή του ελέγχου προϋπήρχε του ίντερνετ. Πολλές θρησκείες απέφευγαν να προφέρουν το όνομα του διαβόλου για να μην τον «καλέσουν», ενώ άνθρωποι που ζούσαν σε καταπιεστικά καθεστώτα ανέπτυξαν κωδικοποιημένες λέξεις για να συζητούν θέματα ταμπού.
Οι πρώτοι χρήστες του Διαδικτύου χρησιμοποιούσαν εναλλακτική ορθογραφία ή «leetspeak» για να παρακάμπτουν τα φίλτρα λέξεων σε chat rooms, online παιχνίδια και forums. Όμως, τα αλγοριθμικά συστήματα moderation είναι πιο διαδεδομένα στο σύγχρονο Διαδίκτυο και συχνά καταλήγουν να φιμώνουν περιθωριοποιημένες κοινότητες και σημαντικές συζητήσεις.
Κατά τη διάρκεια του «adpocalypse» του YouTube το 2017, όταν οι διαφημιζόμενοι απέσυραν τα δολάριά τους από την πλατφόρμα, λόγω φόβων για μη ασφαλές περιεχόμενο, οι ΛΟΑΚΤΙ δημιουργοί μίλησαν για τα βίντεο που δαιμονοποιήθηκαν επειδή έλεγαν τη λέξη «γκέι». Ορισμένοι άρχισαν να χρησιμοποιούν τη λέξη λιγότερο ή να την αντικαθιστούν με άλλες, για να διατηρήσουν το περιεχόμενό τους με χρήματα. Πιο πρόσφατα, οι χρήστες του TikTok άρχισαν να λένε «cornucopia» αντί για «homophobia» ή να λένε ότι είναι μέλη της κοινότητας «leg booty» για να δηλώσουν ότι είναι ΛΟΑΤΚΙ.
«Υπάρχει μια γραμμή που πρέπει να τηρήσουμε, είναι μια ατελείωτη μάχη για να πούμε κάτι και να προσπαθήσουμε να περάσουμε το μήνυμα χωρίς να το πούμε άμεσα», δήλωσε ο Sean VanValkenburgh, δημιουργός περιεχομένου στο TikTok με πάνω από 1,2 εκατομμύρια ακολούθους, μιλώντας στη Washington Post. «Επηρεάζει δυσανάλογα τη ΛΟΑΤΚΙ κοινότητα και την BIPOC κοινότητα γιατί εμείς είμαστε οι άνθρωποι που δημιουργούμε αυτή τη ρητορική και επινοούμε τα κολλυβογράμματα».
Οι συζητήσεις σχετικά με την υγεία των γυναικών, την εγκυμοσύνη και τους εμμηνοροϊκούς κύκλους στο TikTok κατατάσσονται επίσης σταθερά χαμηλότερα, δήλωσε η Kathryn Cross, μια 23χρονη content creator και ιδρύτρια της Anja Health, μιας νεοσύστατης επιχείρησης που προσφέρει τράπεζα ομφαλοπλακουντικού αίματος. Αντικαθιστά τις λέξεις «σεξ», «περίοδος» και «κόλπος» με άλλες λέξεις ή τις γράφει με σύμβολα στις λεζάντες. Πολλοί χρήστες λένε «nip nops» αντί για «θηλές».
Οι μαύροι και οι τρανς χρήστες, καθώς και όσοι ανήκουν σε άλλες περιθωριοποιημένες κοινότητες, χρησιμοποιούν συχνά τo algospeak για να συζητήσουν την καταπίεση που αντιμετωπίζουν, αντικαθιστώντας τις λέξεις «λευκός» ή «ρατσιστής». Κάποιοι αγχώνονται να προφέρουν τη λέξη «λευκός» καν και απλώς κρατούν την παλάμη τους προς την κάμερα για να υποδηλώσουν τους λευκούς ανθρώπους. «Η πραγματικότητα είναι ότι οι εταιρείες τεχνολογίας χρησιμοποιούν αυτοματοποιημένα εργαλεία για να μετριάσουν το περιεχόμενο εδώ και πολύ καιρό και ενώ διαφημίζεται ως αυτό το εξελιγμένο machine learning, συχνά πρόκειται για έναν κατάλογο λέξεων που θεωρούν προβληματικές», δήλωσε ο Ángel Díaz, λέκτορας στη Νομική Σχολή του UCLA που μελετά την τεχνολογία και τις φυλετικές διακρίσεις.
Πριν ένα διάστημα, η μεταδιδακτορική ερευνήτρια γλωσσολογικής ανθρωπολογίας στο UCLA και η Alexia Fawcett, διδακτορική φοιτήτρια γλωσσολογίας στο UC SAnta Barbara, έκαναν μια παρουσίαση για τη γλώσσα στο TikTok. Περιέγραψαν πώς με την αυτολογοκρισία των λέξεων στις λεζάντες των TikTok, προέκυψαν νέες λέξεις algospeak.
Οι χρήστες του TikTok χρησιμοποιούν τώρα τη φράση «le dollar bean» αντί γαι «lesbian», επειδή με αυτό τον τρόπο η λειτουργία text-to-speech του TikTok προφέρει το «Le$bian», έναν λογοκριμένο τρόπο γραφής της λέξης που οι χρήστες πιστεύουν ότι θα αποφύγει τον έλεγχο του περιεχομένου.
Για τον Εvan Greer, διευθυντή του Fight for the Future, μιας μη κερδοσκοπικής ομάδας υπεράσπισης ψηφιακών δικαιωμάτων, η προσπάθεια να εξαλειφθούν συγκεκριμένες λέξεις στις πλατφόρμες είναι ανόητη.
«Πρώτον, δεν λειτουργεί στην πραγματικότητα», δήλωσε. «Οι άνθρωποι που χρησιμοποιούν πλατφόρμες […] είναι αρκετά καλοί στο να βρίσκουν πώς να παρακάμπτουν αυτά τα συστήματα. Και δεύτερον, οδηγεί σε παράπλευρες απώλειες του κυριολεκτικού λόγου». Η προσπάθεια ρύθμισης του ανθρώπινου λόγου σε μια κλίμακα δισεκατομμυρίων ανθρώπων σε δεκάδες διαφορετικές γλώσσες και η προσπάθεια να αντιμετωπιστούν πράγματα όπως το χιούμορ, ο σαρκασμός, το τοπικό context και το slang δεν μπορεί να γίνει με την απλή υποβάθμιση ορισμένων λέξεων», υποστηρίζει η Greer.
Δεν θα μπορέσετε ποτέ να αποστειρώσετε το ίντερνετ
«Νιώθω ότι αυτό είναι ένα καλό παράδειγμα του γιατί η επιθετική μετριοπάθεια δεν πρόκειται να αποτελέσει πραγματική λύση για τη ζημιά που βλέπουμε από τις επιχειρηματικές πρακτικές των μεγάλων εταιρειών τεχνολογίας», είπε. «Μπορείτε να δείτε πόσο ολισθηρός είναι αυτός ο δρόμος. Με την πάροδο των ετών βλέπουμε όλο και περισσότερο την παραπλανητική απαίτηση του κοινού να αφαιρούν οι πλατφόρμες όλο και περισσότερο περιεχόμενο γρήγορα, ανεξάρτητα από το κόστος».
Μεγάλοι δημιουργοί του TiKTok έχουν δημιουργήσει κοινά Google docs με λίστες εκατοντάδων λέξεων που πιστεύουν τα moderation systems της εφαρμογής θεωρούν προβληματικά. Άλλοι χρήστες κρατούν έναν τρέχοντα κατάλογο των όρων που πιστεύουν ότι έχουν περιορίσει ορισμένα βίντεο, προσπαθώντας να αντιστρέψουν το σύστημα.
Το «Zuck Got Me For» είναι ένας ιστότοπος που δημιουργήθηκε από μια διαχειρίστρια σελίδας με memes, που ακούει στο όνομα Ana. Ουσιαστικά, είναι ένα μέρος όπου οι δημιουργοί μπορούν να ανεβάζουν ανόητο περιεχόμενο που απαγορεύτηκε από τους αλγόριθμους του Instagram. Σε ένα μανιφέστο για το πρότζεκτ της, έγραψε: «Η δημιουργική ελευθερία είναι μια από τις μοναδικές καλές πλευρές αυτής αμφιλεγόμενης διαδικτυακής κόλασης μέσα στην οποία υπάρχουμε όλοι… Καθώς οι αλγόριθμοι στενεύουν, οι ανεξάρτητοι δημιουργοί είναι αυτοί που υποφέρουν».
Περιγράφει επίσης πώς θα πρέπει να μιλάει κανείς στο ίντερνετ με τρόπο που να αποφεύγει τα φίλτρα. «Αν έχετε παραβιάσει τους όρους υπηρεσίας, μπορεί να μη μπορείτε να χρησιμοποιήσετε βρισιές ή αρνητικές λέξεις, όπως «μίσος», «σκοτώνω, «άσχημος», «ηλίθιος», κ.λπ, ανέφερε. «Συχνά γράφω: “εγώ απέναντι από το xyz» αντί για «μισώ το xyz».
Η Online Creator’s Association, μια ομάδα υπεράσπισης της εργασίας, έχει επίσης εκδώσει έναν κατάλογο αιτημάτων, ζητώντας από το TikTok περισσότερη διαφάνεια στον τρόπο με τον οποίο μετριάζει το περιεχόμενο. «Οι άνθρωποι πρέπει να αμβλύνουν τη γλώσσα τους για να μην προσβάλλουν όλους αυτούς τους θεούς του TikTok που βλέπουν και γνωρίζουν τα πάντα», δήλωσε η Cecelia Gray, content creator του TikTok και συνιδρύτρια της οργάνωσης.
badidea 🪐 on X (formerly Twitter): “Algorithms are causing human language to reroute around them in real time. I’m listening to this youtuber say things like “the bad guy unalived his minions” because words like “kill” are associated with demonetization / X”
Algorithms are causing human language to reroute around them in real time. I’m listening to this youtuber say things like “the bad guy unalived his minions” because words like “kill” are associated with demonetization
Το TikTok, μέσα σε όλα, προσφέρει ένα κέντρο πόρων για τους δημιουργούς που επιθυμούν να μάθουν περισσότερα για τα συστήματά του, τα κέντρα διαφάνειας και λογοδοσίας, όπου οι επισκέπτες μπορούν να μάθουν πώς λειτουργεί ο αλγόριθμος της εφαρμογής.
Ο Vince Lynch, διευθύνων σύμβουλος της IV.AI, μιας πλατφόρμας τεχνητής νοημοσύνης για την κατανόηση της γλώσσας, δήλωσε ότι σε ορισμένες χώρες όπου το μέτρο είναι εντονότερο, οι άνθρωποι καταλήγουν να κατασκευάζουν νέες διαλέκτους για να επικοινωνούν. «Γίνονται πραγματικές υπο-γλώσσες», είπε.
Αλλά καθώς το algospeak γίνεται όλο και πιο δημοφιλές και οι λέξεις «αντικατάστασης» μετατρέπονται σε κοινή αργκό, οι χρήστες διαπιστώνουν ότι πρέπει να γίνουν όλο και πιο δημιουργικοί για να αποφύγουν τα φίλτρα. «Μετατρέπεται σε ένα παιχνίδι τσαμπουκά», δήλωσε η Gretchen McCulloch, γλωσσολόγος και συγγραφέας του “Because Internet”, ενός βιβλίου για το πώς το Διαδίκτυο έχει διαμορφώσει τη γλώσσα. Καθώς οι πλατφόρμες αρχίζουν να παρατηρούν ότι οι άνθρωποι λένε «seggs» αντί για «sex», για παράδειγμα, ορισμένοι χρήστες αναφέρουν ότι πιστεύουν ότι ακόμη και λέξεις αντικατάστασης στοχοποιούνται.
«Καταλήγουμε να δημιουργούμε νέους τρόπους ομιλίας για να αποφύγουμε αυτό το είδος ελέγχου», δήλωσε ο Díaz από τη Νομική Σχολή του UCLA, »και στη συνέχεια καταλήγουμε να υιοθετούμε κάποιες από αυτές τις λέξεις και να μετατρέπονται σε κοινή καθομιλουμένη. Όλα γεννιούνται από αυτή την προσπάθεια αντίστασης στο moderation».
Αυτό δεν σημαίνει πως όλες οι προσπάθειες για την εξάλειψη άσχημων συμπεριφορών, παρενόχλησης, κατάχρησης και παραπληροφόρησης είναι άκαρπες. Αλλά ο Greer υποστηρίζει ότι η προτεραιότητα θα πρέπει να δοθεί στα βασικά ζητήματα. «Το επιθετικό moderation δεν πρόκειται ποτέ να αποτελέσει πραγματική λύση για τη ζημιά που βλέπουμε από τις επιχειρηματικές πρακτικές των μεγάλων τεχνολογικών εταιρειών», δήλωσε. «Αυτό είναι ένα καθήκον για τους υπεύθυνους χάραξης πολιτικής και για τη δημιουργία καλύτερων πραγμάτων, καλύτερων εργαλείων, καλύτερων πρωτοκόλλων και καλύτερων πλατφορμών».
Τελικά, πρόσθεσε, «δεν θα μπορέσετε ποτέ να αποστειρώσετε το ίντερνετ».
