Βάνα Κράβαρη
Έχεις σχολιάσει αφηρημένα πώς ξαφνικά όλοι ντυνόμαστε με τον ίδιο τρόπο και η προσωπική αισθητική έχει σχεδόν εξαφανιστεί; Έχεις αρχίσει να φρικάρεις με το πώς όλα τα καφέ και όλα τα μπαρ είναι ολόιδια; Ούτε ένα σκαμπό δεν τα κάνει να ξεχωρίζουν, τη στιγμή που ο πίνακας με τη λίστα των κοκτέιλς είναι σαν να κλωνοποιείται από γειτονιά σε γειτονιά και από στέκι σε στέκι; Δεν είναι κάτι. Ο αλγόριθμος απλώς κάνει τη δουλειά του.
Κάπου στα ’80s, ο μελλοντολόγος Hans Horavec προειδοποίησε ότι, παραδόξως, οι πιο εύκολες για τον άνθρωπο ενέργειες (όπως το να κρατάει ένα κομμάτι σούσι με δυο τσόπστικς ας πούμε) θα ήταν αυτές που θα δημιουργούσαν τις μεγαλύτερες δυσκολίες στα ρομπότ και τους υπολογιστές. Από την άλλη πλευρά, πολύ σύνθετες εργασίες, όπως ο εντοπισμός λαθών σε ιατρικές συνταγές, η διάκριση του πότε ένα διαστημικό τηλεσκόπιο έχει εντοπίσει κάτι ενδιαφέρον ή η επιλογή χριστουγεννιάτικων δώρων για όλη την οικογένεια, έχουν καταλήξει εξαιρετικά απλές για τους αλγορίθμους.
«Η τεχνητή νοημοσύνη το κάνει ήδη αυτό», υποστηρίζουμε όλο και συχνότερα, με φοβερή άνεση. Αλλά σύμφωνα με χιλιάδες επιστήμονες και φιλοσόφους, ο χαρακτηρισμός αυτός δεν είναι και ο πιο κατάλληλος. «Και οι δυο λέξεις (aritificial και intelligent) είναι αμφιλεγόμενες και άκρως ύποπτες. Προτιμώ τον όρο μηχανική μάθηση, καθώς είναι πιο εύκολο να δούμε για τι μιλάμε: συστήματα που επιτρέπουν στις μηχανές να μαθαίνουν μοτίβα ή συσχετίσεις και να τα εφαρμόζουν σε νέες καταστάσεις και δεδομένα», εξηγεί ο Justin Joque, ο οποίος διδάσκει στο Πανεπιστήμιο του Μίσιγκαν και είναι συγγραφέας του βιβλίου Revolutionary Mathematics: Artificial Intelligence, Statistics and the Logic of Capitalism.
«Είναι λογικό να υπάρχει κάποια σύγχυση στο ευρύ κοινό, επειδή πρόκειται για έννοιες που είναι δύσκολο να γίνουν κατανοητές από όσους δεν έχουν μαθηματικό υπόβαθρο. Υπάρχει πολύς μυστικισμός γύρω από την Τεχνητή Νοημοσύνη, όπως και σε κάθε άλλο επιστημονικό πεδίο: μελέτες για τον καρκίνο, αστρονομικά παρατηρητήρια όταν μιλάμε για UFO… Αυτά είναι ενδιαφέροντα θέματα και δημοσιοποιούνται ευρέως, οπότε υπάρχουν πάντα εκείνοι που θα δημιουργήσουν μια νοσηρή περιέργεια γύρω από αυτά», εξηγεί στην EL PAÍS η Celsa Pardo-Araujo, μαθηματικός στο Ινστιτούτο Διαστημικών Επιστημών, η έρευνα της οποίας επικεντρώνεται στην εφαρμογή της μηχανικής μάθησης στην αστροφυσική. «Αυτό που είναι επίσης σαφές είναι ότι η Google, η DeepMind και η Microsoft δημιουργούν αλγορίθμους που λύνουν προβλήματα που δεν μπορούσαν να λυθούν πριν», προσθέτει.
Αλλά εδώ έρχεται το σημείο που μας επηρεάζει: εκτός από το να λύνουν ορισμένα προβλήματα και να είναι πολύ χρήσιμοι στην επιστημονική έρευνα, οι αλγόριθμοι παράγουν επίσης περιεχόμενο, και πάνω από όλα, διατάσσουν και ιεραρχούν ό,τι έχουμε δημιουργήσει εμείς οι ίδιοι. Και αυτό περιλαμβάνει τόσο το τεράστιο φάσμα της παγκόσμιας κουλτούρας όσο και την τελευταία φωτογραφία που τραβήξαμε ενώ τρώγαμε το πρωινό μας. Τι κριτήρια χρησιμοποιούν; Ποιες είναι αυτές οι δημιουργίες; Αυτό είναι το πιο ανησυχητικό σημείο, διότι, όπως καταδεικνύει ο Kyle Chayka στο βιβλίο του 2024 «Filterworld: How Algorithms Flattened Culture», ο χάρτης (δηλαδή ο αλγόριθμος που επιβραβεύει ορισμένο περιεχόμενο έναντι άλλων) επηρεάζει ήδη την επικράτεια (δηλαδή τη μορφή του ίδιου του περιεχομένου και την πραγματικότητα στην οποία κινούμαστε, ιδίως στις πόλεις).
Ο Chayka δίνει το παράδειγμα των καφέ που θέλουν να φαίνονται εκλεπτυσμένα: αν όλα προσφέρουν τα ίδια προϊόντα και η διακόσμησή τους είναι τόσο παρόμοια, αν το κοινό που τα επισκέπτεται μοιάζει επίσης τόσο πολύ σε όλο τον κόσμο, αυτό οφείλεται στο ότι οι διαχειριστές τους ακολουθούν το μοντέλο που επιβάλλει το Instagram όταν δίνει προτεραιότητα σε ορισμένες εικόνες έναντι άλλων. Το Instagram προσελκύει κοινό μόνο στα μέρη που ανεβάζουν φωτογραφίες που ταιριάζουν στον αλγόριθμό του, και αυτό είναι κάτι που συμβαίνει σε όλους τους τομείς: υπάρχουν ήδη μουσικοί που διδάσκουν πώς να γράφουν τραγούδια ώστε να γίνουν viral στο TikTok (για παράδειγμα, με το ρεφρέν πολύ κοντά στην αρχή) και πολλοί εικονογράφοι μιμούνται το στυλ της Pixar, ανεξάρτητα από το αν τους εμπνέει (το χρησιμοποιούν επίσης πολλές αυτόματες γεννήτριες εικόνων), επειδή έχουν διαπιστώσει ότι αυτό τους βοηθά να γίνουν viral.
Ένας κόσμος που μοιάζει όλο και περισσότερο με τον εαυτό του
Μέσω εμπειρικής έρευνας που διεξήχθη στη Γαλλία τη δεκαετία του 1960, ο κοινωνιολόγος Pierre Bourdieu μελέτησε τις «κοινωνικές βάσεις του γούστου» και ανακάλυψε δεκάδες συσχετίσεις μεταξύ ζητημάτων όπως το μορφωτικό επίπεδο, το είδος της απασχόλησης ή το διαθέσιμο εισόδημα (δηλαδή παράγοντες κοινωνικής τάξης) και των αισθητικών προτιμήσεων. Σήμερα, που οι αλγόριθμοι έχουν πολύ πιο ακριβείς και εξατομικευμένες πληροφορίες για τα γούστα μας (τους τις δίνουμε συνεχώς) και κάποιες από τις προτάσεις τους μας ικανοποιούν (το Spotify σπάνια κάνει λάθος όταν σχεδιάζει μια λίστα αναπαραγωγής για εμάς), εξακολουθούμε να έχουμε την αίσθηση ότι πολλές πλατφόρμες ενισχύουν μόνο το χειρότερο περιεχόμενο, το πιο εντυπωσιακό ή παραπλανητικό.
«Το σύστημα των προτεινόμενων στο YouTube, για παράδειγμα, θα έχει έναν πυρήνα που θα εκπαιδευτεί αρχικά με έναν ορισμένο αριθμό χρηστών και στη συνέχεια θα λαμβάνει ανατροφοδότηση και θα επανεκπαιδεύεται με κάθε ροή», εξηγεί η Pardo-Araujo μιλώντας στην EL PAÍS. «Είναι αλήθεια ότι οι αλγόριθμοι αναπαράγουν πολλές προκαταλήψεις επειδή δεν μπορείτε ποτέ να τους εκπαιδεύσετε με ολόκληρο τον πληθυσμό και πρέπει να είστε πολύ προσεκτικοί με αυτή τη διαδικασία: οι κατανομές πρέπει να είναι αντιπροσωπευτικές της πραγματικότητας. Αλλά είναι αστείο το γεγονός ότι οι προκαταλήψεις στους αλγορίθμους προκαλούν τόσο μεγάλη ανησυχία, όταν όλοι μας έχουμε και οι ίδιοι τόσες προκαταλήψεις που θα πρέπει επίσης να εξαλείψουμε από τη συνείδησή μας. Ίσως είναι πιο εύκολο να τις αναγνωρίσουμε στους αλγορίθμους παρά στον εαυτό μας», προσθέτει η μαθηματικός, πεπεισμένη ότι οι αλγόριθμοι αντικατοπτρίζουν αυτό που ήδη συμβαίνει στην κοινωνία.
Αλλά όταν πρόκειται για αλγορίθμους, η γραμμή μεταξύ της προσαρμογής στις προτιμήσεις των χρηστών και της διαμόρφωσης και καθοδήγησής τους είναι πολύ λεπτή. Εδώ δημιουργείται η αίσθηση ότι μας δείχνουν και μας προτείνουν μια παραλλαγή του ίδιου πράγματος ξανά και ξανά. Για παράδειγμα, κάποιοι κατηγόρησαν την Billie Eilish ότι γράφει τα τραγούδια της με γνώμονα το TikTok, αλλά δεν είναι πιο εύκολο να πιστέψουμε ότι, ακούσια, βγαίνουν έτσι επειδή, στην ηλικία της, έχει περάσει ώρες doom scrolling στο TikTok; Δεν είναι τυχαία το «brain rot» μια από τις λέξεις που καθόρισαν το 2024. Αυτή η αλγοριθμική ανατροφοδότηση των ήδη υπαρχουσών τάσεων είναι το πιο ανησυχητικό πράγμα στον κόσμο της κουλτούρας. Στην πραγματικότητα, αυτή η διαδικασία, που ορισμένοι συγγραφείς όπως ο Chayka, αποκαλούν «ισοπέδωση της κουλτούρας» και η οποία οδηγεί σε όλο και πιο συντηρητικά έργα. Οι δημιουργοί, συνειδητά ή ασυνείδητα, αναπαράγουν τις αλγοριθμικές προκαταλήψεις (οι οποίες με τη σειρά τους ήταν εκείνες των προηγούμενων καλλιτεχνών και χρηστών).
Σε καλλιτεχνικό επίπεδο, οι αλγόριθμοι «ανατροφοδοτούν συνεχώς την τρέχουσα επαναλαμβανόμενη τάση», λέει ο Luis Demano, εικονογράφος και ακτιβιστής κατά της καταχρηστικής χρήσης της δημιουργικής τεχνητής νοημοσύνης στον τομέα του. Έχει εντοπίσει ποιες εικόνες ανταμείβονται και αναπαράγονται περισσότερο από τα αυτόματα συστήματα: «Τείνουν να είναι ρεαλιστικές αναπαραστάσεις κοντά σε φωτογραφικά προφίλ και με πολύ χαρακτηριστική χρωματική επεξεργασία, που επιβάλλουν πολλές φωτιστικές αντιθέσεις μεταξύ θερμών και ψυχρών τόνων». Εκτός από το ότι είναι χρήσιμο για τη μείωση του κόστους, ο Demano αναγνωρίζει ότι η «είσοδος στο παιχνίδι των αλγορίθμων» μπορεί να είναι ανταποδοτική για όσους τούς χρησιμοποιούν: «Μας ανταμείβει και μάς κάνει να αισθανόμαστε ξεχωριστοί με την προσοχή που λαμβάνουμε. Το εγώ είναι ένα πολύ ισχυρό ναρκωτικό».
Ούτε καλλιτεχνικό, ούτε ορίτζιναλ: όταν ο αλγόριθμος δημιουργεί και διανέμει
Όταν οι έννοιες της συγγραφής και της πρωτοτυπίας αναπτύχθηκαν μετά τον Διαφωτισμό, η τέχνη έγινε η πιο χαρακτηριστική πρακτική ενός νέου τύπου ατόμου: δημιουργικό, αυτόνομο και ελεύθερο να επιλέξει τους δικούς του κανόνες και εκείνους που θα εφάρμοζε στα έργα του. Οι κανόνες που χρησιμοποιεί η τεχνητή νοημοσύνη για τα έργα που παράγει δεν έχουν καμία σχέση με αυτό: πρόκειται για μια στατιστική προσέγγιση που εκμεταλλεύεται τα χαρακτηριστικά των έργων στα οποία έχει εκπαιδευτεί, καθώς και δεδομένα σχετικά της με τη λειτουργία του attention market (αγορά της προσοχής).
«Ισχυρίζομαι σθεναρά ότι οι εταιρείες τεχνολογίας κλέβουν έργα που προστατεύονται από πνευματικά δικαιώματα για να εκπαιδεύσουν τα μοντέλα τους», διαμαρτύρεται ο Demano. Ενώ η πρωτοτυπία είναι μια ιδιότητα που είναι δύσκολο να οριστεί, οι φιλόσοφοι είναι σαφείς: δεν είναι κάτι που μπορεί να βρεθεί σε προϊόντα τεχνητής νοημοσύνης. «Η πρωτοτυπία αφορά τόσο το έργο τέχνης όσο και τη διαδικασία δημιουργίας του», εξηγεί ο Joque. «Πρόσφατα ζήτησα από τους μαθητές μου να διαβάσουν το διήγημα του Μπόρχες Πιερ Μενάρ, συγγραφέα του Δον Κιχώτη. Η ιστορία περιγράφει τον εκκεντρικό συγγραφέα Μενάρ, του οποίου η μυστική δουλειά είναι να ξαναγράψει λέξη προς λέξη τον Δον Κιχώτη. Ο Μπόρχες υποδηλώνει ότι η συγγραφή των ίδιων ακριβώς λέξεων στον 20ο αιώνα αλλάζει εντελώς το έργο, καθώς ο Μενάρ τους δίνει διαφορετικό νόημα από ό,τι ο Θερβάντες όταν τις έγραψε στις αρχές του 17ου αιώνα. Αν και ο Μπόρχες το γράφει αυτό κάπως αστειευόμενος, νομίζω ότι υπονοεί ότι οι συνθήκες κάτω από τις οποίες δημιουργείται η τέχνη επηρεάζουν το πώς την κατανοούμε και το κατά πόσο τη βρίσκουμε ενδιαφέρουσα. Ακόμη και αν μια τεχνητή νοημοσύνη μπορούσε να παράγει ένα έργο τύπου Ρόθκο, το να κάνει αυτόματα στον 21ο αιώνα δεν θα μπορούσε ποτέ να συγκριθεί με αυτό που έκανε ο Ρόθκο στον 20ο αιώνα», εξηγεί ο καθηγητής και φιλόσοφος.
Τι ακριβώς κάνει, λοιπόν, η τεχνητή νοημοσύνη και γιατί όλα τα έργα ή τα προϊόντα της μοιάζουν τόσο πολύ μεταξύ τους; Ο Demano απαντά: «Δεν έχουν σχεδιαστεί για να δημιουργούν τέχνη, αλλά για να παράγουν περιεχόμενο. Η διαφορά μεταξύ των δυο όρων καθορίζεται από τη λειτουργία που εκπληρώνουν. Το περιεχόμενο χρησιμεύει για να κάνει το ατελείωτο διαφημιστικό billboard που είναι το ίντερνετ να λειτουργεί ως επιχείρηση. Το generative AI είναι η λύση της τεχνολογικής βιομηχανίας για να καλύψει αυτή την ανάγκη όσο το δυνατόν πιο γρήγορα και αποτελεσματικά. Η μεγαλύτερη επιτυχία της ήταν να μας κάνει να πιστέψουμε ότι η χρήση της μπορεί να μας μετατρέψει άμεσα σε καλλιτέχνες, ενώ στην πραγματικότητα είμαστε πελάτες μιας υπηρεσίας ζήτησης περιεχομένου». Έτσι, όταν διαπιστώνουμε μια ομοιότητα σε ό,τι παράγουν ή μας προσφέρουν οι αλγόριθμοι, δεν ερχόμαστε αντιμέτωποι με μια κακόβουλη προκατάληψη ή με ένα ζήτημα στυλ και ύφους: πρόκειται απλώς για μια επιβολή της αγοράς.
Η κατανόηση του τρόπου λειτουργίας των αλγορίθμων μάς βοηθά να καταλάβουμε ότι δεν έχουν πολιτικές τάσεις, αλλά μάλλον βάζουν σε κυκλοφορία αυτό που προκαλεί τις πιο θερμές μας αντιδράσεις, αυτό που απαιτεί λιγότερη συγκέντρωση ή αυτό που μπορεί να καταναλωθεί πιο γρήγορα. Όταν ο αλγόριθμος θεοποιείται, ξεχνάμε ότι είναι ένας απλός μηχανισμός και ότι στην ανάπτυξη και λειτουργία του εμπλέκονται πολλοί απλοί, καθημερινοί άνθρωποι: το άτομο που παραγγέλνει τον προγραμματισμό για να μεγιστοποιήσει τα κέρδη, το άτομο που γράφει αυτόν τον κώδικα ως αμειβόμενη εργασία (σίγουρα ένας κακοπληρωμένος ελεύθερος επαγγελματίας), το άτομο που τον εκπαιδεύει, σε πολλές περιπτώσεις ακούσια, με τις δημιουργίες του, και το άτομο που τον τρέχει στον υπολογιστή ή το τηλέφωνό του και ταυτόχρονα τον ταΐζει.
Φυσικά, δεν πρέπει να κατηγορούμε τον χρήστη, αλλά ούτε και τον μηχανισμό πίσω από τον οποίο κρύβεται ο πραγματικός χειριστής της όλης διαδικασίας: ένας επιχειρηματίας που δεν ενδιαφέρεται για το είδος του περιεχομένου που αναπαράγεται από την πλατφόρμα του -ή με άλλα λόγια: Η Amazon δεν κάνει διάκριση μεταξύ της διανομής ενός αντιγράφου των Αδελφών Καραμαζόφ του Ντοστογιέφσκι ή του βιβλίου Troll Book του social media star elRubius. Ο Μαρξ έγραψε ότι συχνά πιστεύουμε ότι οι κοινωνικές δομές είναι αμετακίνητα αντικείμενα ή αδιαμφισβήτητοι φυσικοί νόμοι. Πρόκειται για ψευδαίσθηση: όλες οι κοινωνικές δομές και οι επιστημονικές και βιομηχανικές κατασκευές (και η τεχνητή νοημοσύνη είναι μια από αυτές) είναι συνέπεια των πράξεων και των σχέσεών μας και, με επαρκή συλλογική δύναμη, μπορούν να τροποποιηθούν.
__
Με πληροφορίες από EL PAÍS
