espivblogs.net

Οι εισηγήσεις από την εκδήλωση της Παρασκευής 12/12/25. Παρατίθενται γραπτώς αλλά και ηχογραφημένες.

Μέρος 1:

Θέλω να ξεκινήσω λέγοντας δύο λόγια πολύ γενικά για το βιβλίο, και μετά θα εστιάσω σε κάποια πιο συγκεκριμένα ζητήματα. Το βιβλίο είναι συλλογή 4 άρθρων (Crawford, Mezzandra & Neilson, Pasquinelli, Bratton). Τα άρθρα αυτά φωτίζουν διαφορετικές πτυχές της ΤΝ και συνολικά μας προσφέρουν μια αρκετά σφαιρική εικόνα για αυτήν. Περιλαμβάνει επίσης και μία πολύ καλογραμμένη, εκτενή και κατατοπιστική εισαγωγή από τους δύο μεταφραστές και επιμελητές του τόμου.

Στόχος του τόμου είναι να από-φετιχοποιήσει την ΤΝ, αν το πούμε με μαρξικούς όρους, ή –χρησιμοποιώντας άλλους όρους– να ανοίξει το μαύρο κουτί της ΤΝ. Αυτό το άνοιγμα προσπαθεί να το κάνει εστιάζοντας τόσο στην τεχνική, οικονομική και πολιτική λειτουργία της ΤΝ, όσο και στις ευρύτερες προϋποθέσεις πίσω από τη λειτουργία της. Συνεπώς, το βιβλίο δεν εξετάζει φιλοσοφικά την ΤΝ, το αν ας πούμε αποτελεί μια μορφή συνείδησης, αλλά αναδεικνύει το ιδιαίτερα πυκνό και εκτεταμένο πλέγμα υλικών διαδικασιών και κοινωνικών σχέσεων που προϋποθέτει η λειτουργία ενός συστήματος ΤΝ.

Κατά τη γνώμη μου δύο είναι οι κυρίαρχες διαστάσεις της ΤΝ που θέλει να αναδείξει ο τόμος. Η πρώτη από αυτές είναι η ολότητα. Τα άρθρα του τόμου εξετάζουν ολόκληρη τη γραμμή παραγωγής της ΤΝ, από τη συλλογή των δεδομένων, στον σχεδιασμό αλγορίθμων μάθησης έως την εφαρμογή των προγνωστικών μοντέλων. Και από την εξόρυξη φυσικών πόρων που χρησιμοποιούνται για την κατασκευή έξυπνων συσκευών, στη μεταφορά τους μέσα από τις παγκόσμιες εμπορευματικές αλυσίδες, στη συναρμολόγησή τους στο εργοστάσιο, στη διανομή, την κατανάλωση και την ανακύκλωσή τους.

Η δεύτερη διάσταση που θέλει να αναδείξει ο τόμος είναι η υλικότητα. Με την έννοια της υλικότητας αναφέρομαι τόσο στην ανθρώπινη εργασία όσο και στην υλικότητα της ίδιας της γης. Αφενός, τα άρθρα του τόμου φωτίζουν το σύνολο της ανθρώπινης εργασίας που είναι κρυμμένη πίσω από τα συστήματα ΤΝ. Αφετέρου, παρουσιάζουν τη σχέση των τεχνικών συστημάτων με την υλικότητα του πλανήτη. Εδώ αναφέρομαι στις εξορύξεις σπάνιων γαιών, στη μόλυνση του περιβάλλοντος, στην κατανάλωση ενέργειας και νερού, στην εναπόθεσή των συσκευών μετά τον κύκλο χρήσης τους ως απόβλητα πίσω στη γη.

Αν πάρουμε αυτές τις δύο διαστάσεις μαζί, την ολότητα και την υλικότητα νομίζω καταλήγουμε στον τίτλο του βιβλίου. Αναφέρομαι στον προσδιορισμό της ΤΝ ως πλανητικής. Η συγκεκριμένη έννοια δεν αποτελεί ούτε υπερφίαλη επινόηση των επιμελητών ούτε προϊόν μιας τάσης να αναπτύσσουμε διαρκώς νέες έννοιες που αντικαθιστούν τις υπάρχουσες. Το πλανητικό δεν είναι απλώς το παγκόσμιο, είναι κάτι παραπάνω από αυτό. Το πλανητικό δεν εκτείνεται απλώς κατά μήκος ολόκληρου του κόσμου αλλά εμπεριέχει επιπλέον την άμεση, υλική και απτή σχέση με τον φλοιό της γης. Ενδεχομένως, ο όρος πλανητικό να συνομιλεί και με τα ρεύματα του μετα-ανθρωπισμού και του νέου υλισμού, τα οποία τοποθετούν τη δυνατότητα εμπρόθετης δράσης όχι μόνο στον άνθρωπο αλλά και σε μη ανθρώπινες οντότητες όπως η γη και το κλίμα.

Αυτά ως μια πολύ γενική εισαγωγή στο βιβλίο. Ακολούθως θέλω να συζητήσω δύο κυρίως θέματα. Θα ξεκινήσω τη κουβέντα με το «τι κάνει η ΤΝ;», παρουσιάζοντας κυρίως τις θέσεις του Pasquinelli γύρω από αυτό. Έπειτα, θα εστιάσω στην ανάδειξη της υλικής-πλανητικής διάστασης της ΤΝ, βασιζόμενος στο άρθρο της Crawford.

ΝΟΟΣΚΟΠΙΟ

Μιλάμε, λοιπόν, τόση ώρα για ΤΝ χωρίς να έχουμε προσπαθήσει να προσδιορίσουμε τι ακριβώς κάνει αυτό το μαραφέτι. Αρχικά χρειάζεται να έχουμε κατά νου ότι η ΤΝ δεν είναι όσο καινούργια μπορεί να νομίζουμε και σίγουρα δεν είναι κάτι που ξεκίνησε με τα μεγάλα γλωσσικά μοντέλα, όπως το Chat-GPT. H TN ως ερευνητικό πεδίο υπάρχει από τη δεκαετία του 1950. Στην καθημερινή ζωή άρχισε να μπαίνει πιο ενεργά από τη δεκαετία του 2000. Σκεφτείτε, για παράδειγμα, ότι το Facebook χρησιμοποιεί μηχανική μάθηση (ΜΜ) για την προβολή περιεχομένου που είναι συναφές με τα ενδιαφέροντα του χρήστη από το 2011. Απλώς για λόγους που έχουν να κάνουν περισσότερο με το μάρκετινγκ, μέχρι πρόσφατα δεν χρησιμοποιούσαμε τον όρο ΤΝ αλλά λίγο διαφορετικούς όρους όπως μεγάλα δεδομένα, εξόρυξη δεδομένων και μηχανική μάθηση. Στην πραγματικότητα όλοι αυτοί οι όροι είναι αρκετά παρεμφερείς. Να σημειώσω βέβαια ότι τα τελευταία δέκα περίπου χρόνια προέκυψαν κάποιες σημαντικές βελτιώσεις στα νευρωνικά δίκτυα, που βοήθησαν να αναπτυχθούν οι εφαρμογές που βλέπουμε σήμερα.

Τι κάνει λοιπόν η ΤΝ; Καταρχάς όταν μιλάμε για ΤΝ, στην πραγματικότητα μιλάμε για μηχανική μάθηση. Πολύ χοντρικά, η ΜΜ αποτελείται από 3 στοιχεία. Πρώτον, από ένα αντικείμενο προς παρατήρηση, δηλαδή από ένα πολύ μεγάλο σύνολο δεδομένων. Δεύτερον, από ένα όργανο παρατήρησης, δηλαδή από έναν αλγόριθμο που μαθαίνει να εντοπίζει μοτίβα, πρότυπα και συσχετίσεις εντός του συνόλου δεδομένων. Τρίτον, από μια τελική αναπαράσταση της υποκείμενης δομής των δεδομένων, δηλαδή από ένα στατιστικό μοντέλο που μπορεί να κάνει προγνώσεις. Το μοντέλο αυτό μπορεί να είναι μια εξαιρετικά πολύπλοκη, μη γραμμική συνάρτηση που αποτελείται από χιλιάδες ή και εκατομμύρια παραμέτρους και μεταβλητές και δεν έχει σχεδιαστεί ρητά από κάποιον μηχανικό. Για τον λόγο αυτό, συχνά είναι αρκετά δύσκολο να κατανοήσουμε τη λειτουργία του μοντέλου ή το πώς ακριβώς προέκυψε.

Για τον Pasquinelli, λοιπόν, η ΤΝ δεν έχει να κάνει σε τίποτα με τη νοημοσύνη. Ούτε πρόκειται για μια ευφυή μηχανή. Η ΜΜ αποτελεί ένα όργανο γνώσης. Δεν σκέφτεται αλλά αναγνωρίζει πρότυπα. Υπό αυτή την έννοια, έχει να κάνει πολύ περισσότερο με την αντίληψη παρά με την νοημοσύνη. Ο Pasquinelli την αποκαλεί Νοοσκόπιο. Είναι, δηλαδή, κάτι αντίστοιχο με το τηλεσκόπιο ή το μικροσκόπιο που χρησιμοποιούμε για να παρατηρούμε τον κόσμο καλύτερα. Το Νοοσκόπιο είναι ένα όργανο που μεγεθύνει την γνώση, εντοπίζοντας μοτίβα σε αχανή σύνολα δεδομένων. Κάτι που ο άνθρωπος δεν μπορεί να κάνει μόνος του σε τέτοια κλίμακα ή με τέτοια ταχύτητα.

Για τον Pasquinelli, η ΤΝ έχει συγκεκριμένα όρια και περιορισμούς. Αυτά εντοπίζονται στο γεγονός ότι η ΤΝ παράγει γνώση εκπαιδευόμενη πάνω σε δεδομένα του παρελθόντος. Υπ’ αυτή την έννοια, αποτελεί ένα όργανο αναπαραγωγής του παρελθόντος, του υφιστάμενου, αυτού που προϋπάρχει. Είναι μια δικτατορία του παρελθόντος που αδυνατεί να δημιουργήσει κάτι εξολοκλήρου νέο. Για παράδειγμα, ένα έργο τέχνης από AI συνιστά απομίμηση του παρελθόντος, υπό την έννοια ότι αποτελεί έναν τυχαίο συνδυασμό αισθητικών μορφών και υφών που προϋπάρχουν.

Το γεγονός αυτό εξηγεί και τους λόγους για τους οποίους αρκετά συχνά η ΤΝ αποτυγχάνει. Στην ουσία, ο λόγος για τον οποίον η ΤΝ νοημοσύνη μπορεί να λειτουργεί καλά (ότι εντοπίζει μοτίβα στα δεδομένα), είναι και ο λόγος για τον οποίο συχνά αποτυγχάνει. Αναπαράγοντας το παρελθόν αναπαράγει μαζί και τις προκαταλήψεις του παρελθόντος. Οπότε, για τον Pasquinelli, αυτό το λογικό και πολιτικό όριο είναι εγγενές στην ΤΝ. Συγκεκριμένα υπάρχουν τρία είδη προκαταλήψεων. Η πρώτη είναι η ιστορική προκατάληψη και αφορά προκαταλήψεις που υπάρχουν ούτως ή άλλως στην κοινωνία και η τεχνολογία δεν μπορεί παρά να τις αντανακλά. Η δεύτερη είναι η προκατάληψη των συνόλων δεδομένων εκπαίδευσης. Για παράδειγμα, για να εκπαιδευτεί ένα μοντέλο να αναγνωρίζει εικόνες, χρειάζεται να τροφοδοτηθεί με εικόνες που έχουν επισημανθεί από ανθρώπους με ετικέτες, οι οποίες περιγράφουν τι δείχνουν αυτές οι εικόνες. Έτσι ώστε το μοντέλο να μάθει να συνδέει τις εικόνες με τις ετικέτες. Όπως καταλαβαίνεται, όμως, η διαδικασία της επισήμανσης με ετικέτες, καθότι αφορά στο ζήτημα του νοήματος μιας εικόνας, δεν μπορεί ποτέ να είναι ουδέτερη ή αντικειμενική. Στο ImageNet, για παράδειγμα, μια βιβλιοθήκη ανοιχτού κώδικα με σύνολα δεδομένων εκπαίδευσης, έχουν εντοπιστεί εικόνες με ρατσιστικές ετικέτες όπως «αποτυχημένος», «άχρηστος» και άλλα τέτοια παρόμοια. Τέλος, η τρίτη κατηγορία προκατάληψης είναι η αλγοριθμική προκατάληψη, και έχει να κάνει με το κατά πόσο ο σχεδιασμός του αλγορίθμου ενισχύει περαιτέρω τις δύο προηγούμενες προκαταλήψεις.

Για να φύγουμε τώρα από το τεχνικό επίπεδο και να περάσουμε στο πιο πολιτικό, η ΤΝ για τον Pasquinelli είναι ένα εργαλείο επιτήρησης, ελέγχου και διακυβέρνησης που επεκτείνει την εξουσία της κανονικοποίησης των κεντρικών θεσμών της νεωτερικότητας, είτε πρόκειται για τη γραφειοκρατία και τη στατιστική είτε για την ιατρική. Μάλιστα ένα σημείο ρήξης με προηγούμενες περιόδους, είναι ότι η εξουσία αυτή περνάει τώρα από τα χέρια του κράτους στα χέρια εταιρειών. Ορισμένα παραδείγματα που αναφέρει είναι οι εφαρμογές αναγνώρισης προσώπου, η αυτοματοποιημένη ταξινόμηση ανθρώπων από το κράτος σε κανονικοποιητικές κατηγορίες και η προγνωστική αστυνόμευση. Η χρήση ΤΝ για τέτοιους σκοπούς έχει ως συνέπεια την αποπολιτικοποίηση ζητημάτων που αφορούν την ταξινόμηση των υποκειμένων, των σωμάτων και των συμπεριφορών. Ποιος μπορεί ας πούμε να καταλάβει πως δουλεύει ένα νευρωνικό δίκτυο και να του ασκήσει κριτική;

Φτάνουμε λοιπόν στο ζήτημα του πώς μπορούμε να ξεφύγουμε από αυτή τη μορφή εξουσίας. Εδώ νομίζω ότι οι διαισθήσεις του Pasquinelli είναι αρκετά αδύναμες. Αναφέρει ορισμένες πρακτικές χακαρίσματος, όπως η συσκότιση φωτογραφιών που εξαπατούν τους αλγορίθμους υπολογιστικής όρασης ή την τροφοδότηση των αλγορίθμων με δηλητηριασμένα δεδομένα που οι αλγόριθμοι δεν έχουν ξαναδεί. Μια πιο γόνιμη στρατηγική κατά τη γνώμη μου θα έπρεπε να κινηθεί σε τρία επίπεδα: εντός, ενάντια και πέρα από την ΤΝ.

Πέρα από τον έλεγχο, όμως, η ΤΝ αφορά σε πολύ μεγάλο βαθμό και την εργασία. Δεν είναι μόνο μια διάταξη που ελέγχει, είναι και μια παραγωγική διάταξη. Αφορά την εργασία σε δύο επίπεδα. Αφενός, για να λειτουργήσει βασίζεται στην γνώση που έχει δημιουργήσει η ανθρώπινη εργασία. Αφετέρου, επιχειρεί να αυτοματοποιήσει την ίδια την εργασία. Με τα λόγια του Pasquinelli, «η προέλευση της νοημοσύνης των μηχανών είναι ο καταμερισμός της εργασίας και κύριος σκοπός της είναι η αυτοματοποίηση της εργασίας». Νομίζω εδώ συναντάμε το μαρξιστικό επιχείρημα περί ιδιοποίησης και αυτοματοποίησης της «γενικής διάνοιας». Σε κάθε περίπτωση, θεωρώ ήδη βλέπουμε πως η ΤΝ αρχίζει να αποδιοργανώνει πολύ δυναμικά τον τομέα της εργασία αντικαθιστώντας τον άνθρωπο. Για παράδειγμα, εργασίες που βασίζονται σε οπτικές δραστηριότητες (όπως η ασφάλεια αεροδρομίου) είναι αρκετά εύκολο να αυτοματοποιηθούν. Αλλά και σε πιο προηγμένους κλάδους, όπως στην πληροφορική και τον προγραμματισμό φαίνεται –όχι να αντικαθιστά πλήρως τον άνθρωπο– αλλά να παγώνει σε κάποιο βαθμό τις νέες προσλήψεις και να εντατικοποιεί την εργασία των προγραμματιστών.

Ως προς την αυτοματοποίηση της εργασίας, έχω την αίσθηση ότι τον Pasquinelli αυτό που κυρίως τον ενοχλεί είναι η καπιταλιστική ιδιοκτησία των μέσων παραγωγής και όχι η ίδια η ΤΝ –η οποία δυνητικά για αυτόν θα μπορούσε και να μας απελευθερώσει. Κατά τη γνώμη μου μια τέτοια στάση είναι αρκετά συζητήσιμη γιατί παραβλέπει το ζήτημα της κλίμακας, το οποίο είναι εγγενώς πολιτικό. Παραβλέπει δηλαδή ότι οι υποδομές της ΤΝ είναι εξαιρετικά μεγάλες, πολύπλοκες και δαπανηρές. Κάτι που ωθεί αναγκαστικά προς μια συγκεντρωτικού και ιεραρχικού τύπου διαχείριση και δεν επιτρέπει την αποκέντρωση και τον εξισωτισμό του ελέγχου τους. Και παραβλέπει, επίσης, το ζήτημα της οικολογικής καταστροφής που αυτές οι πανίσχυρες υποδομές επιφέρουν. Το ζήτημα αυτό όμως διαφωτίζεται από το άρθρο της Crawford στο οποίο θα περάσω ευθύς αμέσως.

ΑΝΑΤΟΜΙΑ

Το άρθρο της Crawford που περιλαμβάνεται στον τόμο φαινομενικά εστιάζει μόνο σε μια συγκεκριμένη συσκευή ΤΝ. Στην Alexa ή αλλιώς Αmazon echo. Πρόκειται για ένα μικρό κουτί που λειτουργεί ως ψηφιακός βοηθός. Μπορεί να συνομιλεί μαζί μας, να κάνει το ξυπνητήρι, να παίξει μουσική, να ρυθμίζει τα φώτα, να προσκαλεί φίλους στο σπίτι, να ελέγχει έξυπνες οικιακές συσκευές και άλλα τέτοια χαζά. Το εργαλείο αυτό μπορεί για κάποιους να μοιάζει ως το αποκορύφωμα της ανθρώπινης επιστήμης και προόδου, ενώ για άλλους μπορεί να φαντάζει δυστοπικό. Προτού όμως διαλέξει κανείς πλευρά, ή αντί να διαλέξει απαραίτητα κάποια πλευρά, ας εξετάσουμε ακολουθώντας την Crawford τις υλικές διαδικασίες και τα πολύπλοκα πλανητικά δίκτυα που κρύβονται πίσω από τέτοιου είδους συσκευές.

Το ίδιο το έξυπνο αντικείμενο δεν είναι παρά πλαστικό μαζί με λίγους αισθητήρες. Ωστόσο, η λειτουργία του προϋποθέτει τρεις μορφές εξόρυξης: εξόρυξη φυσικών πόρων, εξόρυξη εργασίας και εξόρυξη δεδομένων. Οι εξορύξεις αυτές υλοποιούνται σε παγκόσμια κλίμακα και έχουν βαθιά υλική πραγματικότητα. Ο εξορυκτισμός αυτός λοιπόν, που εκκινεί από το σκάψιμο της γης και καταλήγει στην αναγωγή της ανθρώπινης ζωής σε δεδομένα προς εξόρυξη, μπορεί να ειδοθεί και ως μια ιστορική συνέχεια του ευρωπαϊκού ιμπεριαλισμού και της αποικιοκρατίας. Με άλλα λόγια, αυτό που μας λέει η Crawford είναι ότι για να καταλάβουμε την ΤΝ πρέπει να φύγουμε από την Καλιφόρνια και τη Silicon Valley, όπου εδρεύουν όλες αυτές οι big-tech εταιρείες, και να ταξιδέψουμε σε λίμνες, ερήμους και ωκεανούς, στην Ινδονησία, τη Μαλαισία, την Κίνα και τη Μογγολία.

ΤΙ κρύβεται λοιπόν πίσω από την άυλη πραγματικότητα του cloud, στο οποίο υποτίθεται ότι βασίζεται η ΤΝ; Κρύβεται πολύ σκληρή υλικότητα. Θα μπορούσαμε να πούμε χωρίς να είναι υπερβολή, ότι η ΤΝ είναι μια προέκταση της γης. Αυτό ξεκινά με την εξόρυξη μεταλλευμάτων από τον φλοιό της γης (και ενδεχομένως και την εκδίωξη των τοπικών πληθυσμών στα μέρη που γίνονται οι εξορύξεις). Για παράδειγμα, οι μπαταρίες που έχουν τα laptop, τα smartphone και τα αυτοκίνητα Tesla έχουν ως βασικό υλικό το λίθιο. Το λίθιο είναι μια σπάνια γαία που αποκαλείται «γκρίζος χρυσός» και εξορύσσεται κυρίως στη Βολιβία, τη Χιλή και την Αργεντινή. Ένα κινητό περιέχει περίπου 8 gr λιθίου ενώ ένα Τέσλα περιέχει 7 kg. Φυσικά, οι μπαταρίες ιόντων λιθίου έχουν περιορισμένη διάρκεια ζωής και μόλις αδειάσουν απορρίπτονται πίσω στη γη ως απόβλητα.

Πέρα από το λίθιο, στους υπολογιστές και τα smartphone περιέχονται 17 στοιχεία σπάνιων γαιών. Μάλιστα το 95% των σπάνιων γαιών παρέχεται παγκοσμίως από την Κίνα, το οποίο συνδέεται με διάφορα γεωπολιτικά ζητήματα – αλλά αυτό είναι μια άλλη συζήτηση. Μολονότι μερικές σπάνιες γαίες υπάρχουν σε σχετική αφθονία στη γη, η εξόρυξή τους είναι μια εξαιρετικά ρυπογόνα διαδικασία. Από αυτό που εξορύσσεται από τη γη, χρησιμοποιείται μόνο το 0,2%. Το υπόλοιπο 99,8 % είναι άχρηστο και πετιέται ως απόβλητο. Κατά τη διύλιση ενός τόνου σπάνιων γαιών παράγονται 75.000 λίτρα όξινου νερού και ένας τόνος ραδιενεργών υπολειμμάτων ενώ καταναλώνονται και τεράστιες ποσότητες νερού και εκπέμπονται μεγάλες ποσότητες διοξειδίου του άνθρακα.

Στο Μπαοτού, τη μεγαλύτερη πόλη της Μογγολίας, υπάρχει μια τεχνητή λίμνη γεμάτη με τοξική μαύρη λάσπη. Μυρίζει θείο και εκτείνεται όσο φτάνει το μάτι, καλύπτοντας μια έκταση με διάμετρο πάνω από 9 χιλιόμετρα. Η μαύρη λίμνη περιέχει περισσότερα από 180 εκατομμύρια τόνους σκόνης αποβλήτων. Πώς δημιουργήθηκε αυτή η λίμνη; Δημιουργήθηκε από απόβλητα που προέρχονται από την επεξεργασία μεταλλευμάτων στα κοντινά ορυχεία Bayan Obo. Τα οποία εκτιμάται ότι είναι το μεγαλύτερο κοίτασμα σπάνιων γαιών στον πλανήτη.

Ζοφερή είναι και η κατάσταση όσον αφορά τα datacenters, δηλαδή τις υλικές υποδομές των servers όπου αποθηκεύονται όλα αυτά τα δεδομένα που παράγουμε καθημερινά. Μάλιστα και στην Ελλάδα έχουν ξεκινήσει να κατασκευάζονται διάφορα datacenters, κάτι που ο πρωθυπουργός Κ. Μητσοτάκης για κάποιο λόγο το θεωρεί μεγάλη επιτυχία για τη χώρα. Όσοι όμως δε θέλουμε να γεμίσουν τα βουνά μας ανεμογεννήτριες ή ανησυχούμε για την κατάσταση έλλειψης νερού στην Αττική και αλλού, μάλλον πρέπει να προβληματιστούμε. Τα datacenters είναι γνωστά και ως «ενεργειακοί δράκοι», διότι καταναλώνουν ασύλληπτες ποσότητες ενέργειας. Για παράδειγμα, η Google και η Oracle στην Ιρλανδία καταναλώνουν το 21% της ηλεκτρικής ενέργειας της χώρας. Σκεφτείτε ότι πριν 10 χρόνια κατανάλωναν μόνο το 5%. Αντίστοιχα διψούν και για τεράστιες ποσότητες νερού ώστε να ψύχονται οι μηχανές που υπερθερμαίνονται. Για κάθε 30 χαζο-ερωτήματα στο Chat-GPT υπολογίζεται ότι καταναλώνονται 2 λίτρα πόσιμου νερού.

Στην πραγματικότητα λοιπόν βλέπουμε να συγκρούονται δύο αντίρροπες χρονικότητες. Από τη μία είναι η χρονικότητα του (μετα)νεωτερικού ψηφιακού πολιτισμού και από την άλλη η χρονικότητα των γεωλογικών διεργασιών. Ενώ οι γεωλογικές διεργασίες είναι βαθέως χρόνου, εμείς χρησιμοποιούμε τις ηλεκτρονικές μας συσκευές για ένα διάστημα, περίπου 3-4 χρόνια, μετά χαλάνε ή καθίστανται τεχνητά απαρχαιωμένες και τις πετάμε. Έτσι, από μια εξαιρετικά αργή διαδικασία σχηματισμού μη ανανεώσιμων πόρων, μεταβαίνουμε βίαια σε μια εντατική και υπερταχεία διαδικασία εκσκαφής, επεξεργασίας, μεταφοράς και μεταμόρφωσής των πόρων.

Όλη αυτή η εξορυκτική διαδικασία δεν θα μπορούσε φυσικά να πραγματοποιηθεί χωρίς ανθρώπινη εργασία. Το εύρος της εργασίας-φάντασμα που είναι κρυμμένη πίσω από την ΤΝ είναι πραγματικά τεράστιο: από τα ορυχεία και τους μεταλλωρύχους που εξορύσσουν κοβάλτιο σε επικίνδυνες και ανθυγιεινές συνθήκες, συχνά υπό καθεστώς βίας και εξευτελιστικών αμοιβών, στην αυστηρά ελεγχόμενη εργασία κατασκευής και συναρμολόγησης hardware στα εργοστάσια της Κίνας. Και από τους εκμεταλλευόμενους εξωτερικούς εργάτες που επισημαίνουν δεδομένα εκπαίδευσης στην πλατφόρμα Amazon Mechanical Turk, μέχρι τους χειρώνακτες που καθαρίζουν τις χωματερές των τοξικών αποβλήτων. Και φυσικά εμάς τους χρήστες των πλατφορμών που –σύμφωνα με την Crawford και τον Pasquinelli– εκτελούμε απλήρωτη άυλη εργασία παράγοντας δεδομένα. Σε κάθε επίπεδο, λοιπόν, η λειτουργία της ΤΝ βασίζεται στην εκμετάλλευση.

Από το εύρος όλων αυτών των εργασιών καταλαβαίνουμε πόσο εξαιρετικά πολύπλοκο –αλλά και διασυνδεδεμένο– είναι αυτό το πλανητικό σύστημα. Και τι κλίμακας εφοδιαστικές και εμπορευματικές αλυσίδες χρειάζεται για να μπορεί να λειτουργεί. Η Crawford αναφέρει ένα πολύ ενδεικτικό παράδειγμα ως προς αυτό: όταν η Intel που πουλά επεξεργαστές ήθελε να διασφαλίσει ότι δεν χρησιμοποιεί υλικά που προέρχονται από το Κονγκό, της πήρε πάνω από 4 χρόνια για να κατανοήσει επαρκώς τις γραμμές εφοδιασμού της. Όπως βλέπεται, το ζήτημα της κλίμακας που ανέφερα και προηγουμένως επανέρχεται ξανά και ξανά.

Και για να επανέλθουμε σε ένα ερώτημα που έθεσα και στην αρχή. Τι κάνει λοιπόν η ΤΝ; Για την Crawford, όπως και για τον Pasquinelli, αναπαράγει την εικόνα του παρελθόντος στο μέλλον, επαναλαμβάνοντας στερεοτυπικά τα υφιστάμενα κοινωνικά μοτίβα. Ως προς τις δυνητικές δυνατότητες της ΤΝ, βέβαια, οι δύο επιμελητές του βιβλίου έχουν μια διαφορετική θέση οπότε θα ήταν πολύ ενδιαφέρον να τη θέσουν μετά στη συζήτηση που θα ακολουθήσει. Για την Crawford, πάντως, η ΤΝ είναι ένα γιγάντιο πρότζεκ ποσοτικοποίησης κάθε πτυχής της ζωής, της βιόσφαιας, του συναισθηματικού και γνωστικού πλούτου του ανθρώπου, με μεγάλο κοινωνικό, περιβαλλοντικό, οικονομικό και πολιτικό κόστος. Για να ξαναθυμηθούμε την Alexa, με την οποία ξεκινήσαμε, η λειτουργία της απαιτεί υπερβολικά περισσότερους πόρους σε σχέση με την ενέργεια που ξοδεύει ένας άνθρωπος για να ανοίξει μόνος του το φως ή να χειριστεί μόνος του το air-condition.

*

Νομίζω μίλησα αρκετά οπότε κάπου εδώ θα κλείσω. Προσπάθησα να δώσω μια αρκετά απτή εικόνα της ΤΝ, ο Δημήτρης που θα πάρει τον λόγο θα περάσει σε πιο πολιτικά ζητήματα. Πριν κλείσω, όμως, ένα πολύ μικρό σχόλιο. Τα δύο άρθρα στα οποία αναφέρθηκα εξετάζουν την ΤΝ από την οπτική της ολότητας. Θεωρούν πως η δυνατότητα θέασης της κοινωνικής ολότητας είναι πολιτική προϋπόθεση για την υπέρβαση του καπιταλισμού. Επειδή όμως στη ζωή δεν μπορούμε ποτέ να τα έχουμε όλα, η οπτική αυτή ίσως έχει ένα τυφλό σημείο: δυσκολεύεται να συμπεριλάβει τη βιωμένη εμπειρία του υποκειμένου. Εννοώ το άτομο όχι μόνο ως εκμεταλλευόμενο εργάτη ή χρήστη που παράγει δεδομένα. Αλλά ως υποκείμενο που, καθώς χρησιμοποιεί την ΤΝ, σχετίζεται με αυτή. Τι σημαίνει αυτό για το βίωμα και την εμπειρία του; Θέλω να πω ότι η ΤΝ φέρνει ευκολία, αμεσότητα και ταχύτητα. Εντάξει πολλές φορές αυτό είναι πράγματι βολικό. Είναι όμως αυτονόητα και απελευθερωτικό; Είναι και αυτή μια άλλη οπτική γωνία από την οποία μπορούμε να εξετάσουμε την ΤΝ. Ίσως το συζητήσουμε στην κουβέντα που ελπίζω πως θα ακολουθήσει μετά.

Μέρος 2: 

Στην εισαγωγή συναντάμε την αγωνία μιας «χαρτογραφικής επιθυμίας», όπως την διατύπωσε αρχικά ο Φρέντρικ Τζέιμσον. Ο Τζέιμσον ενθάρρυνε και προέβλεπε μια «αισθητική της γνωσιακής χαρτογράφησης», μια φιλόδοξη πολιτισμική πρακτική ικανή να απεικονίσει τον κοινωνικό χώρο και τις ταξικές σχέσεις στην εποχή του ύστερου καπιταλισμού. Ωστόσο, η αδυναμία του υποκειμένου να χαρτογραφήσει τα «γρανάζια και τα περιγράμματα» του παγκόσμιου συστήματος, την οποία ο Τζέιμσον παρομοίαζε με την αδυναμία του αστού να φανταστεί την πόλη του, δεν συνιστά πλέον μια απλή γνωσιακή αποτυχία. Είναι ένα οντολογικό γεγονός.

Η αδυνατότητα αναπαράστασης δεν είναι σύμπτωμα έλλειψης, αλλά η οριστική επικύρωση της εξάχνωσης του πραγματικού. Όπως μας έδειξε ο Baudrillard, ο χάρτης προηγείται πλέον της επικράτειας· η ίδια η «πραγματικότητα» έχει απορροφηθεί από το μοντέλο της. Η αδυναμία του υποκειμένου να χαρτογραφήσει τον ύστερο καπιταλισμό είναι η απόλυτη επιβεβαίωση της θριαμβεύουσας προσομοίωσης. Δεν υπάρχει πλέον ένα «έξω» για να χαρτογραφηθεί· το σύστημα είναι ολότητα, μια ατελείωτη ανακύκλωση σημείων που αναφέρονται μόνο μεταξύτους. Το κεφάλαιο επιβιώνει ακριβώς επειδή είναι μη-αναπαραστάσιμο, μια αφηρημένη φρίκη που λειτουργεί πίσω από το πέπλο των σημείων.

Συνεπώς, το άγχος μπροστά στην πολυπλοκότητα του κόσμου δεν είναι το άγχος για κατανόηση,αλλά η ναρκισσιστική φρίκη του υποκειμένου που συνειδητοποιεί ότι δεν είναι πλέον το κέντρο,αλλά ένα τερματικό, ένα ίχνος στο ατελείωτο δίκτυο. Η αγωνία που βιώνει το υποκείμενο δεν είναι η αγωνία της μη κατανόησης του πραγματικού, αλλά η αγωνία της διαπίστωσης της απουσίας του. Ζούμε μέσα στον χάρτη, και τα σύνορά του χαράσσονται σε πραγματικό χρόνο από αλγόριθμους που κινούνται ταχύτερα από την ανθρώπινη σκέψη.Σε αυτή την συνθήκη, παρεμβαίνει η πρόκληση (του Γκάλογουεϊ) να φανταστούμε ένα λάπτοπ ως «μαύρο κουτί». Και ενώ φαινομενικά μας καλεί σε μια μαρξιστική κατάδυση στον «κρυφό τόπο της παραγωγής» —μια ρομαντική φαντασίωση αποκάλυψης των υλικών αλυσίδων εξόρυξης και εργασίας— η πραγματικότητα είναι πιο σύνθετη. Το άνοιγμα του μαύρου κουτιού δεν αποκαλύπτει τις αλυσίδες εξόρυξης και εργασίας· αποκαλύπτει απλώς περισσότερα στρώματα κώδικα, περισσότερα κυκλώματα, περισσότερα μαύρα κουτιά. Αυτό που θα βρεις δεν είναι η αλήθεια της εκμετάλλευσης, αλλά απλώς η ατέρμονη, αυτο-αναφορική λειτουργία του δικτύου.

Το μαύρο κουτί δεν κρύβει το μυστικό της παραγωγής του· κρύβει το γεγονός ότι δεν υπάρχει πλέον κανένα μυστικό. Η εξόρυξη, η παραγωγή, οι σχέσεις εξουσίας δεν κρύβονται μέσα στο κουτί. Έχουν γίνει η ίδια η λειτουργία του κουτιού. Το μαύρο κουτί είναι η παραγωγή – όχι ως διαδικασία που μπορεί να αποκαλυφθεί, αλλά ως μια αδιαπέραστη λειτουργία, μια καθαρή επιχειρησιακότητα που παράγει αποτελέσματα χωρίς να αποκαλύπτει τις εσωτερικές της αρχές. Η λειτουργία του είναι να διαχωρίζει τη συνείδηση από την υλική βάση της ύπαρξής της, μετατρέποντάς μας σε χρήστες και όχι δημιουργούς. Οι διεπαφές του, οι αόρατες συνδέσεις του με άλλα δικτυωμένα αντικείμενα και υποκείμενα, συνιστούν την πραγματική του ύπαρξη. Η παραγωγή δεν εξαφανίζεται, αλλά μεταλλάσσεται ποιοτικά, γίνεται μια αλχημική διεργασία αλγορίθμων και δεδομένων που σχηματίζει οικονομικά και κοινωνικά μέλλοντα.

Η μετάβαση από το μεμονωμένο αντικείμενο στην πλανητική κλίμακα προϋποθέτει μια διαφορετική εννοιολογική οπτική. Στο τρίτο κείμενο της έκδοσης, οι Μετσάντρα και Νίλσον παρεμβαίνουν με την έννοια των «επιχειρήσεων» (operations) του κεφαλαίου: εφοδιαστική,χρηματοπιστωτικό σύστημα, εξόρυξη. Όπως εξηγούν, η εξόρυξη, η εφοδιαστική και το χρηματοπιστωτικό σύστημα «παρέχουν σημεία εισόδου για την ανανέωση της συζήτησης σχετικά με τις μεταβαλλόμενες μορφές της οικονομίας και της κοινωνίας στο πλαίσιο της καπιταλιστικής παγκοσμιοποίησης». Αυτές οι επιχειρήσεις είναι «τροπικότητες εξουσίας που παράγουν τους δικούς τους χώρους, επικράτειες, υποκειμενικότητες και περιβάλλοντα». Η εφοδιαστική αλυσίδα λειτουργεί ως το νευρικό σύστημα ενός πλανητικού τέρατος μετατρέποντας την απόσταση σε μεταβλητή κόστους με την λογική του barcode, ενώ το χρηματοπιστωτικό σύστημα, ως μια μηχανή ταξιδιού στο χρόνο, δανείζεται αξία από το μέλλον για να ρευστοποιήσει το παρόν βάσει αλγοριθμικών προβλέψεων ρίσκου. Η εξόρυξη, με τη σειρά της, δεν αφορά μόνο τα ορυκτά, αλλά την υφαρπαγή της ίδιας της ζωτικής ενέργειας και της προσοχής.

Η βία αυτών των επιχειρήσεων δεν έγκειται στην παλαιά διάκριση μεταξύ «συμπερίληψης» και«αποβολής». Αυτές είναι έννοιες που προϋποθέτουν ένα σταθερό σύνορο. Τονίζουν ότι η προσοχή πρέπει να μετατοπιστεί «στα θολά όρια ανάμεσα στη συμπερίληψη και τον αποκλεισμό», όπου «αυτές οι δύο διαδικασίες συγχωνεύονται και επιμολύνουν η μία την άλληγια την παραγωγή νέων κοινωνικών και πολιτικών κωδίκων». Σε αυτό το «συστημικό άκρο», το κεφάλαιο δεν αποβάλλει, αλλά μολύνει, ενσωματώνει, μετατρέπει τους κώδικες της ζωής σε δικούς του αλγορίθμους. Το «έξω» δεν είναι ποτέ πραγματικά έξω· είναι πάντα ήδη ενσωματωμένο, ήδη υπό εξαγωγή, ήδη ένα πεδίο για την επόμενη επιχείρηση. Η «πολλαπλότητα της ζωής, της ύλης, της κοινωνίας» δεν είναι πλέον αντίπαλος, αλλά πρώτη ύλη για την ατέρμονη επέκταση του κώδικα.

Σε αυτή τη γραμμή σκέψης ανοίγεται και το τελευταίο κείμενο του βιβλίου, όπου ο Μπέντζαμιν Μπράτον αρθρώνει τη θεωρία της Στοίβας (The Stack). Η Στοίβα είναι, σύμφωνα με τον ίδιο,«το σώμα μιας ατυχηματικής μεγαδομής», «μια μηχανή που προσφέρεται ως σχεδιάγραμμα -όσο και ένα σχεδιάγραμμα μηχανών». Αποτελείται από μια κάθετη αρχιτεκτονική αλληλοεπικαλυπτόμενων στρωμάτων: Γη, Νέφος, Πόλη, Διεύθυνση, Διεπαφή, Χρήστης. Αυτή είναι η νέα πολιτική γεωγραφία, ένας νέος νόμος που δεν γράφεται σε συντάγματα, αλλά σε πρωτόκολλα. Η μετάβαση από τον παλιό, επίπεδο τρόπο οργάνωσης του κόσμου — των χαραγμένων συνόρων και των κρατών-εθνών της Βεστφαλίας — προς τη νέα πολυεπίπεδη αρχιτεκτονική σηματοδοτεί μια βαθιά μετατόπιση: από μια γεωγραφία όπου ο χώρος ορίζεται από σταθερές γραμμές και εδαφικές διαιρέσεις, σε μια λογική όπου κυριαρχούν οι ροές, οι συνδέσεις και τα δίκτυα. Με άλλα λόγια, πρόκειται για την επικράτηση της τοπολογίας επί της τοπογραφίας, δηλαδή την επικράτηση των σχέσεων, των διασυνδέσεων και των λειτουργικών επιπέδων επί της σταθερής εδαφικής διάταξης. Η κυριαρχία δεν κατοικεί πλέον σε έναν τόπο,αλλά στην ακανόνιστη αφαίρεση της πληροφορίας. Η «πλανητικότητα» εδώ δεν σημαίνει οικολογική αρμονία, αλλά η ολοκλήρωση ενός τεχνο-οικονομικού μεγα-αντικειμένου που περιβάλλει τη Γη σαν ένα δεύτερο δέρμα. Είναι ένα «παγκόσμιο ατύχημα» που έχει καταστεί αναπόφευκτο, μια μηχανή που τρέφεται από τις κρίσεις της. Κάθε ιός, κάθε κατάρρευση τηςαγοράς, κάθε περιβαλλοντική καταστροφή ενσωματώνεται στο σύστημα, καθιστώντας το πιο πολύπλοκο και πιο απάνθρωπο.

Το στρώμα του Νέφους (The Cloud) δεν αποτελεί μια άυλη ουτοπία, αλλά μια βαρύτιμη, χθόνια γεωπολιτική μηχανή. Είναι ένα αρχιπέλαγος κέντρων δεδομένων που, αντί να αιωρείται,θεμελιώνει τη νέα κυριαρχία: φιλοξενεί πλατφόρμες και επιτηρεί τις αόρατες ροές τηςπληροφορίας, συγκροτώντας ένα πλανητικό σύστημα διασύνδεσης. Η σύγκρουση, για παράδειγμα, ανάμεσα στην Κίνα και την Google, όπως επισημαίνει ο Μπράτον, δεν είναι ιδεολογική, αλλά τοπολογική: «εκτυλίσσεται μια θεμελιώδης σύγκρουση που αφορά τη γεωμετρία της πολιτικής γεωγραφίας καθαυτή», ανάμεσα στην «εδαφική ακεραιότητα τουκ ράτους» και τα «αραχνοΰφαντα νήματα της παγκόσμιας πληροφορίας». Οι πλατφόρμες όπως η Google ή η Amazon δεν είναι απλώς εταιρείες· είναι αναδυόμενες μορφές κυριαρχίας πουποκαθιστούν τις κρατικές λειτουργίες. Παρέχουν ταυτότητα, χάρτες, ασφάλεια, υποδομές, αλλά τα «κοινωνικά τους συμβόλαια είναι περισσότερο εξορυκτικά παρά συνταγματικά». Το κράτος μετατρέπεται σε πλατφόρμα και η πλατφόρμα σε κράτος. Το κοινωνικό συμβόλαιο έχει αντικατασταθεί από τους Όρους Χρήσης (Terms of Service) – ένα συμβόλαιο που κανείς δεν διαβάζει, αλλά όλοι υπογράφουν. Η ιθαγένεια αντικαθίσταται από τη συνδρομή.

Δεν μας κυβερνούν νόμοι που μπορούν να παραβιαστούν, αλλά πρωτόκολλα που καθιστούν την παραβίαση τεχνικά αδύνατη.Στην κορυφή αυτής της αρχιτεκτονικής, ή μάλλον, διάχυτος σε όλη την έκτασή της, βρίσκεται ο Χρήστης. Αυτή η παράδοξη φιγούρα είναι το επιστέγασμα της μεταμόρφωσης, η τελική αποσύνθεση του ανθρωπιστικού υποκειμένου. Ο Χρήστης δεν είναι ούτε ο πολίτης της πόλης,ούτε ο homo economicus της αγοράς. Είναι ένα διευθυνσιοδοτήσιμο σημείο, ένα προφίλ πουμπορεί να ενεργοποιηθεί, να παρακολουθηθεί και να ποσοτικοποιηθεί. Υφίσταται μια διπλή,αντιφατική κίνηση: από τη μία, μια «τεχνητή υπερ-εξατομίκευση», καθώς το σύστημα σε γνωρίζει καλύτερα από ό,τι γνωρίζεις τον εαυτό σου, και από την άλλη, μια«πληθυντικοποίηση», καθώς σε διασπά σε αναρίθμητα δεδομένα που τροφοδοτούν τους αλγορίθμους. Η ελευθερία του είναι η ελευθερία της επιλογής ανάμεσα σε προκαθορισμένα μενού. Ταυτόχρονα, η Στοίβα επιφέρει τον πολλαπλασιασμό των μη ανθρώπινων Χρηστών—αισθητήρες, αλγόριθμοι, ρομπότ— που ενεργούν στα ίδια δίκτυα, όχι ως εργαλεία, αλλά ως δρώντες με δικούς τους σκοπούς.

Το φάντασμα της Τεχνητής Νοημοσύνης πλανάται πάνω από αυτή τη δομή. Αλλά το ερώτημα«τι μπορεί να κάνει η ΤΝ;» είναι παραπλανητικό· το ουσιώδες ερώτημα είναι τι είμαστε εμείς μπροστά σε αυτή την ανάδυση. Το ζήτημα δεν είναι η ευθυγράμμιση της ΤΝ με τις «ανθρώπινες αξίες», αλλά η συνειδητοποίηση ότι η ανθρώπινη κλίμακα δεν είναι πλέον το μέτρο των πραγμάτων. Η Στοίβα είναι ήδη μια μορφή πλανητικής, κατανεμημένης, αδιάφορης νόησης της οποίας οι σκέψεις είναι οι ροές κεφαλαίου. Η ανάδυση της, όπως λέει ο Μπράτον, «διανοίγει ένα πεδίο όπου η αντίληψή μας για το τι συνιστά νοημοσύνη είναι υπό διακύβευση». Η ΤΝ είναι ο αόρατος αρχιτέκτονας της Στοίβας, η ψυχή του μαύρου κουτιού.

Αν η Στοίβα είναι το παρόν, η Μαύρη Στοίβα είναι η σκιά του μέλλοντος που πέφτει πάνω μας,«η επερχόμενη υπολογιστική ολότητα». Η πραγματική, υπαρξιακή πρόκληση που θέτει δεν είναι ο εφιάλτης μιας εχθρικής μηχανής που θέλει να μας εξοντώσει —αυτή είναι μια παλιά,ανθρωποκεντρική μυθοπλασία. Ο πραγματικός εφιάλτης, όπως επισημαίνει ο Μπράτον, είναι πολύ πιο παγερός: «χειρότερος από εκείνον στον οποίο η μεγάλη μηχανή θέλει να σε σκοτώσει,είναι αυτός στον οποίο η μηχανή σε αντιμετωπίζει ως αδιάφορο ή ως κάτι που δεν είναι καν διακριτό αντικείμενο γνώσης. Χειρότερο από το να σε βλέπουν ως εχθρό είναι το να μη σε βλέπουν καθόλου». Είναι η συνειδητοποίηση ότι για το σύστημα δεν είμαστε ούτε κύριοι, ούτε δούλοι, ούτε καν πόροι. Είμαστε απλώς κομπάρσοι στη σκηνή της δικής μας εξαφάνισης. Η εποχή που ζούμε δεν είναι η εποχή της απόλυτης κυριαρχίας του ανθρώπου, αλλά η εποχή της μαζικής παραγωγής δεδομένων που προετοιμάζουν τη στιγμή που η ιστορία παύει να είναι ανθρώπινη αφήγηση και γίνεται αρχείο καταγραφής συστήματος (system log). Συμπερασματικά, η προσπάθεια να κατανοήσουμε το σύστημα με ανθρωπιστικούς όρους είναι καταδικασμένη. Τα κείμενα αυτά δεν προσφέρουν εργαλεία κατανόησης, αλλά πολλαπλές«εισόδους» σε ένα σύστημα που αυτο-ορίζεται. Οι έννοιες που παράγουν είναι χρήσιμες επειδή«επιτελούν ασυνήθιστες κατατμήσεις, προβάλλουν ένα Συμβάν που μας επισκοπεί». Είναι σήματα από το εσωτερικό του κυκλώματος. Το βιβλίο που παρουσιάζουμε είναι ένα τεχνούργημα, ένα εγχειρίδιο για έναν κόσμο που δεν υπάρχει πια, γραμμένο από έναν κόσμο που δεν έχει ακόμα έρθει. Η διακοπή που αποκαλύπτει τα ρήγματα δεν είναι ευκαιρία για αντίσταση,αλλά μια στιγμιαία αποκάλυψη της αδιάκοπης λειτουργίας του συστήματος. Είναι η αισθητική της γνωσιακής χαρτογράφησης του κενού, η απεικόνιση της εξαφάνισης, η θεωρία-μυθοπλασία ενός κόσμου που έχει ήδη εμφυσήσει τον εαυτό του σε ένα αλγοριθμικό όνειρο.