Του *Γιώργου ΣαχίνηΗ “διπλή υπόσχεση” για απεριόριστα κέρδη και απεριόριστο έλεγχο που φέρνει η νέα τεχνολογική επανάσταση, αλλάζει πλήρως τα δεδομένα.
Όταν η τεχνολογία παύει να είναι ουδέτερη, ποιος Όργουελ και ποιος Χάξλεϊ, η έκρηξη της τεχνολογικής επανάστασης αιχμής τα προσπερνάει όλα με καταιγιστικό ρυθμό και χρόνους κλάσματος δευτερολέπτου.
Ζούμε σε μια εποχή όπου η τεχνολογία δεν είναι πια απλώς ένα εργαλείο. Δεν είναι κάτι που χρησιμοποιούμε ουδέτερα, αλλά κάτι που οργανώνει τον κόσμο γύρω μας. Οι μεγάλες ιδιωτικές πολυεθνικές εταιρείες δεν πουλάνε μόνο προϊόντα, διαμορφώνουν πλέον πραγματικότητες, θεσμούς και τελικά την ίδια την έννοια της εξουσίας.
Πίσω από τη ρητορική της καινοτομίας και της προόδου, αρχίζει να ξεπροβάλλει κάτι πιο βαθύ: μια νέα συμμαχία μεταξύ τεχνολογίας και κράτους των ολίγων, κράτους ιδιωτικής χρήσης. Ένα νέο μοντέλο όπου η ισχύς δε βασίζεται μόνο σε όπλα ή οικονομία, αλλά σε δεδομένα, αλγορίθμους και συστήματα Τεχνητής Νοημοσύνης.
Σε αυτό το πλαίσιο, ορισμένα κείμενα δεν είναι απλώς ιδέες. Είναι δηλώσεις πρόθεσης. Και ένα από τα πιο χαρακτηριστικά είναι το μανιφέστο που ακολουθεί, μέσα από τα σπλάχνα της Palantir, στην “καρδιά” της Silicon Valley. Η Palantir αυτοπαρουσιάζεται, ως η λύση σε μια “υπαρξιακή κρίση” παγκόσμιων διαστάσεων, που η ίδια βοηθά και να ορίσουμε. Η τεχνολογία ως εργαλείο εθνικής επιβίωσης ακούγεται ωραία, αλλά στην πράξη σημαίνει περισσότερο συγκεντρωτικό έλεγχο, AI σε χέρια λίγων και λιγότερη διαφάνεια. Είναι το δημόσιο ιδεολογικό μανιφέστο μιας εταιρείας που ζει από συμβόλαια με στρατούς, υπηρεσίες πληροφοριών και κυβερνήσεις.
Το μανιφέστο της “Τεχνολογικής Δημοκρατίας” της Palantir Technologies
(Από το βιβλίο “The Technological Republic: Hard Power, Soft Belief, and the Future of the West” των Alexander C. Karp & Nicholas W. Zamiska)
«Η τεχνολογική δημοκρατία, εν συντομία:
1) Η Silicon Valley χρωστάει ένα ηθικό χρέος στη χώρα που κατέστησε δυνατή την άνοδό της. Η τεχνολογική ελίτ της Silicon Valley έχει μια θετική υποχρέωση να συμμετάσχει στην άμυνα του έθνους.
2) Πρέπει να επαναστατήσουμε ενάντια στην τυραννία των εφαρμογών. Είναι το iPhone η μεγαλύτερη δημιουργική μας επιτυχία, αν όχι το στέμμα της ως πολιτισμού; Το αντικείμενο άλλαξε τις ζωές μας, αλλά μπορεί τώρα να περιορίζει και να περιοριστικά επηρεάζει την αίσθησή μας για το τι είναι δυνατό.
3) Το δωρεάν email δεν αρκεί. Η παρακμή ενός πολιτισμού ή πολιτισμού, και πράγματι της κυρίαρχης τάξης του, θα συγχωρεθεί μόνο αν αυτός ο πολιτισμός είναι ικανός να προσφέρει οικονομική ανάπτυξη και ασφάλεια στο κοινό.
4) Τα όρια της μαλακής ισχύος, της υψηλής ρητορικής μόνο, έχουν αποκαλυφθεί. Η ικανότητα των ελεύθερων και δημοκρατικών κοινωνιών να υπερισχύσουν απαιτεί κάτι περισσότερο από ηθική έλξη. Απαιτεί σκληρή ισχύ, και η σκληρή ισχύς αυτόν τον αιώνα θα χτιστεί πάνω σε λογισμικό.
5) Το ερώτημα δεν είναι αν θα κατασκευαστούν όπλα Τ.Ν., είναι ποιος θα τα κατασκευάσει και για ποιο σκοπό. Οι αντίπαλοί μας δε θα παγώσουν για να επιδοθούν σε θεατρικές συζητήσεις για τα πλεονεκτήματα της ανάπτυξης τεχνολογιών με κρίσιμες στρατιωτικές και εθνικές εφαρμογές ασφαλείας. Θα προχωρήσουν.
6) Η εθνική θητεία πρέπει να είναι καθολική υποχρέωση. Εμείς, ως κοινωνία, πρέπει να εξετάσουμε σοβαρά την απομάκρυνση από μια δύναμη μόνο εθελοντών και να πολεμήσουμε μόνο τον επόμενο πόλεμο αν όλοι μοιραστούν τον κίνδυνο και το κόστος.
7) Αν ένας Αμερικανός πεζοναύτης ζητήσει ένα καλύτερο τουφέκι, πρέπει να το κατασκευάσουμε και το ίδιο ισχύει για το λογισμικό. Πρέπει, ως χώρα, να είμαστε ικανοί να συνεχίζουμε μια συζήτηση για την καταλληλότητα στρατιωτικής δράσης στο εξωτερικό, ενώ παραμένουμε ακλόνητοι στη δέσμευσή μας προς όσους έχουμε ζητήσει να μπουν στον δρόμο του κινδύνου.
8) Οι δημόσιοι υπάλληλοι δε χρειάζεται να είναι οι ιερείς μας. Οποιαδήποτε επιχείρηση που αμείβει τους υπαλλήλους της με τον τρόπο που η ομοσπονδιακή κυβέρνηση αμείβει τους δημοσίους υπαλλήλους θα δυσκολευόταν να επιβιώσει.
9) Πρέπει να δείχνουμε πολύ περισσότερη χάρη προς όσους έχουν υποβάλει τον εαυτό τους στη δημόσια ζωή. Η εξάλειψη οποιουδήποτε χώρου για συγχώρεση – ένα απόρριψη οποιασδήποτε ανοχής για τις πολυπλοκότητες και αντιφάσεις της ανθρώπινης ψυχής – μπορεί να μας αφήσει με ένα καστ χαρακτήρων στο τιμόνι που θα μετανιώσουμε που μεγαλώσαμε.
10) Η ψυχολογικοποίηση της σύγχρονης πολιτικής μάς οδηγεί σε λάθος δρόμο. Όσοι κοιτάζουν στην πολιτική αρένα για να θρέψουν την ψυχή και την αίσθηση του εαυτού τους, που βασίζονται υπερβολικά στην εσωτερική τους ζωή να βρίσκει έκφραση σε ανθρώπους που μπορεί ποτέ να μη συναντήσουν, θα μείνουν απογοητευμένοι.
11) Η κοινωνία μας έχει γίνει υπερβολικά πρόθυμη να βιάσει, και συχνά χαίρεται την παρακμή των εχθρών της. Η νίκη ενός αντιπάλου είναι στιγμή για παύση, όχι για χαρά.
12) Η ατομική εποχή τελειώνει. Μια εποχή αποτροπής, η ατομική εποχή, τελειώνει, και μια νέα εποχή αποτροπής χτισμένη στην Τ.Ν. ετοιμάζεται να ξεκινήσει.
13) Καμία άλλη χώρα στην ιστορία του κόσμου δεν έχει προωθήσει προοδευτικές αξίες περισσότερο από αυτή. Οι Ηνωμένες Πολιτείες απέχουν πολύ από το τέλειο. Αλλά είναι εύκολο να ξεχάσουμε πόσο περισσότερες ευκαιρίες υπάρχουν σε αυτή τη χώρα για όσους δεν είναι κληρονομικές ελίτ από οποιοδήποτε άλλο έθνος στον πλανήτη.
14) Η αμερικανική ισχύς κατέστησε δυνατή μια εξαιρετικά μακρά ειρήνη. Πολλοί έχουν ξεχάσει ή ίσως θεωρούν δεδομένο ότι σχεδόν ένας αιώνας κάποιας εκδοχής ειρήνης έχει υπερισχύσει στον κόσμο χωρίς μεγάλη στρατιωτική σύγκρουση δυνάμεων. Τουλάχιστον τρεις γενιές, δισεκατομμύρια άνθρωποι και τα παιδιά τους και τώρα εγγόνια, δεν έχουν γνωρίσει ποτέ παγκόσμιο πόλεμο.
15) Η μεταπολεμική εξουδετέρωση της Γερμανίας και της Ιαπωνίας πρέπει να αναιρεθεί. Η αφοπλιστική Γερμανία ήταν υπερδιόρθωση για την οποία η Ευρώπη πληρώνει τώρα βαρύ τίμημα. Μια παρόμοια και υπερβολικά θεατρική δέσμευση στον ιαπωνικό πασιφισμό θα, αν διατηρηθεί, απειλήσει επίσης να αλλάξει την ισορροπία δυνάμεων στην Ασία.
16) Πρέπει να χειροκροτήσουμε όσους προσπαθούν να “χτίσουν” εκεί που η αγορά απέτυχε να δράσει. Ο πολιτισμός σχεδόν σαρκάζει το ενδιαφέρον του Musk για μεγάλη αφήγηση, σαν οι δισεκατομμυριούχοι να έπρεπε απλώς να μείνουν στον δικό τους δρόμο εμπλουτισμού του εαυτού τους… Οποιαδήποτε περιέργεια ή γνήσιο ενδιαφέρον για την αξία αυτού που έχει δημιουργήσει απορρίπτεται ουσιαστικά, ή ίσως κρύβεται κάτω από μια λεπτά καλυμμένη περιφρόνηση.
17) Η Silicon Valley πρέπει να παίξει ρόλο στην αντιμετώπιση της βίαιης εγκληματικότητας. Πολλοί πολιτικοί σε ολόκληρες τις Ηνωμένες Πολιτείες έχουν ουσιαστικά σηκώσει τους ώμους όταν πρόκειται για βίαια εγκλήματα, εγκαταλείποντας οποιαδήποτε σοβαρή προσπάθεια να αντιμετωπίσουν το πρόβλημα ή να αναλάβουν οποιοδήποτε ρίσκο με τους ψηφοφόρους ή δωρητές τους στο να βρουν λύσεις και πειράματα σε αυτό που θα έπρεπε να είναι μια απελπισμένη προσπάθεια να σώσουν ζωές.
18) Η αδυσώπητη έκθεση της ιδιωτικής ζωής δημόσιων προσώπων διώχνει υπερβολικά πολύ ταλέντο μακριά από τη δημόσια υπηρεσία. Η δημόσια αρένα και οι ρηχές και μικρολόγοι επιθέσεις εναντίον όσων τολμούν να κάνουν κάτι άλλο πέρα από τον εμπλουτισμό του εαυτού τους έχει γίνει τόσο αμείλικτη που η δημοκρατία μένει με ένα σημαντικό ρόστερ αναποτελεσματικών, κενών δοχείων των οποίων η φιλοδοξία κανείς θα συγχωρούσε αν υπήρχε οποιαδήποτε γνήσια δομή πίστης να κρύβεται μέσα.
19) Η προσοχή στη δημόσια ζωή που ακούσια ενθαρρύνουμε είναι διαβρωτική. Όσοι δε λένε τίποτα λάθος συχνά δε λένε τίποτα σημαντικό καθόλου.
20) Η διαδεδομένη δυσανεξία της θρησκευτικής πίστης σε ορισμένους κύκλους πρέπει να αντισταθεί. Η δυσανεξία της ελίτ για τη θρησκευτική πίστη είναι ίσως ένα από τα πιο αποκαλυπτικά σημάδια ότι το πολιτικό της σχέδιο αποτελεί μια λιγότερο ανοιχτή διανοητική κίνηση απ’ ό,τι πολλοί μέσα της θα ισχυρίζονταν.
21) Μερικοί πολιτισμοί έχουν παράγει ζωτικές προόδους, άλλοι παραμένουν δυσλειτουργικοί και παλινδρομικοί. Όλοι οι πολιτισμοί είναι τώρα ίσοι. Η κριτική και οι κρίσεις αξίας απαγορεύονται. Ωστόσο, αυτό το νέο δόγμα καλύπτει το γεγονός ότι ορισμένοι πολιτισμοί και πράγματι υποπολιτισμοί… έχουν παράγει θαύματα. Άλλοι έχουν αποδειχθεί μέτριοι, και χειρότερα, παλινδρομικοί και επιβλαβείς.
22) Πρέπει να αντισταθούμε στον ρηχό πειρασμό ενός κενού και κούφιου πλουραλισμού. Εμείς, στην Αμερική και ευρύτερα στη Δύση, έχουμε για τον τελευταίο μισό αιώνα αντισταθεί στον ορισμό εθνικών πολιτισμών στο όνομα της συμπεριληπτικότητας. Αλλά συμπερίληψη σε τι;
(Απόσπασμα από το #1 Bestseller των “New York Times” The Technological Republic: Hard Power, Soft Belief, and the Future of the West, του Alexander C. Karp & Nicholas W. Zamiska”*)
Τι πραγματικά λέει το μανιφέστο (χωρίς ωραιοποιήσεις)
Αυτό είναι το δημόσιο ιδεολογικό μανιφέστο μιας εταιρείας που ζει από συμβόλαια με στρατούς, υπηρεσίες πληροφοριών και κυβερνήσεις.
Το μήνυμα είναι ξεκάθαρο: «Εμείς – οι μηχανικοί και οι εταιρείες – είμαστε η νέα ελίτ που πρέπει να καθοδηγήσει το κράτος, όχι να υπηρετεί απλώς τους καταναλωτές». Δεν πρόκειται για πατριωτισμό. Είναι επαναπροσδιορισμός της εξουσίας. Αυτό που περιγράφεται είναι μια στρατηγική σύμπλευση:
Big Tech + κράτος = νέο καθεστώς ισχύος.
Η Silicon Valley δεν είναι πια ο “κακός” των apps. Είναι η νέα ελίτ που διεκδικεί ρόλο διακυβέρνησης.
Η τεχνολογία παύει να είναι ουδέτερη. Μετατρέπεται σε σκληρή ισχύ. Και η σκληρή ισχύς, στον 21ο αιώνα, γράφεται σε κώδικα.
Το αφήγημα είναι δομημένο με ακρίβεια: Ο κόσμος είναι επικίνδυνος. Η ειρήνη είναι εύθραυστη. Οι αντίπαλοι καραδοκούν. Άρα χρειάζεται συσπείρωση. Και αυτή η συσπείρωση σημαίνει: περισσότερη συνεργασία κράτους-τεχνολογίας, περισσότερο έλεγχο, λιγότερη ελευθερία
Από τα apps στις αποφάσεις ζωής και θανάτου
Το μανιφέστο λέει κάτι που πολλοί αποφεύγουν: το AI δεν είναι για να κάνει τη ζωή μας πιο εύκολη. Είναι για να καθορίζει ποιος επιβιώνει και ποιος όχι.
Kill chains. Μαζική επιτήρηση. Πρόβλεψη συμπεριφορών. Η “ατομική αποτροπή” τελειώνει. Η νέα αποτροπή θα είναι αλγοριθμική. Αυτό σημαίνει πολέμους: πιο γρήγορους, πιο αυτόματους, πιο απρόβλεπτους.
Νέες ιεραρχίες, λιγότερη ανεκτικότητα
Η επίθεση στον πολιτισμικό σχετικισμό δεν είναι τυχαία. Είναι προετοιμασία. Προετοιμασία για έναν κόσμο όπου κάποιοι πολιτισμοί θεωρούνται “παραγωγικοί” και άλλοι “παλινδρομικοί”.
Και όταν μπει αυτή η λογική, ανοίγει η πόρτα για κάτι πιο σκληρό: λιγότερη ανεκτικότητα σε όποιον δεν ευθυγραμμίζεται.
Ο φόβος ως εργαλείο πειθούς
Το αφήγημα είναι δομημένο με ακρίβεια: Ο κόσμος είναι επικίνδυνος. Η ειρήνη είναι εύθραυστη. Οι αντίπαλοι καραδοκούν. Άρα χρειάζεται συσπείρωση. Και αυτή η συσπείρωση σημαίνει: περισσότερη συνεργασία κράτους-τεχνολογίας, περισσότερο έλεγχο, λιγότερη ελευθερία.
Η “ηθική” που εξυπηρετεί την ισχύ
Ζητείται μια νέα ελίτ: πιο σκληρή, λιγότερο ευαίσθητη, λιγότερο υπόλογη. Λιγότερη cancel culture. Περισσότερη ανοχή σε “δύσκολες αποφάσεις”.
Δηλαδή: λιγότερα εμπόδια για όσους ήδη κρατούν την τεχνολογική ισχύ. Συμπέρασμα: Αυτό είναι ένα σχέδιο εξουσίας, όχι ένα δοκίμιο. Αυτό δεν είναι φιλοσοφία.
Είναι ένα σχέδιο πωλήσεων ισχύος, μεταμφιεσμένο σε ιδεολογία. Η Palantir Technologies δεν περιγράφει απλώς το μέλλον. Προσπαθεί να το ορίσει. Και αν η ιστορία μάς έχει μάθει κάτι, είναι αυτό: όταν οι ελίτ μιλούν τόσο καθαρά, συνήθως δεν αστειεύονται.
Το άλλο αφήγημα: η “υπεύθυνη” Τεχνητή Νοημοσύνη
Στον αντίποδα, εμφανίζεται μια διαφορετική αφήγηση. Όχι λιγότερο ισχυρή, απλώς πιο προσεκτικά διατυπωμένη. Η Anthropic, δημιουργός του Claude, παρουσιάζει ένα νέο μοντέλο τόσο ισχυρό που οι ίδιοι οι δημιουργοί του το χαρακτηρίζουν επικίνδυνο.
Το μοντέλο (γνωστό με την κωδική ονομασία Mythos) μπορεί: να εντοπίζει ευπάθειες που έμεναν κρυφές για δεκαετίες, να ξεπερνά ανθρώπους στην κυβερνοασφάλεια, να αποκαλύπτει χιλιάδες κρίσιμα κενά σε συστήματα. Και εδώ αρχίζει το ενδιαφέρον.
Η εταιρεία δεν το κυκλοφορεί ελεύθερα. Το περιορίζει. Το δίνει επιλεκτικά σε κολοσσούς. Αρνείται ακόμη και χρήσεις που σχετίζονται με μαζική επιτήρηση.
Ακούγεται ηθικό. Αλλά είναι μόνο αυτό;
Η ηθική ως στρατηγική πλεονεκτήματος
Όταν μια εταιρεία λέει «είμαστε επικίνδυνοι αλλά υπεύθυνοι», κάνει κάτι πολύ συγκεκριμένο: “χτίζει” εμπιστοσύνη γύρω από τη δύναμή της. Η “ηθική στάση” εργαλείο επιρροής. Και την ίδια στιγμή, η ισχύς συγκεντρώνεται. Λιγότεροι παίκτες. Πιο ισχυρά εργαλεία. Περισσότερος έλεγχος.
Ευρώπη: απών παίκτης
Και ενώ όλα αυτά εξελίσσονται, η Ευρώπη παρακολουθεί. Ζητά εξηγήσεις. Εκφράζει ανησυχίες.
Αλλά δεν είναι στον πυρήνα της ανάπτυξης. Και αυτό σημαίνει ότι οι κανόνες θα γραφτούν αλλού.
Όταν η μηχανή ξεπερνά τον άνθρωπο
Την ίδια στιγμή, ένα άλλο γεγονός συμπυκνώνει όλη τη συζήτηση: ένα ρομπότ τρέχει πιο γρήγορα από τον άνθρωπο σε επίσημους αγώνες στην Κίνα και με επικοινωνιακή παγκόσμια προβολή. Και ξαφνικά, το ερώτημα αλλάζει. Δεν είναι «ποιος είναι πιο γρήγορος». Είναι «γιατί τρέχουμε». Το τέλος του ανθρώπινου μέτρου. Η μηχανή δεν κουράζεται. Δεν αμφιβάλλει. Δε βιώνει. Αν η αξία ορίζεται από την απόδοση, τότε ο άνθρωπος είναι ήδη ξεπερασμένος. Και αυτό είναι το πραγματικό σοκ. Από την εμπειρία στη βελτιστοποίηση.
Το τρέξιμο δεν είναι ταχύτητα. Είναι εμπειρία. Αλλά η εποχή μας δεν ενδιαφέρεται για εμπειρίες. Ενδιαφέρεται για μετρήσεις. Και έτσι: μετράμε τα πάντα, βελτιστοποιούμε τα πάντα, χάνουμε το νόημα…
Τι απομένει; Ίσως αυτό που δεν μπορεί να κάνει καμία μηχανή: να αποτύχει με νόημα. Να σταματήσει χωρίς λόγο. Να επιλέξει τη βραδύτητα.
Το πραγματικό διακύβευμα
Το πρόβλημα δεν είναι ότι οι μηχανές γίνονται καλύτερες. Το πρόβλημα είναι ότι αρχίζουμε να πιστεύουμε πως αυτό είναι το μόνο που έχει σημασία.
Και τότε, δε θα έχουμε απλώς χάσει τον αγώνα. Θα έχουμε ξεχάσει γιατί ξεκινήσαμε. Σε όλα τα παραπάνω τι λείπει; Ο έλεγχος από τις κοινωνίες, προς όφελος των κοινωνιών και μέσω των πολιτικών εξουσιών και κρατικών δρώντων, που υποτίθεται ότι αυτές και μόνο συγκροτούν. Άρα, το κοινό καλό είναι πλέον ετεροκαθοριζόμενο από συμφέροντα τεχνικολογικών ολιγαρχιών πάνω στις οποίες “κουμπώνουν” ολόκληρες κρατικές λειτουργίες και δομές, σε βαθμό που αυτές οι ολιγαρχίες να εκδίδουν ποια μέχρι και δημόσια μανιφέστα για το… καλό μας, δηλαδή ότι πει ο αλγόριθμός τους και προς όφελός τους.
