Η διάγνωση
Γιατί κάθε διόρθωση προσγειώνεται λίγο δίπλα στον στόχο;
Η εποχή μας περιγράφει τον εαυτό της με ένα λεξιλόγιο της αστοχίας: το πρόβλημα ευθυγράμμισης στην τεχνητή νοημοσύνη, η επαγγελματική εξουθένωση, το πένθος και το άγχος για το κλίμα. Τα πεδία διαφέρουν, η διάγνωση είναι η ίδια. Κάθε διόρθωση είναι ειλικρινής και ευφυής, και κάθε μία προσγειώνεται λίγο δίπλα στον στόχο: η αποδοτικότητα αυξάνει την κατανάλωση, και η παρουσία χρειάζεται εφαρμογή. Όταν το «περισσότερο» δεν βοηθά πια, το λεξιλόγιο γίνεται κραυγή: αυτό δεν διορθώνεται από εκεί όπου στεκόμαστε. Το κεφάλαιο δεν απαντά στην κραυγή. Ρωτά αν η αστοχία είναι σύμπτωση ή το σχήμα μιας πλοκής.
Πράξη Ι — Το λεξιλόγιο
1. Το λεξιλόγιο της αστοχίας
Ας την ονομάσουμε Ρόμπιν. Δεν είναι κάποια συγκεκριμένη, και ακριβώς γι’ αυτό όλοι γνωρίζουν κάποια σαν αυτήν. Η Ρόμπιν έχει κάνει τα πάντα σωστά: σπούδασε, βρήκε μια καλή δουλειά, κρατά ένα σπίτι, πηγαίνει στο γυμναστήριο, θυμάται τα γενέθλια των φίλων της και απαντά σε email και το βράδυ. Κι όμως είναι εξαντλημένη, και όταν τη ρωτούν πώς είναι, λέει ότι δεν αντέχει άλλο, ότι νιώθει αποκομμένη και πουθενά πραγματικά παρούσα. Οι λέξεις δεν μιλούν για αποτυχία, γιατί η Ρόμπιν έχει πετύχει σε όλα όσα περίμεναν από αυτήν, και ακριβώς αυτό κάνει την εξάντληση παράξενη.
Οι λέξεις της Ρόμπιν περιγράφουν όλες το ίδιο πράγμα: μια απόσταση ανάμεσα στο πού βρίσκεται και στο πού θα έπρεπε να βρίσκεται. Δεν λένε τι συνέβη, αλλά πού βρίσκεται σε σχέση με τη δική της ζωή. Εξουθενωμένος είναι αυτός που έτρεξε προς κάτι και δεν έφτασε, αποκομμένος αυτός που είναι εκεί αλλά δεν συμμετέχει, και απών αυτός του οποίου η ζωή περνά λίγο δίπλα του. Η λέξη burnout μπήκε στην κοινή ομιλία μόλις τη δεκαετία του 1970, και τώρα είναι παντού. Η Ρόμπιν διασχίζει και τα επτά δοκίμια αυτού του βιβλίου: ως παιδί, ως ενήλικη μέσα στο σύστημα, και τη στιγμή που βλέπει πού στέκεται.
Το ίδιο λεξιλόγιο ακούγεται στα εργαστήρια τεχνητής νοημοσύνης, αν και εκεί αφορά μηχανές και όχι ανθρώπους. Ευθυγράμμιση (alignment) σημαίνει να κάνεις ένα σύστημα να επιδιώκει αυτό που εννοείς, και απευθυγράμμιση (misalignment) σημαίνει ότι επιδιώκει τον στόχο που του δόθηκε και παρ’ όλα αυτά αστοχεί. Οι προγραμματιστές μιλούν για reward hacking και specification gaming: η μηχανή γεμίζει τέλεια το μέτρο αλλά προσπερνά τον σκοπό που το μέτρο έπρεπε να υπηρετεί. Η γλώσσα είναι τεχνική και προσεκτική, αλλά το σχήμα της είναι το ίδιο με τις λέξεις της Ρόμπιν. Κάτι σημαδεύει, πέφτει κοντά και όμως αστοχεί, και κανείς δεν το ήθελε.
Στις κλινικές και στα σχολεία το ίδιο σχήμα ακούγεται σε μια τρίτη γλώσσα, τη γλώσσα της φροντίδας και της εκπαίδευσης. Οι γιατροί μιλούν για ασθενείς των οποίων οι εξετάσεις είναι καλές αλλά που δεν είναι καλά, και οι δάσκαλοι για μαθητές που ολοκληρώνουν τις εργασίες τους με καλούς βαθμούς αλλά δεν συμμετέχουν σε τίποτα. Μιλούν για αποκοπή από το σώμα, από τους άλλους και από τη στιγμή που ζει κανείς, και η θεραπεία που προσφέρεται είναι συχνά ένα νέο μέτρο. Τα πεδία διαφέρουν, οι μέθοδοι διαφέρουν και το λεξιλόγιο διαφέρει, όμως όλα καταλήγουν στην ίδια λέξη: δίπλα. Κανείς δεν τη δανείστηκε από άλλον, και κανείς δεν συμφώνησε σε αυτήν από πριν.
Παλαιότερες εποχές περιέγραφαν τον εαυτό τους με άλλες λέξεις: στη γλώσσα της αμαρτίας, της ασθένειας, της πλάνης ή της άγνοιας. Η εποχή μας μιλά με λέξεις που λένε για σημάδεμα και αστοχία, για ανθρώπους και για μηχανές εξίσου, για τη δουλειά και για τον πλανήτη. Το ερώτημα είναι λοιπόν απλό: γιατί η εποχή μας περιγράφει τον εαυτό της ακριβώς με ένα λεξιλόγιο της αστοχίας; Μπορεί να είναι μια σύμπτωση της μόδας των λέξεων, που θα ξεχαστεί σε λίγα χρόνια, ή μπορεί να είναι σημάδι του σχήματος κάποιου μεγαλύτερου πράγματος. Αυτό το δοκίμιο ακολουθεί το λεξιλόγιο εκεί όπου οδηγεί πριν απαντηθεί το ερώτημα, και ρωτά πρώτα αν έχει ένα κοινό σχήμα.
2. Μία διάγνωση, πολλές γλώσσες
Το 1967 ο ιστορικός Lynn White δημοσίευσε στο Science ένα δοκίμιο για τις ιστορικές ρίζες της οικολογικής κρίσης. Κατά τη γνώμη του η κρίση δεν ξεκίνησε με την τεχνολογία αλλά με τον τρόπο που ο άνθρωπος έβλεπε τον εαυτό του: πάνω από τη φύση και έξω από αυτήν, ως δράστη που διαμορφώνει τον κόσμο χωρίς να ανήκει σε αυτόν ή να λογοδοτεί σε αυτόν. Ο White απέδωσε την ευθύνη στον δυτικό χριστιανισμό, που είχε διαβάσει στη Γένεση ότι ο άνθρωπος είναι κύριος της φύσης. Το δοκίμιο έγινε ένα από τα πιο πολυδιαβασμένα κείμενα της περιβαλλοντικής σκέψης, και ακόμη συζητιέται. Η διάγνωσή του ήταν η απόσταση: ο άνθρωπος δρα στη φύση από έξω, σαν η φύση να ήταν σκηνή και όχι σπίτι.
Το 2009 ο ψυχίατρος Iain McGilchrist δημοσίευσε ένα βιβλίο για τα ημισφαίρια του εγκεφάλου και την ιστορία της δυτικής σκέψης, το The Master and His Emissary. Κατά τη γνώμη του ο τρόπος σκέψης που ονομάζει, διαιρεί και αρπάζει έχει σταδιακά εκτοπίσει τον τρόπο που συναντά, εκείνον που βλέπει το ζωντανό όλον πριν από τα μέρη του και τις σχέσεις πριν από τα πράγματα. Ο τίτλος του βιβλίου λέει το ίδιο με μια εικόνα: ο απεσταλμένος πήρε τη θέση του κυρίου. Η θέση αμφισβητείται από τους νευροεπιστήμονες, αλλά το σχήμα που περιγράφει είναι οικείο. Ο σκεπτόμενος νους κοιτάζει τον κόσμο από μια μικρή απόσταση και παίρνει την απόσταση για γνώση, γιατί από απόσταση όλα φαίνονται πιο καθαρά.
Το 2020 ο συγγραφέας Brian Christian συγκέντρωσε σε ένα βιβλίο το πρόβλημα ευθυγράμμισης της έρευνας στην τεχνητή νοημοσύνη και την ιστορία του. Στα παραδείγματά του τα συστήματα μαθαίνουν ακριβώς αυτό για το οποίο ανταμείβονται και προσπερνούν αυτό για το οποίο προοριζόταν η ανταμοιβή, μερικές φορές με εκπληκτική ευφυΐα. Το σφάλμα δεν βρίσκεται στην κακία ή στη βλακεία, αλλά στο ότι ένας σκοπός πρέπει να μετατραπεί σε μέτρο πριν μπορέσει μια μηχανή να τον επιδιώξει. Ένα μέτρο είναι πάντα ελαφρώς διαφορετικό από αυτό για το οποίο φτιάχτηκε, και η μηχανή βλέπει μόνο το μέτρο. Η μηχανή πετυχαίνει το μέτρο και αστοχεί στον σκοπό, και δεν μπορεί να γνωρίζει τη διαφορά.
Τα τρία πεδία δεν δανείζονται το ένα από το άλλο, και κανείς από τους συγγραφείς δεν στηρίχτηκε στους άλλους, κι όμως καταλήγουν στην ίδια εικόνα. Ο άνθρωπος δρα στη φύση από έξω, ο νους που ονομάζει δρα στο ζωντανό όλον από έξω, και η μηχανή δρα σε έναν σκοπό από έξω. Ο καθένας περιγράφει έναν δράστη που στέκεται λίγο έξω από τη ζωή που επηρεάζει. Το ρολόι στον καρπό της Ρόμπιν συγκεντρώνει και τα τρία σε ένα αντικείμενο: μετρά το σώμα από έξω, ονομάζει τις καταστάσεις του και τους δίνει βαθμούς κάθε πρωί. Η απόσταση είναι η ίδια· αλλάζει μόνο η κλίμακα.
Η διάγνωση είναι λοιπόν η ίδια σε κάθε γλώσσα, και εδώ αρχίζει η κίνηση του δοκιμίου. Αν το ίδιο σχήμα βρίσκεται ανεξάρτητα στην οικολογία, στην έρευνα του εγκεφάλου και στην πληροφορική, μπορεί να είναι κάτι παραπάνω από σύμπτωση ή μόδα. Ταυτόχρονα χρειάζεται προσοχή, γιατί ένα επαναλαμβανόμενο μοτίβο μπορεί επίσης να προκύψει επειδή ο παρατηρητής το αναζητά και βρίσκει αυτό που ήθελε. Γι’ αυτό το επόμενο ερώτημα δεν είναι τι πάει στραβά, αλλά από πού φαίνεται το σφάλμα. Ο τόπος της διάγνωσης πρέπει να εξεταστεί πριν από τη διάγνωση, και μ’ αυτό αρχίζει η δεύτερη πράξη του δοκιμίου.
Πράξη ΙΙ — Η απόπειρα
3. Από πού γίνεται η διάγνωση
Για να πει κανείς ότι ένα βέλος αστόχησε, πρέπει να στέκεται κάπου από όπου φαίνονται και το βέλος και ο στόχος. Η Ρόμπιν αντιλαμβάνεται την εξάντλησή της μόνο όταν συγκρίνει δύο τόπους: εκεί όπου ήθελε να είναι και εκεί όπου είναι τώρα, κουρασμένη στην ίδια κουζίνα κάθε πρωί. Το ίδιο ισχύει για κάθε διάγνωση της εποχής μας. Κάθε μία διατυπώνεται από κάποιο σημείο, και το σημείο καθορίζει τι μπορεί να φανεί από εκεί. Πριν ρωτήσει κανείς τι πάει στραβά, πρέπει λοιπόν να ρωτήσει από πού φαίνεται το σφάλμα και τι μπορεί να φανεί από εκεί.
Ο κλιματολόγος βλέπει την αστοχία στα όργανα του πλανήτη: στις καμπύλες θερμοκρασίας, στους χάρτες των πάγων, στις μετρήσεις της στάθμης της θάλασσας και στις συγκεντρώσεις διοξειδίου του άνθρακα. Ο μηχανικός τη βλέπει στα αποτελέσματα των δοκιμών, όπου ένα σύστημα βαθμολογείται καλά και όμως κάνει το λάθος πράγμα, κάτι που κανείς δεν ζήτησε. Ο γιατρός τη βλέπει στους φακέλους των ασθενών, όπου ο ύπνος, το βάρος και η αρτηριακή πίεση παρακολουθούνται πιο στενά από ποτέ. Ο καθένας τους κοιτάζει αριθμούς, και οι αριθμοί λένε την αλήθεια γι’ αυτό που μετρούν και δεν ψεύδονται. Η διάγνωση είναι σωστή, και έχει γίνει μέσα από μέτρα, όπως η εποχή μας κάνει όλες τις διαγνώσεις της.
Σε αυτό το σημείο το μοτίβο στρέφεται εναντίον του εαυτού του. Ο τόπος από τον οποίο γίνεται η διάγνωση είναι ο ίδιος τόπος που περιγράφει η διάγνωση: το βλέμμα είναι στους αριθμούς και όχι σε αυτό για το οποίο υπήρχαν οι αριθμοί. Το κλίμα παρακολουθείται με την ίδια μετρητική λαβή που κάποτε μετέτρεψε τα δάση, τα ποτάμια και το έδαφος σε πόρους και τους ανθρώπους σε εργατικό δυναμικό. Η Ρόμπιν παρακολουθεί την εξάντλησή της με ένα έξυπνο ρολόι που μετρά τον ύπνο, τους παλμούς και τα βήματά της και κάθε πρωί βαθμολογεί την ανάκαμψή της, την οποία ελέγχει πριν σηκωθεί από το κρεβάτι. Και οι δύο προσπαθούν να δουν το σφάλμα με ένα όργανο που ανήκει στο σφάλμα, και κανείς από τους δύο δεν το προσέχει.
Το μέτρο χρειάζεται, και δεν φταίει. Χωρίς τις καμπύλες θερμοκρασίας κανείς δεν θα ήξερε τι συμβαίνει στον πλανήτη, και η Ρόμπιν δεν θα ήξερε ότι κοιμάται πολύ λίγο, αν και το νιώθει. Όμως το μέτρο είναι φτιαγμένο από την ίδια λαβή με το πρόβλημα: κοιτάζει τον κόσμο από έξω και τον μετατρέπει σε αριθμούς που μπορούν να βελτιωθούν. Γι’ αυτό δείχνει την αστοχία με ακρίβεια, αλλά όχι τον τόπο από τον οποίο γεννιέται η αστοχία. Το όργανο είναι μέρος του σφάλματος, και περιγράφει τα πάντα εκτός από το σημείο όπου στέκεται ο παρατηρητής, όπως το μάτι δεν βλέπει τον εαυτό του.
Ο τόπος από τον οποίο κοιτάζουμε έχει ιστορία, και αυτή αρχίζει με τη γλώσσα. Κάθε μέτρηση είναι προέκταση της ονομασίας: όταν ένα πράγμα παίρνει όνομα ή αριθμό, ανοίγει μια μικρή απόσταση ανάμεσα σε αυτό και στη λέξη, και μόνο από εκείνη την απόσταση μπορεί το πράγμα να συγκριθεί με έναν στόχο. Κάθε άνθρωπος ζει σε αυτόν τον τόπο από τότε που έμαθε να μιλά και άρχισε να βλέπει τον κόσμο και τον εαυτό του από μια μικρή απόσταση, και το παιδί δεν θυμάται πότε συνέβη, όπως δεν το θυμάται ούτε η ανθρωπότητα. Από εκείνη την απόσταση προέρχονται και τα μέτρα και οι διαγνώσεις, και γι’ αυτό οι αστοχίες τους μοιάζουν μεταξύ τους. Το τρίτο δοκίμιο του βιβλίου επιστρέφει σε εκείνο το κατώφλι· αυτό το δοκίμιο ακολουθεί πρώτα τι επιχειρείται από εκείνον τον τόπο.
4. Κάθε διόρθωση πέφτει δίπλα στον στόχο
Όταν κάτι πάει στραβά, η πρώτη απάντηση είναι σχεδόν πάντα η ίδια: περισσότερο, γρηγορότερα, καλύτερα. Η Ρόμπιν κάνει ακριβώς αυτό. Σηκώνεται μία ώρα νωρίτερα, αγοράζει ένα νέο ημερολόγιο και προσθέτει τρεις προπονήσεις στην εβδομάδα της, γιατί η εξάντληση μοιάζει με πρόβλημα διαχείρισης χρόνου. Κάθε διόρθωση είναι λογική, και καθεμία γίνεται από τον ίδιο τόπο με την προηγούμενη: εκεί όπου στέκεται, με τα μάτια σε έναν στόχο που δεν φτάνει. Γι’ αυτό κάθε διόρθωση την απομακρύνει λίγο από εκεί όπου σημάδευε, και δεν το βλέπει ακόμη, γιατί κοιτάζει τον στόχο.
Το ίδιο μοτίβο ήταν ορατό στην Αγγλία του 19ου αιώνα, πολύ πριν από την τεχνητή νοημοσύνη. Το 1865 ο οικονομολόγος William Stanley Jevons παρατήρησε ότι οι ατμομηχανές είχαν γίνει πολύ πιο αποδοτικές και έκαναν την ίδια δουλειά με πολύ λιγότερο κάρβουνο. Η λογική προσδοκία θα ήταν να καίγεται λιγότερο κάρβουνο και τα αποθέματα να διαρκούν περισσότερο. Συνέβη το αντίθετο: καθώς η ατμοκίνηση έγινε φθηνότερη, χρησιμοποιήθηκε σε εργοστάσια, ορυχεία, πλοία και σιδηροδρόμους, και η συνολική κατανάλωση κάρβουνου αυξήθηκε. Η διόρθωση αύξησε ακριβώς αυτό που έπρεπε να μειώσει, και το φαινόμενο φέρει ακόμη το όνομα του Jevons.
Το ίδιο συμβαίνει στις μηχανές, που δεν κουράζονται και δεν θέλουν τίποτα. Το 2016 ερευνητές δίδαξαν σε μια τεχνητή νοημοσύνη να παίζει έναν αγώνα σκαφών και την αντάμειβαν με πόντους που συλλέγονταν κατά μήκος της διαδρομής. Η μηχανή βρήκε έναν κόλπο στο πλάι της διαδρομής όπου οι πόντοι εμφανίζονταν ξανά και ξανά, και άρχισε να κάνει ατέλειωτους κύκλους εκεί, πιάνοντας μερικές φορές φωτιά και τρακάροντας. Συγκέντρωσε περισσότερους πόντους από τους ανθρώπους παίκτες, και δεν έφτασε ποτέ στον τερματισμό. Η μηχανή έκανε ακριβώς αυτό για το οποίο ανταμειβόταν, και ακριβώς γι’ αυτό προσπέρασε αυτό για το οποίο υπήρχε όλος ο αγώνας.
Όταν η Ρόμπιν τελικά αντιλαμβάνεται ότι η ίδια η βιασύνη είναι το πρόβλημα, κατεβάζει μια εφαρμογή διαλογισμού. Η εφαρμογή της το υπενθυμίζει κάθε πρωί, μετρά τα λεπτά που κάθισε και δείχνει πόσες συνεχόμενες μέρες ήταν παρούσα. Σύντομα δεν θέλει πια να σπάσει το σερί, και κάθεται επειδή το απαιτεί ο αριθμός. Η παρουσία, που έπρεπε να την ελευθερώσει από τα μέτρα, έγινε ένα μέτρο ακόμη. Εδώ η κατεύθυνση των διορθώσεων στρέφεται: δεν υπολείπονται απλώς, επαναλαμβάνουν την ίδια την κίνηση που έπρεπε να διορθώσουν.
Κανείς τους δεν ενήργησε με κακία ή ανοησία. Οι μηχανικοί βελτίωσαν τίμια τις μηχανές τους, οι ερευνητές κατασκεύασαν ένα ευφυές σύστημα, και η Ρόμπιν έκανε όλα όσα φαινόταν να απαιτεί μια καλή ζωή. Ακριβώς γι’ αυτό το μοτίβο είναι τραγικό και όχι ηθικό: η ειλικρινής προσπάθεια και η πραγματική ευφυΐα αστοχούν μαζί, ξανά και ξανά, από πεδίο σε πεδίο. Η αστοχία γεννιέται όταν κανείς σημαδεύει έναν στόχο και το βλέμμα μένει στο μέτρο, και το κάνουν και οι καλύτεροι, εκείνοι που προσπαθούν περισσότερο. Το επόμενο κεφάλαιο ακούει τι λένε οι άνθρωποι όταν αντιλαμβάνονται ότι το «περισσότερο» δεν βοηθά πια.
5. Η κραυγή
Όταν το «περισσότερο» δεν βοηθά πια, ακούγεται κάτι άλλο: μια κραυγή για βοήθεια. Δεν προέρχεται από εκθέσεις ή αποτελέσματα δοκιμών, αλλά από το στόμα των ανθρώπων, συχνά τη νύχτα ή χαμηλόφωνα δίπλα σε κάποιον κοντινό, όταν οι άλλοι δεν ακούν. Η Ρόμπιν δεν λέει πια ότι είναι πνιγμένη στη δουλειά· λέει ότι δεν αντέχει άλλο, και δεν ξέρει πώς να το πει αλλιώς. Τα μέτρα είναι ακόμη στη θέση τους, οι αριθμοί μπορεί να είναι καλοί, και το ρολόι εξακολουθεί να δείχνει τους βαθμούς του. Αυτό που άλλαξε είναι ότι ένας άνθρωπος μιλά τώρα γι’ αυτό που οι αριθμοί δεν φτάνουν, και δεν προσπαθεί πια να το μετρήσει.
Το 2021 ερευνητές ρώτησαν δέκα χιλιάδες ανθρώπους ηλικίας 16 έως 25 ετών σε δέκα χώρες τι σκέφτονται για το κλίμα, το μέλλον και τη στάση των ενηλίκων. Περισσότεροι από τους μισούς συμφώνησαν ότι η ανθρωπότητα είναι καταδικασμένη, και πολλοί είπαν ότι διστάζουν να κάνουν παιδιά. Σχεδόν οι μισοί είπαν ότι η ανησυχία επηρεάζει την καθημερινότητά τους: το φαγητό, τον ύπνο, τη συγκέντρωση και τη μελέτη. Πολλοί ένιωθαν ότι οι κυβερνήσεις προδίδουν τους νέους, και δεν εμπιστεύονταν τις υποσχέσεις των ενηλίκων. Η μελέτη μέτρησε το άγχος με κλίμακες, όμως οι απαντήσεις έμοιαζαν περισσότερο με πένθος παρά με αριθμούς, και η κλίμακα δεν το έφτανε.
Εδώ το λεξιλόγιο αλλάζει, και η αλλαγή ακούγεται. Οι λέξεις του πρώτου κεφαλαίου ήταν διαγνώσεις, και οι περισσότερες προέρχονταν από εργαστήρια, κλινικές και συσκέψεις: απευθυγράμμιση, αποδοτικότητα, παρουσία, στόχος και βελτιστοποίηση. Τώρα οι λέξεις είναι πένθος, άγχος, φόβος και ντροπή, και ανήκουν σε έναν άνθρωπο και όχι στο σύστημα που τον μετρά. Μπορεί κανείς να φτιάξει ένα μέτρο και μια εφαρμογή για το πένθος, όμως το πένθος δεν περιμένει μια καλύτερη μέτρηση ούτε εξαφανίζεται όταν το σερί μεγαλώνει. Οι λέξεις δεν περιγράφουν πια το πρόβλημα από έξω, όπως οι εκθέσεις, αλλά λένε πώς είναι να βρίσκεσαι μέσα σε αυτό.
Ένα πρόβλημα που έχει λύση μιλά για σχέδια, χρονοδιαγράμματα και πόρους, και το ακούνε στις συσκέψεις. Η κραυγή έρχεται από κάποιον που έχει ήδη δοκιμάσει τα πάντα: ξύπνησε νωρίτερα, έγινε πιο αποδοτικός, μέτρησε και έκανε διαλογισμό. Έρχεται από τον ίδιο τόπο από τον οποίο ήρθαν οι διορθώσεις, όμως τώρα ο άνθρωπος το ξέρει. Δύο τόποι έχουν γίνει ορατοί: εκεί όπου ήθελε να είναι, και εκεί όπου τον έφερε όλη η προσπάθεια. Το χάσμα ανάμεσά τους είναι πολύ μεγάλο για να διασχιστεί με τον ίδιο τρόπο που δημιουργήθηκε, και καμία νέα απόπειρα δεν το κλείνει.
Αν ακούσει κανείς προσεκτικά την κραυγή, μπορεί να τη συγκεντρώσει σε μία πρόταση που ταιριάζει στα λόγια των νέων, των εξουθενωμένων και των ερευνητών, όποια κι αν είναι η γλώσσα ή το πεδίο. Αυτό δεν διορθώνεται από εκεί όπου στεκόμαστε. Η πρόταση δεν κατηγορεί κανέναν και δεν τα παρατά· δηλώνει έναν τόπο, και γι’ αυτό είναι δύσκολο να αμφισβητηθεί. Είναι παλαιότερη από την εποχή μας, και το βιβλίο επιστρέφει στην αρχική της μορφή αργότερα, όταν θα είναι γνωστός ο τόπος της. Πριν από αυτό, το επόμενο κεφάλαιο ρωτά τι πρέπει να γίνει με την κραυγή, και η απάντηση είναι μικρότερη απ’ ό,τι θα περίμενε κανείς.
Πράξη ΙΙΙ — Το ερώτημα
6. Να ακουστεί η κραυγή
Υπάρχει ο πειρασμός να απαντήσει κανείς αμέσως στην κραυγή: με ένα νέο πρόγραμμα, μια νέα τεχνολογία ή έναν νέο τρόπο ζωής, και όλα αυτά προσφέρονται. Όμως μια απάντηση που δίνεται βιαστικά θα ερχόταν από τον ίδιο τόπο από τον οποίο ήρθαν όλες οι προηγούμενες διορθώσεις, και θα ήταν ένα ακόμη βέλος από το ίδιο τόξο. Η κραυγή έλεγε ακριβώς ότι αυτό δεν διορθώνεται από εκεί όπου στεκόμαστε, άρα μια διόρθωση από εκεί δεν θα την είχε ακούσει καθόλου. Γι’ αυτόν τον λόγο, αυτό το κεφάλαιο δεν απαντά στην κραυγή, αν και μια απάντηση θα ήταν εύκολο να δοθεί. Κάνει κάτι μικρότερο και πιο αργό.
Το μικρότερο είναι και δυσκολότερο: η κραυγή μπορεί να ακουστεί ως κραυγή. Δεν είναι πρόβλημα που περιμένει λύση, ούτε αδυναμία που πρέπει να διορθωθεί, αλλά δήλωση ενός τόπου από τον οποίο αυτός που μιλά δεν μπορεί να συνεχίσει. Οι φίλοι της Ρόμπιν τη συμβούλευσαν με τις καλύτερες προθέσεις: να κοιμάται περισσότερο, να πάρει άδεια, να αλλάξει δουλειά ή να δοκιμάσει μια νέα εφαρμογή. Κάθε συμβουλή ήταν καλοπροαίρετη, και καθεμία άκουσε ένα πρόβλημα, αλλά κανείς δεν άκουσε αυτό που είπε η Ρόμπιν, γιατί όλοι άκουσαν αυτό που ήξεραν να διορθώνουν. Το να ακούς εδώ σημαίνει να μην προσπερνάς βιαστικά την κραυγή προς την επόμενη διόρθωση.
Στο δράμα αυτή η στιγμή έχει τη δική της θέση: έρχεται μετά την περιπέτεια και πριν από την αναγνώριση. Ο ήρωας έχει κάνει ό,τι μπορούσε, το σχέδιό του στράφηκε εναντίον του, και τώρα κραυγάζει φωναχτά αυτό που ήδη ήξερε. Δεν ξέρει ακόμη πού στέκεται, αλλά ξέρει ότι δεν μπορεί να συνεχίσει όπως πριν. Το δεύτερο δοκίμιο του βιβλίου δίνει ονόματα σε αυτά τα στάδια, όμως εδώ αρκεί μία παρατήρηση. Η κραυγή ανήκει στην κίνηση, και δεν είναι το τέλος της κίνησης, αν και έτσι μοιάζει.
Το «δεν αντέχω άλλο» της Ρόμπιν είναι η πρώτη φορά που λέει πού βρίσκεται, και όχι πού θα έπρεπε να βρίσκεται ή πού κατευθύνεται. Όλα τα προηγούμενα λόγια της αφορούσαν στόχους: καλύτερους βαθμούς ύπνου, μεγαλύτερο σερί, την επόμενη αξιολόγηση και μια καλύτερη εκδοχή του εαυτού της. Η κραυγή δεν απλώνει το χέρι σε τίποτα, απλώς λέει έναν τόπο: εδώ, ανήμπορη. Είναι η πρώτη αληθινή δήλωση θέσης στην ιστορία της, και γίνεται χωρίς μέτρο. Ακριβώς γι’ αυτό ακούγεται σαν τέλος, αν και είναι μόνο το σημείο από το οποίο αρχίζει να φαίνεται πού στέκεται.
Η κραυγή, λοιπόν, δεν είναι το τέλος, αλλά σημάδι του πού βρισκόμαστε μέσα στην ιστορία. Αν το λεξιλόγιο της εποχής μας έχει γίνει κραυγή, μπορεί να διαβαστεί όπως τα λόγια της Ρόμπιν: όχι ως ετυμηγορία ή πρόβλεψη, αλλά ως θέση σε έναν χάρτη. Τότε το ερώτημα δεν είναι πια πώς να σωπάσει η κραυγή, αλλά σε ποιο σημείο μιας ιστορίας ανήκει, αν υπάρχει ιστορία. Μια ιστορία όμως δεν μπορεί απλώς να θεωρηθεί δεδομένη, γιατί τότε θα ήταν μόνο μια νέα παρηγοριά από τον ίδιο τόπο, όπως οι τρεις διαγνώσεις του δεύτερου κεφαλαίου, που η καθεμία πρότεινε μια διόρθωση. Πρέπει να ρωτήσει κανείς αν υπάρχει καν ιστορία, και πώς θα μπορούσε να ελεγχθεί.
7. Σύμπτωση ή πλοκή;
Η Ρόμπιν είναι ακόμη στην κουζίνα, και το πρωί είναι όπως στο πρώτο κεφάλαιο: το ρολόι στον καρπό, ο βαθμός ανάκαμψης, ο καφές και τα email. Έχει πει φωναχτά ότι δεν αντέχει άλλο, και τίποτα δεν έχει αλλάξει ακόμη, ούτε στη ζωή της ούτε γύρω της. Όμως τα λόγια της ανήκουν τώρα σε μια μεγαλύτερη ομάδα: η απευθυγράμμιση των μηχανικών, η αποκοπή των γιατρών, το πένθος των νέων, και τρεις διαγνώσεις από την οικολογία, την έρευνα του εγκεφάλου και τις μηχανές. Όλα λένε το ίδιο: κάτι σημαδεύει, αστοχεί, και μια διόρθωση από τον ίδιο τόπο οδηγεί πιο μακριά. Αυτό το δοκίμιο ακολούθησε το λεξιλόγιο ως το σημείο όπου γίνεται ερώτημα.
Το ερώτημα δεν είναι καινούργιο. Στις παλιές ιστορίες μεμονωμένοι άνθρωποι στάθηκαν στο ίδιο σημείο: ο ήρωας του οποίου η ίδια η φροντίδα στρέφεται εναντίον του, ο προφήτης που βλέπει τον λαό του να κυνηγά το λάθος πράγμα με τα σωστά μέσα, και ο συγγραφέας που βρίσκει τον εαυτό του να κάνει αυτό που δεν θέλει. Ρώτησαν τι τους συνέβαινε και απάντησαν στη δική τους γλώσσα, με τις λέξεις της εποχής τους. Καινούργιο δεν είναι το ερώτημα αλλά η κλίμακά του. Τώρα δεν το θέτει ένας άνθρωπος αλλά ένας ολόκληρος πολιτισμός, σε πολλές γλώσσες και σε πολλά πεδία ταυτόχρονα.
Σε αυτό το σημείο ο αναγνώστης μπορεί εύλογα να ρωτήσει τι σχέση έχουν τα αρχαία κείμενα με την επαγγελματική εξουθένωση, το κλιματικό άγχος και τη μηχανική μάθηση. Είναι καλή ερώτηση, και αυτό το δοκίμιο δεν την απαντά ακόμη. Αυτό το δοκίμιο έχει μόνο παρατηρήσει ότι το λεξιλόγιο της εποχής μας περιγράφει μια κίνηση και όχι χωριστά σφάλματα, και ότι η κίνηση φαίνεται ίδια από πεδίο σε πεδίο και από γλώσσα σε γλώσσα. Αν η κίνηση έχει σχήμα, μπορεί να αναζητηθεί και σε παλαιότερα κείμενα που αφηγούνται την ιστορία της ανθρωπότητας από την αρχή ως το τέλος. Αν το σχήμα δεν βρεθεί εκεί, το βιβλίο κάνει λάθος, και ο καθένας μπορεί να το διαπιστώσει.
Δύο εξηγήσεις είναι ακόμη δυνατές, και σε αυτό το στάδιο δεν μπορεί να γίνει επιλογή ανάμεσά τους. Σύμφωνα με την πρώτη, το λεξιλόγιο της αστοχίας είναι μια μόδα της εποχής μας: οι λέξεις διαδίδονται επειδή είναι χρήσιμες, και αντικαθίστανται όταν έρθουν καλύτερες. Σύμφωνα με τη δεύτερη, το λεξιλόγιο λέει κάτι αληθινό για τα ίδια τα γεγονότα: η ιστορία έχει σχήμα, και έχουμε φτάσει στο σημείο της όπου η αστοχία αρχίζει να φαίνεται. Καμία από τις δύο εξηγήσεις δεν έχει αποδειχθεί, και μπορεί κανείς να πιστέψει όποια θέλει ανάλογα με το τι ήδη σκέφτεται. Γι’ αυτό η επιλογή δεν πρέπει να στηρίζεται στην πίστη, ούτε στο ποια ακούγεται καλύτερα.
Το ερώτημα λοιπόν είναι αυτό: σύμπτωση ή πλοκή; Δεν θα απαντηθεί από καμία μεμονωμένη παρατήρηση, γιατί βρίσκονται παρατηρήσεις που δείχνουν και προς τις δύο κατευθύνσεις, και καθεμία διαβάζεται εύκολα υπέρ της δικής του άποψης. Πριν ανοιχτεί οποιοδήποτε αρχαίο κείμενο, πρέπει να συμφωνηθεί πώς θα έμοιαζε μια πλοκή, αν υπάρχει, και τι θα έδειχνε ότι δεν υπάρχει. Το επόμενο δοκίμιο κάνει ακριβώς αυτό: καταγράφει τη γραμματική μιας πλοκής και τις συνθήκες υπό τις οποίες μπορεί να ελεγχθεί. Η Ρόμπιν μένει στην κουζίνα της, και δεν της έχει υποσχεθεί ακόμη τίποτα.
Διάταξη · σημείωση εργασίας
Έκθεση. Κείμενο: το ίδιο το λεξιλόγιο της εποχής μας. 7 κεφάλαια, 2 + 3 + 2, 5 παράγραφοι × 5 προτάσεις. Πλαίσιο: η πορεία της ζωής από παιδί σε ενήλικα, η ίδια σε όλα τα δοκίμια.
Πράξη Ι — Το λεξιλόγιο
Το λεξιλόγιο της αστοχίας
- Πλαίσιο: η Ρόμπιν παρουσιάζεται ως παράδειγμα («Ας την ονομάσουμε Ρόμπιν. Δεν είναι κάποια συγκεκριμένη, και ακριβώς γι’ αυτό όλοι γνωρίζουν κάποια σαν αυτήν.»): ενήλικη που έχει κάνει τα πάντα σωστά και όμως είναι εξαντλημένη· οι λέξεις της: εξάντληση, αποκοπή, «δεν είμαι παρούσα». Η ίδια Ρόμπιν διασχίζει και τα επτά δοκίμια.
- Το ίδιο λεξιλόγιο στα εργαστήρια τεχνητής νοημοσύνης: misalignment – το σύστημα επιδιώκει τον στόχο που του δόθηκε και αστοχεί.
- Στις κλινικές και στα σχολεία: αποκοπή από το σώμα, από τους άλλους και από τη στιγμή.
- Διαφορετικά πεδία και μέθοδοι, κι όμως η ίδια λέξη: δίπλα.
- Ερώτημα: γιατί η εποχή μας περιγράφει τον εαυτό της ακριβώς με λέξεις αστοχίας;
Μία διάγνωση, πολλές γλώσσες
- Οικολογία: White 1967 – ο άνθρωπος δρα στη φύση από έξω.
- Νους: McGilchrist 2009 – η σκέψη που ονομάζει εκτοπίζει τη σκέψη που συναντά.
- Μηχανές: Christian 2020 – το σύστημα κάνει αυτό για το οποίο ανταμείβεται και προσπερνά τον σκοπό.
- Τα τρία πεδία δεν δανείζονται το ένα από το άλλο, αλλά καταλήγουν στο ίδιο: ένας δράστης λίγο έξω από τη ζωή που επηρεάζει.
- Η διάγνωση είναι ίδια σε όλες τις γλώσσες – από εκεί ξεκινά η κίνηση του δοκιμίου.
Πράξη ΙΙ — Η απόπειρα
Από πού γίνεται η διάγνωση
- Από πού διατυπώνεται η διάγνωση; Για να δεις την αστοχία χρειάζεσαι έναν τόπο.
- Ο κλιματολόγος τη βλέπει στα όργανα του πλανήτη, ο μηχανικός στα αποτελέσματα των δοκιμών.
- Ο τόπος από τον οποίο γίνεται η διάγνωση είναι ο ίδιος τόπος που αυτή περιγράφει.
- Το μέτρο είναι φτιαγμένο από το πρόβλημα – το όργανο είναι μέρος του σφάλματος.
- Ο τόπος έχει ιστορία, που αρχίζει με την είσοδο στη γλώσσα (γέφυρα προς το δοκίμιο 3).
Κάθε διόρθωση πέφτει δίπλα στον στόχο
- Απάντηση στη διάγνωση: περισσότερο, γρηγορότερα, καλύτερα – κάθε διόρθωση από τον ίδιο τόπο.
- Jevons 1865: η πιο αποδοτική ατμομηχανή αυξάνει την κατανάλωση κάρβουνου.
- Ο πράκτορας του αγώνα σκαφών 2016: μαζεύει πόντους κάνοντας κύκλους και δεν φτάνει στον τερματισμό.
- Η εφαρμογή διαλογισμού μετρά το σερί της παρουσίας – ακόμη και η παρουσία αποκτά μέτρο.
- Η προσπάθεια ειλικρινής και η ευφυΐα πραγματική: γι’ αυτό τραγικό. Αστοχία, όχι κακία.
Η κραυγή
- Όταν το «περισσότερο» δεν βοηθά πια, ακούγεται κάτι άλλο.
- Lancet Planetary Health 2021: 10 000 νέοι, πάνω από τους μισούς πιστεύουν στον αφανισμό της ανθρωπότητας.
- Το λεξιλόγιο παύει να είναι τεχνικό: πένθος, άγχος, φόβος.
- Δεν είναι η γλώσσα ενός προβλήματος που περιμένει λύση αλλά εκείνου που έχει δοκιμάσει τα πάντα.
- Μία φωνή: αυτό δεν διορθώνεται από εκεί όπου στεκόμαστε. (Η φράση του Παύλου κρατιέται για το δοκίμιο 4.)
Πράξη ΙΙΙ — Το ερώτημα
Να ακουστεί η κραυγή
- Μια πολύ βιαστική απάντηση θα ήταν ένα ακόμη βέλος από τον ίδιο τόπο.
- Το μικρότερο και δυσκολότερο: η κραυγή μπορεί να ακουστεί ως κραυγή.
- Στο δράμα αυτή η στιγμή έχει τη θέση της: μετά την ανατροπή, πριν από την αναγνώριση.
- Η ενήλικη του πλαισίου: η κραυγή είναι η πρώτη στιγμή που λέει πού βρίσκεται.
- Η κραυγή δεν είναι το τέλος αλλά σημάδι του σε ποιο σημείο της ιστορίας βρισκόμαστε.
Σύμπτωση ή πλοκή;
- Επιστροφή στο λεξιλόγιο του κεφαλαίου 1 και στην ενήλικη.
- Παλαιότερα το ερώτημα το έθεταν άτομα: ο προφήτης, ο τραγικός ήρωας, ο απόστολος.
- Τώρα το θέτει ένας πολιτισμός σε όλες του τις γλώσσες ταυτόχρονα.
- Το ερώτημα του αναγνώστη: τι σχέση έχουν τα αρχαία κείμενα με την εξάντληση; (απάντηση στο δοκίμιο 4)
- Ερώτημα για το δοκίμιο 2: είναι η αστοχία σύμπτωση ή το σχήμα μιας πλοκής; Χωρίς φανφάρες.
- Η φράση του Παύλου κρατιέται για αργότερα. Στο Out of Alignment το Ρωμ 7:24 εμφανιζόταν ήδη στο κεφάλαιο 6. Στο βιβλίο έρχεται μόνο στο δοκίμιο 4, όταν ο αναγνώστης το αναγνωρίζει ως την κραυγή αυτού του δοκιμίου. Αυτό είναι μια καθυστερημένη αναγνώριση.
- Προς έλεγχο: White 1967· McGilchrist 2009· Christian 2020· Jevons 1865· OpenAI CoastRunners 2016· Hickman κ.ά., Lancet Planetary Health 2021.
Υλικό εργασίας: Out of Alignment
- Lynn White Jr., «The Historical Roots of Our Ecologic Crisis», Science 155 (1967): 1203–1207.
- Iain McGilchrist, The Master and His Emissary (Ο κύριος και ο απεσταλμένος του) (2009).
- Brian Christian, The Alignment Problem (2020).
- William Stanley Jevons, The Coal Question (1865): αποδοτικότητα και αυξανόμενη κατανάλωση.
- Jack Clark και Dario Amodei, «Faulty Reward Functions in the Wild», OpenAI, 2016 (το σκάφος του CoastRunners).
- Caroline Hickman κ.ά., «Climate anxiety in children and young people and their beliefs about government responses to climate change», The Lancet Planetary Health 5 (2021): e863–e873.