Προχτές το αυτοκίνητό μου φρενάρισε μόνο του. Κατεβαίνοντας την Εθνική με ταχύτητα και ενώ έκανα έναν ελιγμό για να προσπεράσω, μέτρησε με τους αισθητήρες του την απόσταση από το μπροστινό, υπολόγισε την ταχύτητά του και την δική μου, εκτίμησε την πιθανότητα σύγκρουσης και αποφάσισε να φρενάρει (και το έκανε πολύ αποφασιστικά!) ενώ ταυτόχρονα τράβηξε δυνατά την ζώνη μου για να με προστατέψει. Μόλις ξεπέρασα την έκπληξη, σκέφτηκα: OK, τα self-driving cars θα είναι στην καθημερινότητά μας πολύ γρηγορότερα απ΄ότι νομίζουμε.
Και θα είναι μια τεχνολογία με πραγματικά επαναστατικές επιδράσεις αν σκεφτεί κανείς το ότι αν για τους περισσότερους από εμάς η οδήγηση είναι αγκαρεία μετακίνησης εκτός από τις λίγες φορές που γίνεται πραγματική διασκέδαση, είναι όμως και μία πολύ σημαντική οικονομική δραστηριότητα, πολύ απαιτητική και νομικά ρυθμιζόμενη. Χιλιάδες τόνοι εμπορευμάτων μεταφέρονται οδικώς, από ανθρώπους για τους οποίους η οδήγηση είναι ειδικότητα και επάγγελμα. Και μάλιστα ένα επάγγελμα ακριβό και με αυστηρές προδιαγραφές για τις εργασιακές συνθήκες. Η τεχνολογία των self driving cars δεν είναι μια ακόμα «καταναλωτική» τεχνολογία που θα σας επιτρέπει να διαβάζετε το time line σας στο FB ενώ πηγαίνετε στην δουλειά σας. Είναι μια τεχνολογία που θα ανατρέψει τις οικονομικές συνθήκες – και μαζί τους τις εργασιακές – στον κλάδο των μεταφορών. Προετοιμαστείτε για συνδικαλιστικές κινητοποιήσεις.
Όμως, καθώς συνέχιζα τον δρόμο μου θυμήθηκα μια ιστορία από τα παιδικά μου χρόνια. Το αυτοκίνητο ήταν αυτή η υπέροχη Citroën DS που λατρέυαμε οικογενειακά, και που χάζευα όταν σηκωνόταν στις υδροπνευματικές της αναρτήσεις, άρα θα ήμουν περίπου δέκα ετών. Κάπου σε κάποια επαρχιακή οδό, νύχτα με ελαφριά βροχή (θυμάμαι τους υαλοκαθαριστήρες) και μεγάλη ταχύτητα, όταν ξαφνικά είδα από το πίσω κάθισμα τον πατέρα μου να σφίγγει το τιμόνι – ψύχραιμα – λίγο πριν ακουστεί ο χτύπος στο καπώ. Ένα μεγαλόσωμο άτυχο σκυλί είχε αποφασίσει να πεταχτεί μπροστά στους τροχούς μας. Το αυτοκίνητο έχασε κάπως την πορεία του από το χτύπημα, και σταμάτησε με ασφάλεια μετά από κάποιους χειρισμούς. Αν ο πατέρας μου είχε αποφασίσει να φρενάρει ή να κάνει κάποιον ελιγμό για να αποφύγει την σύγκρουση, θα είχαμε βρεθεί στον γκρεμό. Θα μπορούσε ποτέ η ακόμα πρωτόγονη τεχνολογία του δικού μου αυτοκινήτου να πάρει αυτήν την απόφαση και να μην φρενάρει; Γιατί αυτή ήταν μια καθαρά ηθική κρίση και μια καθαρά ηθική απόφαση. Θα έκανε ο πατέρας μου το ίδιο αν αντί για το άτυχο σκυλί ήταν ένας άνθρωπος ή ένα άλλο όχημα; Είναι απλά θέμα υπολογισμού πιθανοτήτων βάσει δεδομένων, κάτι που ένας υπολογιστής μπορεί να κάνει πιο γρήγορα και με μεγαλύτερη ακρίβεια από οποιονδήποτε από εμάς, ή είναι μια απόφαση που εμπεριέχει αναπόδραστα μια δύσκολη ηθική κρίση: αξίζει η δική σου ζωή περισσότερο; Ποιές και πόσες ζωές θα διαλέξεις να σώσεις;
Όσοι έχουν ασχοληθεί με την ηθική φιλοσοφία θα αναγνώρισαν το παλιό γνωστό «δίλημμα του τραμ», που δείχνει ότι είναι πολύ δύσκολο να βρούμε a priori κανόνες για την αντιμετώπιση τέτοιων διλημμάτων (το περιγράφει απολαυστικά ο Michael Sandel στην πρώτη από τις διαλέξεις του στο Harvard). Αν όμως δεν μπορούμε να βρούμε τέτοιους κανόνες, δεν μπορούμε και να τους προγραμματίσουμε στα μελλοντικά self driving cars που θα οδηγούμε. Ή θα πρέπει να αρκεστούμε στις αυθαίρετες ηθικές επιλογές του κατασκευαστή ή του νομοθέτη. Θα είναι άραγε η κατηγορική προσταγή του Καντ για τα γερμανικά αυτοκίνητα ή μια εφαρμογή του ωφελιμισμού για τα αμερικάνικα (δεν θέλω ούτε να σκεφτώ τι θα είναι για τα κινέζικα). Και τι πολιτικές επιπλοκές έχει η προοπτική αυτή, αν η τεχνολογία μας ενσωματώνει ηθικές επιλογές χωρίς καν να το αντιλαμβανόμαστε ή να είμαστε ενήμεροι όταν την χρησιμοποιούμε;
Μην νομίζετε ότι αυτό αφορά μόνο τα self driving cars και άτυχα σκυλιά που διασχίζουν επαρχιακούς δρόμους. Ο αλγόριθμος που αποφασίζει αν θα σας δείξει το ποστ αυτό στο timeline σας, σε λίγο (αν όχι ήδη) θα ενσωματώνει τις ηθικές κρίσεις του κατασκευαστή του για να αποφασίσει αυτόματα και χωρίς ανθρώπινη παρέμβαση πχ να μην σας δείξει «προσβλητικό» περιεχόμενο. Πόσο διαφανείς θα είναι αυτές οι επιλογές και πόσο θα μπορούμε να τις ελέγξουμε; Κάτι μου λέει ότι όπως το πιο χοτ επάγγελμα στον χώρο της τεχνολογίας σήμερα είναι τα analytics, στο μέλλον θα υπάρχουν πολλές ακριβοπληρωμένες θέσεις για αποφοίτους ανθρωπιστικών επιστημών και φιλοσοφίας. Το ηθικό δίδαγμα για όσους, όπως και του λόγου μου, ασχολούνται με την τεχνολογία: σεμνότητα και ταπεινότητα.
ΓΦα
Ο,τι ξέραμε για την ελεύθερη αγορά δεν ισχύει απαραίτητα στην νέα οικονομία
Η απόφαση της Ευρωπαϊκής Επιτροπής για την επιβολή θηριώδους προστίμου ενός δις ευρώ στην Google για παράβαση αρχών ανταγωνισμού (εκκρεμούν άλλες δύο υποθέσεις), ενώ είναι σωστή επί της αρχής, δείχνει ωστόσο πόσο ανέτοιμες είναι οι συγχρονες πολιτείες να αντιμετωπίσουν τα προβλήματα της νέας οικονομίας, τα οποία απαιτούν νέους θεσμούς. Μέχρι τώρα αντιμετωπίζονται αποσπασματικά και με παλιά, χρονοβόρα εργαλεία. Ένα από τα κυρίαρχα χαρακτηριστικά αυτής της αναδυόμενης νέας οικονομίας είναι η σχεδόν μονοπωλιακή συγκέντρωση ισχύος λόγω των φαινομένων δικτύου: εν πολλοίς χρησιμοποιείτε facebook κυρίως επειδή αυτό χρησιμοποιούν και οι άνθρωποι με τους οποίους θέλετε να επικοινωνείτε. Φανταστείτε αν τα δίκτυα των εταιρειών τηλεφωνίας δεν επικοινωνούσαν διαφανώς μεταξύ τους, αλλά μπορούσατε να συνδεθείτε μόνο με συνδρομητές του ίδιου δικτύου. Θα είχε απομείνει μόνο μια παγκόσμια εταιρεία τηλεφωνίας. Το πρόβλημα όμως τώρα έχει πολύ μεγαλύτερες επιπτώσεις, αφού αφορά στην ουσία και τον έλεγχο της διάχυσης πληροφορίας. Στο προηγούμενο παράδειγμα, φανταστείτε αν επιπλέον αυτή η μοναδική εταιρεία τηλεφωνίας που θα είχε απομείνει, μπορούσε να επηρεάζει με κλειστούς απόρρητους αλγορίθμους και με ποιον θα επικοινωνήσετε ή τι θα μπορείτε να ακούτε από αυτόν. Αυτό όμως ήδη συμβαίνει με το Google ή το Facebook. Σε προηγούμενες τεχνολογικές επαναστάσεις, οι κοινωνίες έλυσαν αυτά τα προβλήματα με δυο τρόπους: με ανοιχτά τεχνολογικά πρότυπα διασυνδεσιμότητας και με θεσμικές παρεμβάσεις. Η νέα τεχνολογική επανάσταση θα χρειαστεί και από τα δύο. Φυσικά αυτά φέρνουν σε αμηχανία και όσους «φιλελεύθερους» νομίζουν ότι ο φιλελευθερισμός εξαντλείται στην «ελεύθερη αγορά». Η ουσία του φιλελευθερισμού είναι η προστασια του ατόμου από την υπερβολική, κυριαρχική συγκέντρωση ισχύος, και αυτό το τελευταίο αφορά και τα κράτη και τις επιχείρήσεις. Και είναι φαιδρά ρηχό να επικαλούμαστε για έναν οικονομικό οργανισμό με αποκλειστική κυρίαρχη θέση και οικονομική ισχύ που ξεπερνά αυτήν πολλών κρατών του πλανήτη, τα ίδια αιτήματα ελευθερίας που έχουμε για τους πολίτες. Αλλά βέβαια και ρηχό από καθαρά οικονομική σκοπιά: οι ελεύθερες αγορές έχουν προϋποθέσεις, που συνήθως δεν αναφέρονται στις θεολογικές αναλύσεις περί αγοράς: συμμετρία πληροφορίας μεταξύ καταναλωτών (ή χρηστών) και προμηθευτών, μεγάλο πλήθος καταναλωτών και προμηθευτών, και φυσικά να μην υπάρχουν φαινόμενα που να εγκλωβίζουν καταναλωτές ή χρήστες, όπως αυτά που ανέφερα παραπάνω. Και ενώ εμείς, σε αυτή την επαρχία του πλανήτη, ασχολούμαστε με προβλήματα του 19ου αι., η δική μας πολιτεία είναι ανέτοιμη και να σκεφτεί καν, τα προβλήματα του 21ου.