Αυτόνομα οχήματα και το δίλημμα του τραμ

Προχτές το αυτοκίνητό μου φρενάρισε μόνο του. Κατεβαίνοντας την Εθνική με ταχύτητα και ενώ έκανα έναν ελιγμό για να προσπεράσω, μέτρησε με τους αισθητήρες του την απόσταση από το μπροστινό, υπολόγισε την ταχύτητά του και την δική μου, εκτίμησε την πιθανότητα σύγκρουσης και αποφάσισε να φρενάρει (και το έκανε πολύ αποφασιστικά!) ενώ ταυτόχρονα τράβηξε δυνατά την ζώνη μου για να με προστατέψει. Μόλις ξεπέρασα την έκπληξη, σκέφτηκα: OK, τα self-driving cars θα είναι στην καθημερινότητά μας πολύ γρηγορότερα απ΄ότι νομίζουμε.

Και θα είναι μια τεχνολογία με πραγματικά επαναστατικές επιδράσεις αν σκεφτεί κανείς το ότι αν για τους περισσότερους από εμάς η οδήγηση είναι αγκαρεία μετακίνησης εκτός από τις λίγες φορές που γίνεται πραγματική διασκέδαση, είναι όμως και μία πολύ σημαντική οικονομική δραστηριότητα, πολύ απαιτητική και νομικά ρυθμιζόμενη. Χιλιάδες τόνοι εμπορευμάτων μεταφέρονται οδικώς, από ανθρώπους για τους οποίους η οδήγηση είναι ειδικότητα και επάγγελμα. Και μάλιστα ένα επάγγελμα ακριβό και με αυστηρές προδιαγραφές για τις εργασιακές συνθήκες. Η τεχνολογία των self driving cars δεν είναι μια ακόμα «καταναλωτική» τεχνολογία που θα σας επιτρέπει να διαβάζετε το time line σας στο FB ενώ πηγαίνετε στην δουλειά σας. Είναι μια τεχνολογία που θα ανατρέψει τις οικονομικές συνθήκες – και μαζί τους τις εργασιακές – στον κλάδο των μεταφορών. Προετοιμαστείτε για συνδικαλιστικές κινητοποιήσεις.

Όμως, καθώς συνέχιζα τον δρόμο μου θυμήθηκα μια ιστορία από τα παιδικά μου χρόνια. Το αυτοκίνητο ήταν αυτή η υπέροχη Citroën DS που λατρέυαμε οικογενειακά, και που χάζευα όταν σηκωνόταν στις υδροπνευματικές της αναρτήσεις, άρα θα ήμουν περίπου δέκα ετών. Κάπου σε κάποια επαρχιακή οδό, νύχτα με ελαφριά βροχή (θυμάμαι τους υαλοκαθαριστήρες) και μεγάλη ταχύτητα, όταν ξαφνικά είδα από το πίσω κάθισμα τον πατέρα μου να σφίγγει το τιμόνι – ψύχραιμα – λίγο πριν ακουστεί ο χτύπος στο καπώ. Ένα μεγαλόσωμο άτυχο σκυλί είχε αποφασίσει να πεταχτεί μπροστά στους τροχούς μας. Το αυτοκίνητο έχασε κάπως την πορεία του από το χτύπημα, και σταμάτησε με ασφάλεια μετά από κάποιους χειρισμούς. Αν ο πατέρας μου είχε αποφασίσει να φρενάρει ή να κάνει κάποιον ελιγμό για να αποφύγει την σύγκρουση, θα είχαμε βρεθεί στον γκρεμό. Θα μπορούσε ποτέ η ακόμα πρωτόγονη τεχνολογία του δικού μου αυτοκινήτου να πάρει αυτήν την απόφαση και να μην φρενάρει; Γιατί αυτή ήταν μια καθαρά ηθική κρίση και μια καθαρά ηθική απόφαση. Θα έκανε ο πατέρας μου το ίδιο αν αντί για το άτυχο σκυλί ήταν ένας άνθρωπος ή ένα άλλο όχημα; Είναι απλά θέμα υπολογισμού πιθανοτήτων βάσει δεδομένων, κάτι που ένας υπολογιστής μπορεί να κάνει πιο γρήγορα και με μεγαλύτερη ακρίβεια από οποιονδήποτε από εμάς, ή είναι μια απόφαση που εμπεριέχει αναπόδραστα μια δύσκολη ηθική κρίση: αξίζει η δική σου ζωή περισσότερο; Ποιές και πόσες ζωές θα διαλέξεις να σώσεις;

Όσοι έχουν ασχοληθεί με την ηθική φιλοσοφία θα αναγνώρισαν το παλιό γνωστό «δίλημμα του τραμ», που δείχνει ότι είναι πολύ δύσκολο να βρούμε a priori κανόνες για την αντιμετώπιση τέτοιων διλημμάτων (το περιγράφει απολαυστικά ο Michael Sandel στην πρώτη από τις διαλέξεις του στο Harvard). Αν όμως δεν μπορούμε να βρούμε τέτοιους κανόνες, δεν μπορούμε και να τους προγραμματίσουμε στα μελλοντικά self driving cars που θα οδηγούμε. Ή θα πρέπει να αρκεστούμε στις αυθαίρετες ηθικές επιλογές του κατασκευαστή ή του νομοθέτη. Θα είναι άραγε η κατηγορική προσταγή του Καντ για τα γερμανικά αυτοκίνητα ή μια εφαρμογή του ωφελιμισμού για τα αμερικάνικα (δεν θέλω ούτε να σκεφτώ τι θα είναι για τα κινέζικα). Και τι πολιτικές επιπλοκές έχει η προοπτική αυτή, αν η τεχνολογία μας ενσωματώνει ηθικές επιλογές χωρίς καν να το αντιλαμβανόμαστε ή να είμαστε ενήμεροι όταν την χρησιμοποιούμε;

Μην νομίζετε ότι αυτό αφορά μόνο τα self driving cars και άτυχα σκυλιά που διασχίζουν επαρχιακούς δρόμους. Ο αλγόριθμος που αποφασίζει αν θα σας δείξει το ποστ αυτό στο timeline σας, σε λίγο (αν όχι ήδη) θα ενσωματώνει τις ηθικές κρίσεις του κατασκευαστή του για να αποφασίσει αυτόματα και χωρίς ανθρώπινη παρέμβαση πχ να μην σας δείξει «προσβλητικό» περιεχόμενο. Πόσο διαφανείς θα είναι αυτές οι επιλογές και πόσο θα μπορούμε να τις ελέγξουμε; Κάτι μου λέει ότι όπως το πιο χοτ επάγγελμα στον χώρο της τεχνολογίας σήμερα είναι τα analytics, στο μέλλον θα υπάρχουν πολλές ακριβοπληρωμένες θέσεις για αποφοίτους ανθρωπιστικών επιστημών και φιλοσοφίας. Το ηθικό δίδαγμα για όσους, όπως και του λόγου μου, ασχολούνται με την τεχνολογία: σεμνότητα και ταπεινότητα.

ΓΦα

Posted in Άρθρα and tagged , , . Bookmark the permalink. RSS feed for this post. Leave a trackback.

One Response to Αυτόνομα οχήματα και το δίλημμα του τραμ

  1. κύριε Φαρμάκη

    είχα μία συζήτηση με ένα φίλο μου καθηγητή πληροφορικής εχθές και από αυτά που μου είπε περί neural network programming πολύ φοβάμαι ότι η απόφαση του αυτοκινήτου στο μέλλον μπορεί να μην είναι στα χέρια του κατασκευαστή είτε έχει πρόθεση να ακολουθήσει τον Μπένθαμ είτε τον Καντ. Ο προγραμματισμός στα νευρωνικά δίκτυα δεν γίνεται με μία σειρά if and then όπως μέχρι σήμερα, αλλά ο υπολογιστής εκπαιδεύεται μέσω παραδειγμάτων αρχικά (από τον κατασκευαστή υποθέτω) αλλά στην συνέχεια επανεκπαιδεύεται συνεχώς μέσα από την καθημερινή εμπειρία ανατροφοδοτώντας με το κάθε output το input. Συνεπώς οι αποφάσεις κάθε αυτοκινήτου με την δική του “προσωπική” εμπειρία ενδέχεται να διαφέρουν μεταξύ τους και να μην είμαστε σε θέση να μπορούμε ούτε καν να τις υποθέσουμε. Θα μπορούσε ενδεχομένως τα outputs να συγκεντρώνονται σε κεντρικές databases οπότε να υπάρχει κοινή εμπειρία. Παρόλα αυτά δεν λύνεται το βασικό πρόβλημα της αυτόνομης εκπαίδευσης.

    Δεν θέλω να σκεφτώ άλλους τομείς που έχει εφαρμογή αυτού του είδους η AI.

    Όταν έχεις και τους Stephen Hawking, Bill Gates και Elon Musk να ανησυχούν φοβάμαι πως η εποχή του Terminator έχει αρχίσει και συμβαίνει ήδη.

    http://www.huffingtonpost.com/james-barrat/hawking-gates-artificial-intelligence_b_7008706.html

Σχόλια:

  • Facebook Page:

  • Εγγραφείτε:

    για παραλαβή νέων δημοσιεύσεων με e-mail

Swedish Greys - a WordPress theme from Nordic Themepark.