Ο οδηγός-ρομπότ

Τα ρομπότ ήδη κυριαρχούν στον κόσμο. Το ότι δεν το έχουμε συνειδητοποιήσει πλήρως ακόμα, οφείλεται στο ότι αυτό δεν συντελέστηκε με τον τρόπο που περιέγραψε το 1950 ο Ισαάκ Ασίμωφ στο γνωστό μυθιστόρημα του "Εγώ, το Ρομπότ". Μπορεί οι δρόμοι των πόλεων να μην είναι γεμάτοι από ανθρωποειδή ρομπότ, όμως ήδη τα ρομπότ έχουν κάνει μεγάλη πρόοδο και εκτελούν πολλές εργασίες. Μια εφαρμογή που πρόκειται να υλοποιηθεί σύντομα είναι τα αυτόνομα αυτοκίνητα χωρίς οδηγό. Ακόμα κι αν δεν ελέγχεται η οδήγηση από ανθρωποειδή ρομπότ, εντούτοις θα ελέγχεται από λογισμικό, κάτι που εγείρει πολλά ηθικά ζητήματα.

Για παράδειγμα ένα από αυτά είναι το εξής: Πριν από μία αναπόφευκτη σύγκρουση, θα πρέπει το λογισμικό του αυτοκινήτου να επιλέγει να δράσει με τέτοιο τρόπο, ώστε να σκοτωθεί ο επιβάτης του αυτοκινήτου, και όχι κάποιος άλλος άνθρωπος ;

Σκεφτείτε το εξής πείραμα σκέψης: Ταξιδεύετε σ' ένα αυτόνομο αυτοκίνητο κατά μήκος ενός επαρχιακού δρόμου μονής λωρίδας και έχετε μπει σ' ένα στενό τούνελ. Λίγο πριν την έξοδο του τούνελ, ένα παιδί ξεκινάει να διασχίσει το δρόμο, εμποδίζοντας έτσι  την έξοδο σας από το τούνελ. Το αυτοκίνητο έχει πια μόνο δύο επιλογές: να χτυπήσει και να σκοτώσει το παιδί, ή να κάνει μια στραβοτιμονιά και να ρίξει το αυτοκίνητο στο τοίχο, σκοτώνοντας έτσι εσας και όχι το παιδί.

Και οι δύο ενέργειες είναι βέβαιο ότι θα οδηγήσουν σε κάτι κακό, και από ηθική σκοπιά, δεν υπάρχει "σωστή" απάντηση σε αυτό το δίλημμα. Το πρόβλημα του τούνελ χρησιμεύει ως ένα καλό εργαλείο προβληματισμού, ακριβώς επειδή είναι δύσκολο να απαντηθεί. Επιπλέον, επισημαίνει όσο αφορά τον επικείμενο σχεδιασμό του λογισμικού, προκλήσεις που πρέπει να αντιμετωπιστούν, δεδομένου ότι θέτει το εξής ερώτημα: πώς θα πρέπει να προγραμματιστούν τα αυτόνομα αυτοκίνητα ώστε να αντιδρούν με τον βέλτιστο τρόπο σε δύσκολες ηθικές καταστάσεις;

 

Ωστόσο, ένα ακόμα πιο ενδιαφέρον ερώτημα είναι: ποιος πρέπει να αποφασίζει πώς θα αντιδράει το αυτοκίνητο σε δύσκολες ηθικές καταστάσεις;

 

Αυτή η δεύτερη ερώτηση στρέφεται προς τους χρήστες, προγραμματιστές αλλά και νομικούς, και θέτει τον προβληματισμό, ποιος έχει το νόμιμο ηθικό κύρος να λάβει τις σχετικές αποφάσεις.

Με μια πρώτη ματιά, αυτό το δεύτερο ερώτημα φαίνεται περίεργο. Η αυθόρμητη απάντηση είναι ότι αυτό είναι  δουλειά των σχεδιαστών λογισμικού ώστε να προγραμματίσουν το αυτοκίνητο να αντιδράει με τον ένα ή τον άλλο τρόπο. Αλλά είναι έτσι;

Όμως από την πλευρά του οδηγού, το πρόβλημα του τούνελ είναι κάτι πολύ περισσότερο από ένα πολύπλοκο θέμα σχεδιασμού του λογισμικού. Είναι ουσιαστικά μια απόφαση ζωής και θανάτου. Το πρόβλημα του τούνελ θέτει βαθιά ηθικά ζητήματα που εμπλέκουν άμεσα τον οδηγό.

Αν αφεθεί η αντιμετώπιση αυτού του διλήμματος στους σχεδιαστές λογισμικού, είναι σαν να αποδεχόμαστε ότι υπάρχει μία «σωστή» απάντηση που μπορεί να επιλέγεται και να εφαρμόζεται σε κάθε παρόμοια περίπτωση. Στην πραγματικότητα δεν υπάρχει. Είναι πάντα η βέλτιστη επιλογή για το αυτοκίνητο να χτυπήσει το παιδί; Είναι μήπως πάντα η βέλτιστη επιλογή για το αυτοκίνητο να θυσιάσει τον οδηγό; Αν ψάχνουμε για μια λύση που ταιριάζει σε όλες τις περιπτώσεις, αυτή μπορεί να βρεθεί μόνο με αυθαίρετο τρόπο.

Η καλύτερη επιλογή είναι να διερευνήσουμε άλλα αντίστοιχα παραδείγματα λήψης πολύπλοκων αποφάσεων σχετικά με ηθικά προβλήματα.

Για παράδειγμα οι  γιατροί και οι νοσηλευτές έρχονται συχνά αντιμέτωποι με αποφάσεις ζωής ή θανάτου. Σύμφωνα με την ιατρική δεοντολογία, αφήνεται στο άτομο για το οποίο το ζήτημα έχει άμεσες επιπτώσεις να αποφασίσει ποια έκβαση είναι η προτιμότερη. Για παράδειγμα, όταν υπάρχει διάγνωση καρκίνου, , εναπόκειται στον ασθενή να αποφασίσει αν πρέπει ή όχι να υποβληθεί σε χημειοθεραπεία. Ο επαγγελματίες στο χώρο της υγείας εκπαιδεύονται να σέβονται την αυτονομία των ασθενών.

Η προσφυγή στην προσωπική αυτονομία είναι διαισθητική. Γιατί άραγε σε συνθήκες οδήγησης θα δεχόταν κάποιος να αφήσει κάποιον άλλο να αποφασίσει για λογαριασμό του για βαθιά προσωπικά ηθικά ζητήματα, όταν μάλιστα αισθάνεται ικανός να αποφασίσει από μόνος του; Αν τελικά επιτρέψουμε στους σχεδιαστές λογισμικού να επιλέξουν πώς ένα αυτοκίνητο θα αντιδράει σε καταστάσεις όπως στο πρόβλημα του τούνελ, τότε τα αυτοκίνητα δεν πρόκειται να σέβονται τις αυτόνομες προτιμήσεις των οδηγών.

Τα ερωτήματα είναι πολλά και καθίσταται σαφές ότι με τα αυτόνομα αυτοκίνητα θα ανακύψουν βαθιά προσωπικά ηθικά ζητήματα,  που όμως θα πρέπει να απαντηθούν.

 

Εσείς τι λέτε; Ποιος θα έπρεπε να σκοτωθεί το παιδί ή εσείς ;