Σαν σήμερα: 2 Ιανουαρίου - Τι να κάνω αν με πληγώσει το ρομπότ μου; Ο Ισαάκ Ασίμοφ είχε την απάντηση

Την εποχή που ο Ισαάκ Ασίμοφ επινόησε τους Τρεις Νόμους της Ρομποτικής, σκεφτόταν ξεκάθαρα τα αντρόιντ, παρότι αυτά τότε ήταν όντως επιστημονική φαντασία.

Ο Ασίμοφ πολιτογραφήθηκε Αμερικανός το 1928, καθώς η οικογένειά του μετανάστευσε στις ΗΠΑ το '23, λίγο μετά την επικράτηση των Μπολσεβίκων.

Σπούδασε στο Πανεπιστήμιο Κολούμπια, από το οποίο αποφοίτησε το 1939. Το 1955 έγινε καθηγητής βιοχημείας στην ιατρική σχολή του Πανεπιστημίου της Βοστώνης. Από τα 465 δημοσιευμένα βιβλία του, μόνο τα 25 είναι επιστημονικής φαντασίας, τα υπόλοιπα είναι επιστημονικού περιεχομένο.

Ο Ασίμοφ ήξερε πολύ καλά τι έλεγε και τι έγραφε. Η γνώση των φυσικών επιστημών σε συνδυασμό με την άριστη αντίληψη της ανθρώπινης συμπεριφοράς και ψυχολογίας, τον έκανε όχι να φανταστεί, αλλά να οραματιστεί τον κόμο που μερικές δεκαετίες αργότερα θα γινόταν πραγματικότητα: Αυτόν της Τεχνητής Νοημοσύνης.

Στον κόσμο αυτόν τον κατά Ασίμοφ, τα ανθρωποειδή ρομπότ θα υπηρετούσαν τους ανθρώπους και θα χρειάζονταν κάποιοι κανόνες στον προγραμματισμό τους προκειμένου να μην κάνουν κακό στους ανθρώπους.

Κι έτσι γεννήθηκαν πριν από ακριβώς 80 χρόνια οι Τρεις Νόμοι της Ρομποτικής, μέσα από το διήγημα «Runaround». Πάνω σ' αυτούς τους νόμους βασίστηκε όλο το ρομποτικό σύμπαν του Ασίμοφ, το οποίο περιλαμβάνει τα έργα «Εγώ, το Ρομπότ», «Έρχονται τα Ρομπότ», «Σπηλιές από Ατσάλι», «Ο Γυμνός Ήλιος», «Τα Ρομπότ της Αυγής», «Ρομπότ και Αυτοκρατορία».

Η αλήθεια είναι, όμως, ότι ενώ ο Ασίμοφ είχε προβλέψει ολόσωστα το γενικό πλαίσιο πάνω στο οποίο θα διαμορφωνόταν και θα εξελισσόταν η σχέση ανθρώπων και μηχανών, στα 80 χρόνια που μεσολάβησαν από τους ηθικούς εκείνους κανόνες του, έχουν συμβεί σημεία και τέρατα, ανάμεσα σε όλα και στην τεχνολογική έρευνα. Και πλέον έχουμε μια εντελώς διαφορετική αντίληψη τόσο για το πώς μπορούν να είναι τα ρομπότ αλλά και για το πώς θα αλληλεπιδρούμε μαζί τους.

Το πολύ ανεπτυγμένο πεδίο της ρομποτικής παράγει ένα τεράστιο φάσμα μηχανών, από αυτόνομες ηλεκτρικές σκούπες ως στρατιωτικά drones ως ολόκληρες γραμμές βιομηχανικής παραγωγής. Τα ρομπότ φτιάχνουν ήδη τους εαυτούς τους.

Την ίδια στιγμή, η Τεχνητή Νοημοσύνη βρίσκεται όλο και περισσότερο πίσω από κάθε τι που επηρεάζει την καθημερινότητά μας, είτε αυτό είναι μια απλή αναζήτηση στο Γκουγκλ είτε μια κυβερνητική υπηρεσία στο ίντερνετ. Είναι σχεδόν αδύνατον να μην αλληλεπιδράς με τις μηχανές πλέον· ακόμη κι αν δεν θέλεις να το δεις και να το πιστέψεις, οι μηχανές επικρατούν από κάθε άποψη και σε κάθε πεδίο της ζωής ημών των ανθρώπων.

Συνεπώς είναι προφανές ότι όντως χρειαζόμαστε κανόνες για το πώς πρέπει να διεξάγεται αυτή η αλληλεπίδραση. Οι νόμοι του Ασίμοφ χρησιμοποιούνται ως σήμερα σαν βάση για τον τρόπο με τον οποίο σχεδιάζουμε και αναπτύσσουμε τις μηχανές μας. Η κυβέρνηση της Νοτίου Κορέας πρότεινε το 2007 τη δημιουργία μιας Χάρτας Ηθικών Κανόνων των Ρομπότ, στην οποια θα έπερναν πιο θεσμική διάσταση οι συγκεκριμένοι νόμοι.

Σήμερα, με την ραγδαία πρόοδο της ρομποτικής και της Τεχνητής Νοημοσύνης, ίσως οι νόμοι χρειάζονται αναθεώρηση.

Οι Τρεις Νόμοι της Ρομποτικής

Οι Τρεις Νόμοι του Ασίμοφ είναι οι εξής:

1. Το ρομπότ δεν θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο ον
2. Το ρομπότ πρέπει να υπακούει τις διαταγές που του δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο
3. Το ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο

Όπως είπαμε ήδη, ένα από τα προφανή ζητήματα είναι ότι τα ρομπότ σήμερα είναι πολύ πιο ποικίλα από αυτά στις ιστορίες του Ασίμοφ· η εξέλιξη δε, δεν έφερε μόνο πιο σύνθετες μηχανές αλλά και πολύ πιο απλές.

Πώς να σε βλάψει, ας πούμε, μια ηλεκτρική σκούπα, ακόμη κι αν υπακούει εντολές κάποιου που θέλει να το κάνει; Ρομπότ είναι, αλλά μόνο μια δουλειά έχει να κάνει στη ζωή του, αυτήν ξέρει, αυτήν θα κάνει. Ο κόσμος να χαλάσει γύρω της, η σκούπα απλώς θα μαζεύει τα αποκαΐδια.

Υπάρχει, συνεπώς ένα όριο πολυπλοκότητας κάτω από το οποίο προφανώς οι κανόνες δεν έχουν κάποια ιδιαίτερη χρησιμότητα.

Στο άλλο άκρο του φάσματος, ωστόσο, βρίσκονται τα ρομπότ που έχουν σχεδιαστεί για στρατιωτικούς σκοπούς. Συσκευές που έχουν σχεδιαστεί για σκοπούς κατασκοπείας, εξουδετέρωσης βομβών ή μεταφοράς φορτίου. Αν υποθέσουμε ότι αυτά τα ρομπότ κατασκευάζονται ακριβώς με στόχο να μειώσουν τις απώλειες ανθρώπινου προσωπικού σε περιβάλλον πολέμου, τότε υπό μια έννοια ακολουθούν τους ηθικούς κανόνες του Ασίμοφ.

Μόνο που όλα αυτά τα υπέροχα και πολύ ανθρωπιστικά ρομπότ του σήμερα είναι απλώς ένα ακόμη βήμα ως την κατασκευή ρομπότ που θα πολεμούν στο πεδίο της μάχης, θα συμβεί αυτό, το ξέρουμε όλοι, είναι απλώς θέμα χρόνου. Κατά πόσο θα ισχύει, λοιπόν, σε αυτήν την περίπτωση ο πρώτος νόμος -τα ρομπότ δεν πρέπει να κάνουν κακό σε ανθρώπους;

Ακόμη κι αν επιχειρήσουμε μια τρομακτικά χαλαρή ερμηνεία στο ρόλο του (κάθε) στρατού και πούμε ότι «σώζει ζωές στρατιωτών και αμάχων», δεν μπορούμε να αγνοήσουμε ότι προκειμένου να το κάνει, σκοτώνει άλλους ανθρώπους που απλώς είναι οι εχθροί.

Με λίγα λόγια, είμαστε πάρα πολύ έτοιμοι να επιβάλουμε την όποια ηθική χαλαρότητα διέπει τις δικές μας σχέσεις και στις σχέσεις μας με τις μηχανές. Ένα πολύ σοβαρό ερώτημα βέβαια είναι πώς θα τις μάθεις πότε είναι οκ να σκοτώνουν και πότε όχι...

Η ασάφεια των νόμων έχει οδηγήσει συγγραφείς και ερευνητές, συμπεριλαμβανομένου του Ασίμοφ, να διερευνήσουν πώς θα μπορούσαν να παρερμηνευθούν ή να εφαρμοστούν εσφαλμένα.

Ένα αρχικό και πολύ σημαντικό ζήτημα είναι ότι στην πραγματικότητα δεν ορίζουν τι είναι ένα ρομπότ. Καθώς η έρευνα σπρώχνει διαρκώς τα όρια της τεχνολογίας, υπάρχουν αναδυόμενοι κλάδοι της ρομποτικής που εξετάζουν ολοένα και πιο πολύ τις μοριακές μηχανές.

Ρομπότ φτιαγμένα από DNA και πρωτεΐνες που μπορούν για παράδειγμα να χρησιμοποιηθούν στη χειρουργική για να διορθώσουν γονιδιακές διαταραχές. Στη θεωρία αυτές οι μηχανές θα έπρεπε να ακολουθούν τους κανόνες του Ασίμοφ. Κι εδώ τα πράγματα γίνονται ιδιαίτερα πολύπλοκα

Αλλά για να ακολουθήσουν εντολές μέσω σημάτων DNA, θα έπρεπε ουσιαστικά να γίνουν αναπόσπαστο μέρος του ανθρώπου πάνω στον οποίο εργάζονται. Αυτή η ενσωμάτωση θα καθιστούσε δύσκολο τον προσδιορισμό του αν το ρομπότ ήταν αρκετά ανεξάρτητο και άρα αν θα πρέπει να υπάγεται στους νόμους της Ρομποτικής ή να λειτουργεί εκτός αυτών. Σε πρακτικό επίπεδο θα ήταν αδύνατο να αποφασίσει εάν τυχόν εντολές που έλαβε θα προκαλούσαν βλάβη στον άνθρωπο εάν εκτελούνταν.

Υπάρχει επίσης το ερώτημα τι θεωρείται ότι βλάπτει έναν άνθρωπο. Αυτό θα μπορούσε να είναι ένα ζήτημα όταν εξετάζουμε για παράδειγμα την ανάπτυξη μωρών ρομπότ στην Ιαπωνία. Εάν ένας άνθρωπος υιοθετούσε ένα από αυτά τα ρομπότ, αυτό θα μπορούσε να του προκαλέσει συναισθηματική ή ψυχολογική βλάβη με τη συμπεριφορά του. Αλλά αυτή η βλάβη μπορεί να μην προέλθει από τις άμεσες ενέργειες του ρομπότ ή να γίνει εμφανής παρά πολλά χρόνια μετά το τέλος της αλληλεπίδρασης ανθρώπου-ρομπότ. Αυτό το πρόβλημα θα μπορούσε να ισχύει ακόμη και για πολύ απλούστερη τεχνητή νοημοσύνη, όπως η χρήση μηχανικής μάθησης για τη δημιουργία μουσικής που προκαλεί συναισθήματα.

Αν η Τεχνητή Νοημοσύνη φτιάξει κακή μουσική, δεν μας βλάπτει σε τελική ανάλυση;

Το άλλο μεγάλο ζήτημα με τους νόμους είναι ότι θα χρειαζόμασταν μια σημαντική πρόοδο στην Τεχνητή Νοημοσύνη, ώστε τα ρομπότ να μπορούν πραγματικά να τους ακολουθούν.

Ο στόχος της έρευνας της Τεχνητής Νοημοσύνης συχνα περιγράφεται ως η ανάπτυξη μηχανών που μπορούν να σκέφτονται και να ενεργούν λογικά και σαν άνθρωποι. Μέχρι στιγμής, η μίμηση της ανθρώπινης συμπεριφοράς, όμως, δεν έχει τελειοποιηθεί στον τομέα της Τεχνητής Νοημοσύνης και η ανάπτυξη της ορθολογικής συμπεριφοράς έχει επικεντρωθεί σε περιορισμένους τομείς.

Ένα ρομπότ θα μπορούσε να λειτουργήσει μόνο σε μια πολύ περιορισμένη σφαίρα και οποιαδήποτε ορθολογική εφαρμογή των νόμων θα ήταν εξαιρετικά περιορισμένη. Ακόμη και αυτό μπορεί να μην είναι δυνατό με την τρέχουσα τεχνολογία, καθώς ένα σύστημα που θα μπορούσε να σκεφτεί από μόνο του και να λαμβάνει αποφάσεις με βάση τους νόμους θα χρειαζόταν αδιανόητη υπολογιστική ισχύ. Δεν την έχουμε ακόμη.

Με λίγα λόγια δεν έχουμε ακόμη μηχανές που να μπορούν να αποφασίζουν εάν θα είναι «νομοταγείς» ή όχι σε ένα σύστημα ηθικών αξιών που εμείς για τους εντελώς δικούς μας λόγους τους θέσαμε.

Οι νόμοι του Ασίμοφ προσφέρουν τις θεμελιώδεις αρχές για κάποιον που θέλει να δημιουργήσει έναν ρομποτικό κώδικα σήμερα. θα μπορούσαμε και ίσως πρέπει να τους εξελίξουμε με ένα πολύ πιο ολοκληρωμένο σύνολο νόμων. Όμως, χωρίς σημαντικές εξελίξεις στην Τεχνητή Νοημοσύνη, η εφαρμογή τέτοιων νόμων θα παραμείνει αδύνατη. τα ρομπότ θα συνεχίσουν να κάνουν αυτό που τα προγραμμάτισες, χωρίς να σκέφτονται αν είναι καλό ή κακό.

Και αυτό πριν καν σκεφτούμε την πιθανότητα οι άνθρωποι ν' αρχίσουν να ερωτεύονται τα ρομπότ κι αυτά να τους πληγώνουν συναισθηματικά. Θα επιτρέπεται αυτό;

Όπως εξάλλου η ίδια η Τεχνητή Νοημοσύνη μας έμαθε ήδη να λέμε: It's complicated.

Σαν σήμερα: H 2η Ιανουαρίου στην Ιστορία

1920. Γεννιέται στη Ρωσία ο Ισαάκ Ασίμοφ, Ρωσοαμερικανός συγγραφέας βιβλίων επιστημονικής φαντασίας. Ο Ασίμοφ μετανάστευσε στις ΗΠΑ το 1923 και πήρε την αμερικάνικη υπηκοότητα το 1928. Σπούδασε στο Πανεπιστήμιο Κολούμπια, από το οποίο αποφοίτησε το 1939. Το 1955 έγινε καθηγητής βιοχημείας στην ιατρική σχολή του Πανεπιστημίου της Βοστώνης. Υπήρξε επίσης εταίρος επιστημονικών συλλόγων, με αρκετές διακρίσεις στο ενεργητικό του για τις επιστημονικές του έρευνες.

1924. Γεννιέται ο σπουδαίος καλλιτέχνης του θεάτρου σκιών, Ευγένιος Σπαθάρης.

1939, Γαλλία. Ο πρώην βασιλιάς Εδουάρδος Η' και η Γουόλις Σίμσον στη βίλα τους στη νότια Γαλλία, όπου γιόρτασαν την Πρωτοχρονιά. Το ζευγάρι δεν μπορεί να επιστρέψει στη Βρετανία, παρά μόνο κατόπιν σχετικής πρόσκλησης της βασίλισσας Ελισάβετ.

1944. Το Πρωτοχρονιάτικο Λονδίνο, τον καιρό του πολέμου.

1956. Ο ηθοποιός Πολ Νιούμαν, στο Χόλιγουντ.

1959. Η Σοβιετική Ένωση εκτοξεύει το πρώτο διαστημόπλοιο με κατεύθυνση τη Σελήνη. Πρόκειται για το μη επανδρωμένο «Λούνα 1», το οποίο θα περάσει περίπου 7.000 χιλιόμετρα μακριά από το δορυφόρο της Γης και θα χαθεί στο διάστημα.

1960. Ο γερουσιαστής της Μασαχουσέτης, Τζον Φ. Κένεντι, ο οποίος ανακοίνωσε την υποψηφιότητά του για τις επόμενες προεδρικές εκλογές, με την Έλενορ Ρούζβελτ.

1967, Ρώμη. Ο ηθοποιός Τόνι Κέρτις με τη σύζυγό του, τη Γερμανίδα ηθοποιό Κριστίν Κάουφμαν και τα δύο παιδιά τους.

1967. Ο Ρόναλντ και η Νάνσι Ρέιγκαν λίγο μετά την ορκομωσία του πρώτου ως Κυβερνήτη της πολιτείας της Καλιφόρνια.

1969. Το Apollo 8 μεταφέρεται στη στρατιωτική βάση του Ρόκγουελ, όπου θα μελετηθεί μετά την επιτυχή επιστροφή του από την ιστορική τροχιά γύρω από τη Σελήνη.

1989, Παρίσι. Ο Πύργος του Άιφελ γιορτάζει τα 100 του χρόνια. Είναι μια επέτειος που συμπίπτει με τα 200 χρόνια από τη Γαλλική Επανάσταση.