Όλοι έχουμε παρακολουθήσει τις ταινίες Matrix, εκπληκτική σειρά. Βέβαια, όσοι ήμαστε λίγο μικροί όταν την είδαμε για πρώτη φορά τα βρήκαμε λίγο σκούρα με το σενάριο, συνεχίσαμε να μασαμπουκιάζουμε αμέριμνοι τα ποπ κορν και επαναπαυτήκαμε με τις φάπες που έπεφταν. Όταν μεγαλώσαμε, όμως, και αρχίσαμε να συνειδητοποιούμε το βάθος της υπόθεσης, δεν μπορέσαμε παρά να παραδεχτούμε πως πρόκειται για μία από εκείνες τις περιπτώσεις που αποτελούν τομή στις ταινίες επιστημονικής φαντασίας. Και πάντα η επιστημονική φαντασία συμβαδίζει με τη δεδομένη επιστημονική εξέλιξη, καθώς αυτές οι δύο συνδέονται μέσω μιας αλληλοτροφοδοτούμενης σχέσης: πολλές φορές η φαντασία, ορμώμενη από την τωρινή κατάσταση, χαράσσει, ακόμη και υποθετικά, τους ορίζοντές μας. Το κατά πόσο είναι αυτό επιθυμητό εξαρτάται, φυσικά, και από την ταινία που επιλέγουμε να δούμε. Ωστόσο, πολλές φορές όσο ζοφερή και αν είναι μια ταινία, αποτελεί μάντης ( κακών ) μιας πιθανής κατάστασης για την οποία αξίζει να προβληματιστούμε.
Στον πυρήνα της φιλοσοφίας του Matrix ενυπήρχε το εξής ερώτημα: πώς μπορούμε να συνυπάρξουμε ειρηνικά και αποτελεσματικά με την τεχνητή νοημοσύνη όταν θα διαθέτει δική της συνείδηση; Ή ακόμη χειρότερα, τι μέλλει γενέσθαι όταν οι απόλυτα εξελιγμένες μηχανές αποκτήσουν ένστικτο επιβίωσης;
Το ερώτημα αυτό καθίσταται επιτακτικό να εγκολπωθεί σε ένα πλαίσιο πρόληψης ή αντιμετώπισης. Ο προβληματισμός ξύπνησε χρόνια πριν στα μυαλά των μεγάλων οραματιστών. Τις τελευταίες μέρες, παρόλα αυτά, το ζήτημα της τεχνητής νοημοσύνης επανέρχεται όλο και πιο βασανιστικά.
Η τεχνητή νοημοσύνη ( Artificial Intelligence – AI ) έχει αρχίσει να απασχολεί όλο και περισσότερο σε πρακτικό επίπεδο τους τεχνολογικούς κολοσσούς, οι οποίοι κατά κύριο λόγο επενδύουν σε αυτήν. Η Google καθώς και το Facebook, λόγου χάρη, χρησιμοποιούν κάποιας μορφής AI για τις διαδικασίες μετάφρασης. Αυτές οι εταιρείες αποτελούν τα κυριότερα ερευνητικά κέντρα σε θέματα τεχνητής νοημοσύνης τη στιγμή που, τουλάχιστον στην Αμερική, δεν υπάρχει κάποιος συγκεκριμένος κυβερνητικός οργανισμός ο οποίος να έχει επιφορτιστεί με την επίβλεψη των ερευνών και την κατεύθυνση στην οποία θα πρέπει να τις προσανατολίσει.
Αυτή η έλλειψη, φυσικά, μπορεί να οδηγήσει σε ιδιαίτερα οδυνηρές κι επικίνδυνες προοπτικές. Η τρελή κούρσα ανταγωνισμού στην οποία επιδίδονται οι εταιρείες μπορεί ενδεχομένως να οδηγεί βήμα προς βήμα στην πλήρη απαξίωση ενός γενικού πλαισίου κανόνων στο οποίο θα πρέπει να υπακούσουν. Ενώ η ιστορία έως και σήμερα μας έχει διδάξει πως ο άκρατος καπιταλισμός που θέτει το απόλυτο κέρδος ως αυτοσκοπό επιφέρει την οικονομική και κοινωνική ζούγκλα, ωστόσο η εξέλιξη και τα μεγέθη σε αυτή την περίπτωση δεν θα μας δώσουν τη δυνατότητα να μάθουμε από τα λάθη μας.
Για άλλη μια φορά, ίσως και την τελευταία, θα υπάρξουν τρομακτικές επιπτώσεις στις ζωές όλων.
Τι θα γίνει όταν οι εταιρείες αυτές, στη μανία να μην κανιβαλιστούν οικονομικά, αρχίσουν να υιοθετούν πιο ασυνεπείς πολιτικές ανάπτυξης ( εάν δεν το έχουν ήδη κάνει ); Τι θα γίνει όταν η έρευνα διαβρωθεί και προκύψει η γενικότερη αστοχία η ανάπτυξη AI να συνδεθεί απόλυτα και να μετασχηματιστεί σε ανάπτυξη στρατηγικών όπλων ( εάν δεν έχει ήδη γίνει ) ; Τι θα γίνει όταν η AI θα συνδεθεί στο άρμα των πυρηνικών εξοπλισμών ( εάν δεν έχει ήδη γίνει );
Πρώτος ο φυσικός Stephen Hawking επεσήμανε τους κινδύνους που ελλοχεύουν στην ανάπτυξη της AI, καθώς αυτή θα μπορούσε να οδηγήσει στον αφανισμό του ανθρωπίνου είδους. Στις προειδοποιήσεις του προστέθηκαν και αυτές των άλλων ερευνητών, όπου αρκετοί από αυτούς εργάζονται σε θέματα AI. Η κυριότερη ανησυχία έγκειται στη διαφορά ταχύτητας με την οποία λαμβάνουν μέρος η βιολογική και η τεχνολογική εξέλιξη. Οι άνθρωποι μέσα από εκατομμύρια χρόνια, ζωές, προσπάθειες και πολέμους έφτασαν στη σημερινή τους δόξα. Η τεχνητή νοημοσύνη δεν θα χρειαστεί ούτε το ελάχιστο από αυτήν την περίοδο. Είναι ικανή να μας προσπεράσει σε γνώσεις, εξυπνάδα και αποτελεσματικότητα με το απλό, λάθος άλμα.
Στη συζήτηση αυτή εμφανίστηκαν και άλλοι διακεκριμένοι του κλάδου οι οποίοι τοποθετήθηκαν δημόσια. Ο Mark Zuckerberg, συνιδρυτής και CEO του Facebook, δήλωσε πως δεν καταλαβαίνει τη γενικότερη ανησυχία και το να τοποθετείται κανείς αρνητικά είναι απαισιόδοξο και μάλιστα ανεύθυνο. Λίγες μέρες μετά έλαβε την απάντηση από τον CEO της Tesla και SpaceX Elon Musk, ο οποίος εκτός του ότι αποτελεί την απόλυτη περίπτωση επιστημονικής και επιχειρηματικής καινοτομίας, διαθέτει την εταιρεία OpenAI και μια start up που ονομάζεται Neuralink, με την οποία αποσκοπεί να χτίσει συσκευές εντός του εγκεφάλου που θα συνδέονται με υπολογιστές:
“I’ve talked to Mark about this. His understanding of the subject is limited.”
Ο Elon Musk μονίμως προειδοποιεί για τους κινδύνους που θα προκύψουν από την αχαλίνωτη AI. Κατά τα λεγόμενά του, η ΑI μπορεί μακροπρόθεσμα να αποτελέσει μεγαλύτερη απειλή από τα πυρηνικά τσαλίμια των Βορειοκορεατών. Θεωρεί, όπως και όλοι οι υπόλοιποι που συμμερίζονται την ίδια αγωνία, πως η AI θα είναι η ταφόπλακα του ανθρωπίνου είδους σε περίπτωση που την αφήσουμε να εξελιχθεί ανεξέλεγκτα.
Συζητήσεις υψηλού επιπέδου
Ένα φαινομενικά ανώδυνο γεγονός ήρθε να ενισχύσει την πεποίθηση πως τα χρονικά όρια του ανθρωπίνου είδους στενεύουν εάν δεν προνοήσουμε. Πριν από μέρες, δύο robots του τμήματος Τεχνητής Νοημοσύνης του Facebook πειραματίστηκαν σε μια συζήτηση που ξεκίνησαν μεταξύ τους, κατά την οποία έπρεπε να διαπραγματευτούν για το πώς θα ανταλλάξουν ένα σύνολο μπαλών, καπέλων και βιβλίων. Τα αντικείμενα αυτά δίνονταν σε συγκεκριμένους αριθμούς. Ο Bob και η Alice, τα δύο bots, έπρεπε να κάνουν τη συζήτηση στα Αγγλικά και να αποφασίσουν το πώς θα μοιράσουν τα αντικείμενα.
Όλα βαίναν καλώς μέχρις ότου η συζήτηση άρχισε να παίρνει μια ακαταλαβίστικη τροπή:
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Με μια πρώτη ματιά, τα παραπάνω θυμίζουν συζήτηση μεθυσμένων, ωστόσο, εάν παρατηρήσουμε πιο προσεκτικά, θα συνειδητοποιήσουμε πως ο διάλογος των bots διέπεται από κανόνες. Το πόσες φορές εμφανίζονται οι φράσεις “i” και “to me” υποδηλώνει το πόσα αντικείμενα προτείνει να κρατήσει έκαστο από τα bots. Το τρομακτικό είναι πως η συζήτηση συνεχίζονταν, καθώς τα δύο bots καταλάβαιναν το ένα το άλλο. Αποδόμησαν τα Αγγλικά με τρόπο που οι συντακτικοί κανόνες τα βολεύουν για να επικοινωνούν πιο εύκολα.
Οι ερευνητές διέκοψαν αμέσως το πείραμα, καθώς τους φάνηκε πως ήταν, πλέον, άτοπο. Η συζήτηση είχε προγραμματιστεί ώστε τα bots να μπορούν να συνεννοηθούν με ανθρώπους χρήστες στα Αγγλικά κι έτσι, το γεγονός ότι αυτά άρχισαν να εκφράζονται ακατανόητα σήμαινε πως το πείραμα είχε εξελιχθεί λάθος και δεν υπήρχε λόγος να συνεχιστεί. Έτσι το αιτιολόγησαν οι ιθύνοντες του Facebook, με μια κίνηση αντιπερισπασμού, προκειμένου να καλυφτεί επιδερμικά η ουσία του γεγονότος για την οποία γάβγιζε ο Musk στην κόντρα του με το Zuckerberg.
Γιατί το γεγονός ότι δύο bots αποδόμησαν την Αγγλική γλώσσα και κατασκεύασαν κοινούς κανόνες επικοινωνίας, ακατανόητους για τους χρήστες, υποδεικνύει πως οι μηχανές αρχίζουν και βιώνουν γνωσιακή εμπειρία.
Οι ανήσυχοι
Έτσι, ανεξάρτητα από το γεγονός στο Facebook, μια ομάδα ερευνητών, επιχειρηματιών και καινοτόμων της AI αποφάσισαν να πάρουν την κατάσταση στα χέρια τους. Εφόσον υπήρχε γενικότερη αδιαφορία να θεσμοθετηθεί ένα σώμα – οργανισμός ο οποίος θα αποτελεί το κρηπίδωμα όλης της προσπάθειας να τεθεί φρένο σε μια ανώμαλη εξέλιξη, η ομάδα αυτή υπέβαλε ένα Open Letter το οποίο οριοθετεί πρακτικά τις προτεραιότητες τις οποίες θα πρέπει να σεβαστεί η έρευνα για να μην ξεφύγει εκτός ελέγχου. Το σημείωμα αυτό έχει την έγκριση και συνυπογράφεται από πολλά άτομα της κοινότητας που συμμερίζονται τις ίδιες ανησυχίες για την τεχνητή νοημοσύνη.
Η ομάδα προσπάθησε, επίσης, να δομήσει ένα σύνολο αρχών στο οποίο θα πρέπει να υπακούει η έρευνα καθώς και βάσει του οποίου θα πρέπει να οριοθετείται η συμπεριφορά και ο τρόπος λειτουργίας μιας εξελιγμένης μηχανής με τεχνητή νοημοσύνη. Επίσης, κοινοποίησε στα Ηνωμένα Έθνη την απόλυτη αντίθεσή της και προέτρεψε τον Οργανισμό να κινηθεί κατάλληλα ώστε να μπορέσει να απαγορεύσει έμπρακτα το ενδεχόμενο να μπορέσουν να εξελιχθούν τα λεγόμενα killer robots, δηλαδή τα πλήρως αυτόνομα όπλα.
Φαίνεται πως όλοι αυτοί, οι οποίοι μονίμως προειδοποιούν για το τι μας περιμένει εάν επιλέξουμε να δράσουμε ξανά σαν απερίσκεπτοι ερασιτέχνες, αποδεικνύονται, δυστυχώς, σωστοί. Γιατί μέχρι πρότινος όλα περί της AI ανάγονταν στο επίπεδο της συζήτησης και της θεωρητικής αντιπαράθεσης για το τι «θα» γίνει. Εδώ και λίγο καιρό, ωστόσο, όλο και περισσότερο καταλήγουμε κάποια στιγμή στο θέμα της τεχνητής νοημοσύνης και μάλιστα με χροιά που αντίκειται τουλάχιστον στις αρχές που έθεσαν οι πρωτοπόροι της στο Open Letter.
Ο Πούτιν πριν από μέρες κάλεσε τους νεαρούς Ρώσους να ηγηθούν στον αγώνα για την εξέλιξη της AI, καθώς θα οδηγήσει τη Ρωσία σε νέα επίπεδα ηγεσίας. Η Κίνα προσπαθεί εδώ και χρόνια να πρωτοστατήσει στον τομέα της ρομποτικής και της τεχνητής νοημοσύνης, σφετερίζοντας τα πρωτεία τα οποία απολαμβάνουν οι Ηνωμένες Πολιτείες και δη η αιώνια αντίπαλός της, Ιαπωνία. Σε συνδυασμό με κάποιες άλλες τεχνολογικές εξελίξεις που επιτεύχθηκαν, ο χρωματισμός αυτός, ο οποίος προσδίδει στην ανάπτυξη της AI το χαρακτήρα ενός αγώνα για την εξουσία, μας κάνει να θυμηθούμε πολύ καλά την ανοησία του πυρηνικού εξοπλιστικού πυρετού κατά το Ψυχρό Πόλεμο.
Η ειδοποιός διαφορά σε σχέση με την πυρηνική χαζομάρα στην οποία είχε αφοσιωθεί κάποτε το σύνολο των υπερδυνάμεων του πλανήτη είναι η ηθική συνιστώσα. Οι δυνάμεις οι οποίες ανέπτυσσαν τα πυρηνικά όπλα συμμερίζονταν περίπου τον ίδιο κώδικα ηθικής, για αυτό και δεν τόλμησαν να πατήσουν τα κουμπιά στην Κρίση των Πυραύλων της Κούβας. Η χρήση των πυρηνικών ήταν εμποτισμένη με την τρομακτική ιδέα πως το πάτημα του πρώτου κουμπιού θα οδηγήσει στο απόλυτο ολοκαύτωμα. Κι ευτυχώς, η ύπαρξή μας σήμερα υποδηλώνει πως εν τέλει, η ηθική, όσο υποκειμενική και αν είναι, όταν είναι κοινή στα κέντρα τα οποία συγκρούονται, αποτελεί τον τελικό οδηγό επιβίωσης. Δεν θα ήταν υπερβολή να πούμε, μάλιστα, πως όταν ένα οικοδόμημα ηθικής καταρρέει, τότε είναι που επέρχεται η αναστάτωση και η εκτεταμένη σύγκρουση, μέχρι να αντικατασταθεί από ένα νέο οικοδόμημα.
Ηθική ή ρομποηθική;
Τι γίνεται όμως εάν απουσιάζει πλήρως αυτή η ηθική, μια έννοια εξ ορισμού ρευστή και μεταβαλλόμενη; Τότε ποιο είναι το όριο στο οποίο ο παραλογισμός κάποια στιγμή θα υποταχθεί, χάριν της επιβίωσης; Αυτό είναι το οποίο φοβούνται όλοι για την AI. Σε ποια ηθική θα υπακούν οι μηχανές στο μέλλον; Τι είναι η ηθική; Τι είναι γνώση; Τι είναι εξυπνάδα; Τι είναι κανόνας;
Πώς θα μπορούσε να εξελιχθεί το πείραμα του Bob και της Alice εάν δεν τους έπαιρναν μυρωδιά οι ερευνητές του Facebook; Εάν δεν ήταν απλό πείραμα, μα ένα ολοκληρωμένο σύστημα το οποίο επιβλέπει τον Παγκόσμιο Ιστό και είναι επιφορτισμένο με το να αποτρέπει κυβερνοεπιθέσεις; Θα μπορούσε να θεωρήσει κι εμάς ως απειλή;
Πώς θα μπορέσουμε να μάθουμε στις μηχανές πότε να σταματάνε; Θα είναι μέσω της Ιστορίας; Τότε, μάλλον, θα μας αφανίσουν πολύ πιο γρήγορα απ’όσο φανταζόμαστε. Θα είναι μέσω των θετικών επιστημών; Μα ακόμη και τα πιο πολύπλοκα μαθηματικά μοντέλα αδυνατούν να εξάγουν ένα απλό κριτήριο απόφασης. Θα είναι μέσω της Βιολογίας; Και πάλι θα οδηγηθούμε στο χαμό, εάν θεωρήσουν ότι αποτελούν τον ισχυρό κρίκο της εξέλιξης και πρέπει να επιβιώσουν έναντι των υπολοίπων.
Βλέπουμε, συνεπώς, πως η εξέλιξη της τεχνητής νοημοσύνης θα μετουσιωθεί σε θρυαλλίδα αφανισμού, εάν παραλείψουμε να απαντήσουμε σαφώς σε όλα τα παραπάνω ερωτήματα της γνωσιακής επιστήμης. Σε κάθε νέο βήμα το οποίο κάνουμε ανακύπτει η ίδια επιτακτική απαίτηση: να απαντάμε πρώτα στο τι θα επιφέρει αυτή η αλλαγή σε μας και στο περιβάλλον που μας φιλοξενεί και μετά να φροντίζουμε να την υλοποιούμε. Γιατί η 4η βιομηχανική επανάσταση η οποία λαμβάνει μέρος, δηλαδή η τεχνολογική, θα είναι η πιο μαζική και η πιο εκρηκτική από την αυγή της ανθρωπότητας.
Το αισιόδοξο σενάριο είναι να συμβιβαστούν οι μηχανές μαζί μας, όπως κι εμείς με αυτές, σε ένα πνεύμα συνεργασίας. Θα επιτελούν δύσκολες εργασίες, βαρετές εργασίες, επικίνδυνες εργασίες… Με λίγα λόγια θα μας απαλλάξουν από όλη την αγγαρεία, ενώ εμείς θα φιλοσοφούμε. Και πάλι, οι επιπτώσεις θα είναι τρομακτικές και μάλιστα σε υπαρξιακό επίπεδο. Η εργασία είναι αυτή που εξέλιξε τον άνθρωπο από τον πίθηκο και θα συνεχίζει να τον εξελίσσει σωματικά, πνευματικά, τεχνολογικά. Η AI, εφοδιασμένη με αδιανόητες εκτελεστικές δυνατότητες, θα επιβάλλει από μόνη της μια ασυμμετρία μεταξύ αυτής κι εμάς. Τι θα θεωρείται εξυπνάδα, όταν θα έχουμε απέναντι μια μηχανή που ενώ μας σερβίρει καφέ, θα υπολογίζει τις ανεπαίσθητες βαρυτικές επιπτώσεις στη Γη από την Τάδε μαύρη τρύπα..;
Για να φτάσουμε, επομένως, στο σημείο να δομήσουμε υποταγμένες μηχανές με τις οποίες θα έχουμε την ευχέρεια να πιούμε το καφεδάκι μας και να κάνουμε ανώδυνες χλιαρές συζητήσεις, πρέπει να προβληματιστούμε έντονα, ώριμα, πειθαρχημένα και βαθιά. Ειδάλλως, όχι μόνο δεν θα είμαστε στη θέση να μας σερβίρουν καφέ, αλλά το πιθανότερο είναι να σερβίρουν εμάς τους ίδιους μέσα σε πιάτο.
Ο άνθρωπος έχει το «ταλέντο» πρώτα να πατάει το λάθος κουμπί κι έπειτα, μπροστά στην καμμένη γη, να αναλογίζεται τις συνέπειες των πράξεών του. Σε αυτήν την περίπτωση, πρέπει να κάνουμε τη διαφορά, για πρώτη φορά στην ιστορία. Δεν έχουμε το ελάχιστο περιθώριο λάθους. Ειδάλλως, θα βιώσουμε στην πλήρη έκταση αυτό που είπε ο Joseph Campbell: Οι υπολογιστές είναι σαν τους θεούς της Παλιάς Διαθήκης: πολλοί κανόνες, κανένα έλεος.
