«Ταπείνωση, κατανόηση, αγάπη, μή διάπραξη του κακου – Κάποιος νά “κατηχήσει” τά chatbots – Αδύνατος ο έλεγχος από κοινωνία βυθισμένη σέ σκάνδαλα διαφθορας»
«Η Τεχνητή Νοημοσύνη αναντίρρητα ειναι τό ιδιοφυέστερο επίτευγμα της ανθρώπινης Ιστορίας, κάτι τό αξιοθαύμαστο από μόνη της, μέ τεράστια δύναμη, απεριόριστες δυνατότητες καί ανεξάντλητες δεξιότητες, πού ξεπερνουν τά ανθρώπινα μέτρα καί τίς ανθρώπινες εκτιμήσεις. Ολόκληρη η ανθρωπότητα στέκεται μπροστά στή νέα πραγματικότητα μέ ενθουσιασμό, δέος, αλλά καί φόβο, περίσκεψη καί επιφυλακτικότητα.
Δημοσιευτηκε στην Εφημερίδα Εστία
Αξίζει νά σημειωθει ότι στά περσινά (2024) βραβεια Nobel της Φυσικης καί της Χημείας, από τούς πέντε βραβευθέντες, οι τέσσερεις δέν ειναι φυσικοί ή χημικοί, αλλά ερευνητές εξειδικευμένοι στήν Τεχνητή Νοημοσύνη.
Η μηχανική ευφυία διεισδύει στά πάντα καί διαμορφώνει εκ βάθρων τήν καθημερινότητα, τίς σχέσεις, τή λειτουργία της κοινωνίας. Επηρεάζει τήν εκπαίδευση, τήν εργασία, τόν σύνολο βίο του ανθρώπου.
Συνδυάζει πλούσια ευεργετική δράση μέ έντονο προβληματισμό. Μιμειται τή γνωστική λειτουργία του ανθρώπου, αυτονομειται καί τήν επαυξάνει, μέ αποτέλεσμα νά παρεμβαίνει δυναμικά καί στήν ανθρώπινη οντολογία. Όλα αλλάζουν καί μάλιστα δραστικά καί μέ ξέφρενους ρυθμούς.
Η μηχανική ευφυία διαθέτει πλέον δύναμη σκέψης καί λογικης μέ τά εξης εντυπωσιακά ανθρώπινα χαρακτηριστικά, μάλιστα σέ τέτοιο βαθμό πού σαφως υπερτερει του ανθρώπου:
(α) Ασύλληπτη μνήμη καί ευρύτατη γνώση,
(β) Δυνατότητα επεξεργασίας θεμάτων σέ όλο τό γνωστικό φάσμα,
(γ) Εντυπωσιακά ταχύτατη καί ευέλικτη δημιουργική σκέψη.
(δ) Οι ευφυεις μηχανές δέν κουράζονται, δέν γηράσκουν. Αντίθετα, διαρκως ανανεώνονται. Μειώνονται οι ατέλειές τους, αυξάνονται τά πλεονεκτήματά τους, εξελίσσονται ταχύτατα.
(ε) Διαλέγονται μέ ψυχραιμία, χωρίς εμπάθεια, θυμό, ύβρεις, χαρακτηρισμούς, χωρίς εκτροπές συμπεριφορας.
Αυτή η δυνατότητα του άμεσου διαλόγου μέ τήν έξυπνη μηχανή δημιουργει τήν ψευδαίσθηση μιας υπερανθρώπινης, υπερευφυους οντότητας, τήν οποία υποχρεωτικά θαυμάζεις καί μέ τήν οποία δέν μπορεις νά συγκριθεις ούτε νά τήν ανταγωνισθεις ούτε νά τήν υπερβεις, αλλά μόνο νά εμπιστευθεις καί απόλυτα νά υποταχθεις. Ο κίνδυνος ο άνθρωπος νά λιγοστεύει καί νά φτωχαίνει, χωρίς νά τό καταλαβαίνει, δέν ειναι ευκαταφρόνητος.
Αυτό πού διακυβεύεται μέ τήν ορμητική διείσδυσή της στήν καθημερινότητά μας ειναι αφ’ ενός ο βίος, η προστασία των δεδομένων καί οι διανθρώπινες σχέσεις σέ όλα τά επίπεδα, αφ’ ετέρου καί κυρίως ο άνθρωπος, η συνείδηση, η ταυτότητα, η ελευθερία του.
Οι πρόσφατες συνεντεύξεις καί αναρτήσεις στά μέσα μαζικης δικτύωσης των κορυφαίων ειδικων, του Geoffrey Hinton, του Mustafa Suleyman, του Sam Altman καί μόλις προχθές του διάσημου οικονομολόγου Branco Milanović, δείχνουν ότι η ανησυχία καί ο προβληματισμός δέν απασχολουν μόνον τούς κινδυνολόγους, αλλά καί τούς ειδικούς τεχνοκράτες. Τό μέλλον δέν ειναι εύκολα προβλέψιμο ούτε καί εύκολα ελέγξιμο καί διαχειρίσιμο.
Βιοηθικά ζητήματα νομικης φύσεως
Ο προσδιορισμός του οντολογικου status των μηχανων, δηλαδή εάν θά μπορουσαν οι μηχανές νά θεωρηθουν ηθικά πρόσωπα έναντι των οποίων έχουμε υποχρεώσεις καί τά οποια φέρουν ή όχι ευθύνη σέ περίπτωση λάθους, έρχεται γιά πρώτη φορά στό προσκήνιο του νομικου προβληματισμου. Υπό τήν έννοια αυτήν, συζήτηση προκύπτει γιά τούς απαραίτητους περιορισμούς πού πρέπει νά τίθενται κατά τόν σχεδιασμό τους, όπως καί τό ποιές ανθρώπινες δράσεις θά ηταν επιτρεπτό νά ανατεθουν σέ ευφυεις μηχανές καί ποιές όχι. Η απουσία τυχαιότητας στίς μηχανές μας υποχρεώνει νά προσδιορίσουμε μέ διαφορετικό τρόπο ένα ηθικό status γι’ αυτές.
Επί πλέον, δεδομένου ότι υπάρχει η δυνατότητα νά λαμβάνονται ουσιώδεις αποφάσεις (ιατρικές, δικαστικές, εργασιακές, οικονομικές, πολιτικές κ.λπ.) μέσω αυτοματοποιημένων διαδικασιων, η Τεχνητή Νοημοσύνη συνιστα απειλή γιά τήν ελεύθερη βούληση καί αυτονομία του ατόμου, η οποία περιορίζεται από τήν αυθεντία του μηχανήματος. Τό ζητούμενο ειναι η μηχανική ευφυία νά υποβοηθει καί όχι νά υποκαθιστα τόν γιατρό, τόν δικαστή, τόν εργοδότη, τόν δημοσιογράφο, τόν πολιτικό κ.λπ., πραγμα όχι καί τόσο εύκολο.
Προβλήματα, όπως διασφάλιση των προσωπικων δεδομένων, προστασία από παραπληροφόρηση, παραπλάνηση καί υποκλοπές, ζητουν πλέον τή δύσκολη, αλλά καί αναγκαία λύση τους.
Επιδράσεις στήν ανθρώπινη οντολογία
Αλλά καί ο άνθρωπος αλλάζει ή μαλλον τόν αλλάζουμε αυθαίρετα καί ανεξέλεγκτα. Καί μόνο πού μαγεύεται από τή μέθη της δημιουργίας του εικονικου ειδώλου του, όπως τήν επιχειρει, έχει ήδη υποστει αλλαγή. Η αξιοπρέπειά του υποβαθμίζεται, καθώς νιώθει κατώτερος από τό κατασκεύασμά του, εξαντλειται δέ στά δικαιώματά του, τά οποια εντελως ανεύθυνα έχει εκχωρήσει στόν μηχανικό συνομιλητή του. Ηθικό πλέον δέν θεωρειται ό,τι προάγει τήν αξία του, αλλά ό,τι ικανοποιει τίς φιλοδοξίες, τήν ευχαρίστηση, τά θελήματα, τά δικαιώματά του.
Ο κίνδυνος του απόλυτου εθισμου, της απροϋπόθετης εξάρτησης, της αποκοινωνικοποίησης, της ατροφίας της αυτόνομης σκέψης, της απώλειας της αυτεξουσιότητας, της παραπλάνησης καί της υποδούλωσης σέ ψευδαισθήσεις καί φαντασιώσεις ειναι λίγες από τίς συνέπειες πού εκθετικά πολλαπλασιάζονται σέ μέγεθος καί αριθμό μέ τήν τεχνολογική εξέλιξη των σκεπτόμενων μηχανων.
Τί από όλα αυτά ειναι αντικειμενικά σωστό, ποιό ειναι τό βάθος καί οι συνέπειες του επιτεύγματος, κανείς δέν γνωρίζει. Όλα ειναι εκτιμήσεις. Στήν αξιολόγηση αυτήν καί οι ειδικοί στήν τεχνολογία δέν ειναι ειδικοί.
Πάντως τά πάντα αλλάζουν, καί ο κόσμος καί η κοινωνία καί ο άνθρωπος. Κάτι καινούργιο φτιάχνεται μέ ασύλληπτους ρυθμούς καί μέ απίστευτες δυνατότητες. Τό είδωλο του μετα-ανθρώπου ειναι πλέον ορατό στόν ορίζοντα των επικειμένων σεισμικων εξελίξεων. Απλως, δέν γνωρίζουμε τά χαρακτηριστικά του.
Ανάγκη ελεγκτικου μηχανισμου
Η ανάγκη αφ’ ενός αντικειμενικης αξιολόγησης ενός θέματος μέ τεράστια συναισθηματική καί πρακτική φόρτιση καί αφ’ ετέρου επινόησης ασφαλους ελεγκτικου μηχανισμου βιοηθικου, δεοντολογικου, νομικου καί φυσικά πολιτικου χαρακτηρα, ειναι προφανής.
Λόγω της τεράστιας δύναμης επιβολης πού διαθέτει η Τεχνητή Νοημοσύνη, άν δέν καταφέρουμε νά της επιβληθουμε, αυτή θά κυριαρχήσει επάνω μας μέ απρόβλεπτες συνέπειες. Πρέπει οπωσδήποτε νά βρουμε τρόπο νά τήν ελέγξουμε καί μάλιστα σωστά, ώστε νά παραμείνει πολύτιμο εργαλειο μέ τεράστια ευεργετική δημιουργικότητα, πραγμα καθόλου εύκολο, διότι η δύναμη επιβολης της μοιάζει ακατανίκητη καί, όπως συνηθίζεται νά λέγεται, innovation eats regulation for breakfast.
Προφανως, ο έλεγχος δέν μπορει νά γίνει μέ εμφυτεύσιμα τσιπάκια (neurolink) ούτε μέ επιλογές πού στηρίζονται σέ οικονομικά συμφέροντα ούτε από μιά κοινωνία πού βρίσκεται σέ παρακμή, βυθισμένη σέ σκάνδαλα διαφθορας, πού δέν σέβεται τόν ίδιο τόν εαυτό της, τόν άνθρωπο, πού δέν καταλαβαίνει τήν πραγματική αξία της. Θά μπορουσε πιθανότατα νά τό πετύχει μιά ευφυία δυνατότερη από αυτήν πού επινόησε τήν τεχνητή ευφυία, αλλά ευφυία πού θά χαρακτηρίζεται από νοημοσύνη, αρετή, ηθική. Όταν αμφισβητειται ή περιφρονειται η ψυχή καί η συνείδηση, όταν ο άνθρωπος εκφυλίζεται σέ μονοδιάστατη βιολογική ύπαρξη ή σκεπτόμενη καί μόνον μηχανή, στήν ουσία υπολογιστική μηχανή, τότε στερειται του θησαυρου της νοημοσύνης, του μόνου πού μπορει νά διαχειρισθει δημιουργικά καί αποτελεσματικά την ευφυία του.
Γιά τόν λόγο αυτόν, πρωτίστως πρέπει νά ελέγξουμε τούς εαυτούς μας. Η ηθική ποιότητα πλέον επιβάλλεται από τήν Τεχνητή Νοημοσύνη ως όρος επιβίωσης του ανθρώπου. Η ανάγκη γιά παράλληλη καλλιέργεια των ανθρωπιστικων επιστημων ειναι επιτακτική. Κάποιος πρέπει νά βοηθήσει, νά «κατηχήσει» τά chatbots, ώστε νά λειτουργουν μέ κάποια ενσυναίσθηση, νά μήν μπορουν νά διαπράξουν τό κακό. Ίσως αυτό νά ειναι η πρόκληση καί η ευκαιρία της Εκκλησίας, νά ανοίξει τόν νου στίς σύγχρονες προκλήσεις, τά μάτια στή αλήθεια της, τήν καρδιά στήν εμπειρία καί τήν αποστολή της καί τά χέρια της στόν κόσμο καί έτσι νά αξιοποιήσει τόν θησαυρό της.
Τελικά, ο έλεγχος του ατίθασου υπερ-κατασκευάσματος ειναι η νέα μεγάλη πρόκληση, αυτό πού θά αναδείξει καί τήν ανυπέρβλητη αξία καί υπεροχή του ανθρώπου. Προφανως, η φυσική ευφυία πού τώρα απαιτειται γιά τόν έλεγχο της Τεχνητης ειναι πολύ μεγαλύτερη από αυτήν πού χρειάστηκε νά τήν επινοήσει καί νά τήν κατασκευάσει.
Δυσκολία καί διέξοδος
Η επικινδυνότητα της Τεχνητης Νοημοσύνης κρύβεται πίσω από τρεις σημαντικές δυνατότητες, πού χρήζουν ιδιαίτερης προσοχης:
(α) νά προγραμματίζει, νά αναπαράγει καί νά βελτιώνει τόν εαυτό της,
(β) νά έχει πρόσβαση μέσω του διαδικτύου σχεδόν σέ όλες τίς υπηρεσίες στόν πλανήτη,
(γ) νά μπορει νά επικοινωνει μέ άλλα συστήματα Τεχνητης Νοημοσύνης καί νά ανταλλάσσει πληροφορίες ή καί νά αναβαθμίζεται μέ νέο αλγόριθμο.
Αυτές τίς δυνατότητες τίς έχει καί, παρά τήν επικινδυνότητά τους, εφαρμόζονται χωρίς ευρεια συναίνεση ή κάποιο πρωτόκολλο ελέγχου.
Η αλήθεια ειναι ότι ο έλεγχος της Τεχνητης Νοημοσύνης ειναι μέν τό ζητούμενο καί απολύτως αναγκαιο, στήν πράξη όμως ειναι πολύ δύσκολος, ίσως καί ανέφικτος.
Τουτο διότι:
(α) Δέν μπορουμε νά περιορίσουμε ένα εργαλειο, τό οποιο έχει εκπαιδευτει νά υπερβαίνει κάθε περιορισμό.
(β) Δέν μπορουμε νά νικήσουμε μιά ευφυία, η οποία έχει τή δυνατότητα νά χρησιμοποιήσει τό σύνολο της υπολογιστικης δύναμης όλων των συσκευων στό διαδίκτυο.
(γ) Δέν μπορουμε νά αποκλείσουμε έναν αλγόριθμο, όταν έχει διαχυθει παντου στό διαδίκτυο.
Ο μόνος τρόπος γιά νά γίνει κάτι τέτοιο θά ηταν νά καταργηθει τό internet, νά σβήσουν όλοι οι υπολογιστές, νά σταματήσει τό ηλεκτρικό δίκτυο παγκοσμίως καί νά γίνουν εξ υπαρχης τά πάντα format.
Αντιλαμβάνεται κανείς ότι κάτι τέτοιο ούτε εφικτό ειναι, εάν δέ συνέβαινε, θά προκαλουσε τό απόλυτο χάος καί θά ηταν κυριολεκτικά καταστροφικό γιά τήν ανθρωπότητα, τόν πολιτισμό, τήν ίδια τή ζωή.
Ο καθηγητής Φιλοσοφίας του Πανεπιστημίου της Οξφόρδης Nick Bostrom, σέ ομιλία του μέ τίτλο: «Τί θά συμβει όταν οι computers γίνουν εξυπνότεροι από εμας;», υποστηρίζει ότι πρέπει νά δράσουμε λαμβάνοντας υπ’ όψη ότι η Τεχνητή Υπερνοημοσύνη (ASI) δέν θά υπάρχει τρόπος νά ελεγχθει ως πρός τούς στόχους της καί θά μπορουσε, όπως εμεις νικήσαμε, εξημερώσαμε ή υποτάξαμε καί αφανίσαμε τά κατώτερα σέ ευφυία είδη στόν πλανήτη, έτσι νά συμβει καί μέ μιά ευφυία ανώτερη από τή δική μας.
Η λύση δέν ειναι νά αντιπαρατεθουμε μέ αυτήν τήν πανίσχυρη καί πολύ πιό «έξυπνη», ικανή καί δυνατή από εμας μηχανή, αλλά, όπως της εμφυτεύσαμε τήν ευφυία, νά της μάθουμε ηθικές αρχές (καί όχι απλως σκέψεις), όπως η μηχανική ταπείνωση καί κατανόηση, η έκφραση αγάπης, η επιτέλεση του αγαθου καί η αδυναμία διάπραξης του κακου, έτσι ώστε νά είμαστε σίγουροι ότι θά τίς υπηρετήσει.
Αυτό ειναι τό σημειο πού η Εκκλησία, αντί νά απέχει, θά μπορουσε ενδεχομένως νά «κατηχήσει» τόν αλγόριθμο, νά συμβάλει στήν κατάλληλη εκπαίδευσή του.
Τελική σκέψη, συμπέρασμα
Θά κλείσω τήν ομιλία μου μέ μία τελική σκέψη.
Φαίνεται πώς στήν όλη τεχνολογική μας εξέλιξη συχνά δέν υπάρχει ούτε λόγος-αιτία ούτε λόγος-λογική. Υπάρχει ευφυία, καί μάλιστα πολύ μεγάλη, μέ υπολογιστικά χαρακτηριστικά, αλλά όχι σοφία, ούτε μικρή.
Γιά κάποιον λόγο αγωνιζόμαστε νά κατασκευάσουμε δημιουργήματα πού, αντί νά υποκαθιστουν τίς ανθρώπινες λειτουργίες, τελικά θά αντικαταστήσουν τόν άνθρωπο, στήν ουσία θά τόν καταργήσουν. Αυτός ειναι καί ο μεγάλος κίνδυνος· νά χάσει ο άνθρωπος τή συνείδησή του.
Αντί νά προσπαθουμε νά βελτιώσουμε αυτό πού είμαστε, επιδιώκουμε νά γίνουμε αυτό πού θέλουμε νά κατασκευάσουμε. Θέλουμε νά γίνουμε κάτι άλλο από αυτό πού είμαστε. Θέλουμε τό ρομπότ περισσότερο από τήν ταυτότητά μας, από τόν πολιτισμό, τή φιλοσοφία, τήν τέχνη, τήν πίστη, τόν Θεό, τό πνευματικό γονιδίωμά μας. Έτσι, μετατίθεται ο προσανατολισμός καί ο προορισμός του ανθρώπου. Μήπως τελικά τό πρόβλημα βρίσκεται στό ότι η τεχνολογία προχωρει ασυνόδευτη από τίς ανθρωπιστικές επιστημες;
Στά αυτιά μου ηχει η προτροπή του Αγίου Γρηγορίου του Θεολόγου: «Μή μείνωμεν, αδελφοί, όπερ εσμέν, αλλ’ όπερ ημεν γενώμεθα». Ίσως τό μέλλον μας νά ειναι η ανακάλυψη της αρχικης ταυτότητάς μας, της αλήθειας μας. Η λεωφόρος της ΤΝ δέν φαίνεται νά έχει όριο ταχύτητας. Γιά νά φτάσουμε στόν προορισμό μας μέ ασφάλεια, χρειάζονται καλά φρένα καί τιμόνι. Αυτό ειναι η βιοηθική. »
Η ομιλία του Μητροπολίτου Νικολάου έγινε στήν παρουσίαση του συλλογικου τόμου γιά τήν Τεχνητή Νοημοσύνη πού επιμελήθηκε ο βουλευτής Ευριπίδης Στυλιανίδης.