Συνέντευξη του σπουδαιότερου Ελβετού φιλοσόφου MarkusKrienke στον Απόστολο Αποστόλου καθηγητή Πολιτικής και Κοινωνικής Φιλοσοφίας Ο MarkusKrienke θεωρείται οσημαντικότερος φιλόσοφος της Ελβετίας. Φιλόσοφος, Θεολόγος και Νομικός,καθηγητής στο πανεπιστήμιο του Λουγκάνο κατέχει την Έδρα Rosminiδιδάσκοντας Μοντέρνα Φιλοσοφία και Κοινωνική Ηθική,αναλύοντας θέματα Βιοηθικής και Τεχνολογίας. Μας παραχώρησεμια συνέντευξη αναφορικά με την Τεχνητή Νοημοσύνη και τις αλλαγές που θα προκληθούν στην κοινωνία.(Στη φωτογραφία από αριστερά ο Markus Krienke και δεξιά ο Απόστολος Αποστόλου)Η τεχνητή νοημοσύνη προσφέρει μεγάλες ευκαιρίες, αλλά εγείρει και ανησυχίες. Οι κυριότερες αφορούν την πιθανή απώλεια θέσεων εργασίας, τη διάδοση της παραπληροφόρησης μέσω των deepfake, τα ηθικά και νομικά ζητήματα, καθώς και τον κίνδυνο αυξανόμενης αυτονομίας των συστημάτων ΤΝ. Πόσο βάσιμες θεωρείτε αυτές τις ανησυχίες; Επιπλέον, ο BillGates δήλωσε πρόσφατα ότι μέσα στα επόμενα δέκα χρόνια η ΤΝ θα μπορούσε να καταστήσει τους ανθρώπους «μη αναγκαίους για τα περισσότερα πράγματα». Συμμερίζεστε αυτή την πρόβλεψη;Συμμερίζομαι αυτές τις δύο ανησυχίες, με τη διευκρίνιση όμως ότι καμία από τις δύο προκλήσεις που αναφέρθηκαν δεν είναι πραγματικά νέα. Κάθε περίοδος έντονης τεχνολογικής καινοτομίας, που συνοδευόταν από μια κοινωνική μετάβαση – ας σκεφτούμε την εφεύρεση της τυπογραφίας στα μέσα του 15ου αιώνα ή τη Βιομηχανική Επανάσταση στις αρχές του 19ου αιώνα – συνοδευόταν από αντίστοιχες επιπτώσεις και πιθανούς κινδύνους.Ωστόσο, ενώ οι προηγούμενοι αυτοί μετασχηματισμοί πραγματοποιήθηκαν στο όνομα της αυτοπραγμάτωσης και της χειραφέτησης της ανθρωπότητας, ο σημερινός (μετασχηματισμός) κινδυνεύει να οδηγήσει στην αυτοεγκατάλειψή της της ανθρωπότητας. Η αυτοεγκατάλειψη αυτή εκδηλώνεται μέσω μιας απομάκρυνσης από την πραγματικότητα, την οποία οι ψηφιακές τεχνολογίες μπορούν να προκαλέσουν σε τέτοιο βαθμό ώστε να αποδυναμώσουν το αυθεντικό αίσθημα της ανθρώπινης ύπαρξης, του οποίου η ανακάλυψη αποτέλεσε μέχρι σήμερα την κινητήρια δύναμη της πολιτισμικής και ανθρώπινης εξέλιξης των κοινωνιών.Η διαδικασία αυτή εκδηλώνεται σήμερα με την απώλεια των «χώρων του διαλόγου» και της κοινωνικής ενσωμάτωσης, δηλαδή της εργασίας, της εκπαίδευσης και της δημοκρατίας. Αν εξετάσουμε προσεκτικά την κατάσταση, θα διαπιστώσουμε ότι ακριβώς αυτοί οι τρεις θεμελιώδεις χώροι της κοινωνίας υφίστανται σήμερα τις ισχυρότερες αποδιαρθρωτικές πιέσεις, οι οποίες ενισχύονται και επιταχύνονται από τις νέες τεχνολογίες.Οι ηθικοί και νομικοί πόροι μιας κοινωνίας γεννιούνται ακριβώς μέσα σε αυτούς τους τομείς. Η απώλεια της εργασίας, η αποδόμηση του παιδαγωγικού και εκπαιδευτικού συστήματος και η άνοδος του λαϊκισμού οδηγούν στην κοινωνική αποσύνθεση.Εκεί όπου ο άνθρωπος «εξαφανίζεται» από τις διαδικασίες επίλυσης των προβλημάτων, ούτε οι απαντήσεις μπορούν πλέον να είναι πραγματικά ανθρώπινες. Ας φανταστούμε έναν κόσμο όπου όλα τα προβλήματα θα επιλύονται τεχνικά, αλλά ακόμη και τότε, καμία από τις υπαρξιακές ερωτήσεις της ανθρωπότητας δεν θα έχει πραγματικά αντιμετωπιστεί.Η τεχνητή νοημοσύνη αποκτά ολοένα σημαντικότερο ρόλο στην πολιτική. Από τη μία πλευρά μπορεί να βελτιώσει τη διοικητική αποτελεσματικότητα και να ενισχύσει τη συμμετοχή των πολιτών,από την άλλη, μπορεί να χρησιμοποιηθεί για τη δημιουργία deepfake και εκστρατειών παραπληροφόρησης ικανών να επηρεάσουν την κοινή γνώμη και τις εκλογικές διαδικασίες. Πώς μπορεί να επιτευχθεί μια ισορροπία μεταξύ καινοτομίας και προστασίας της δημοκρατίας;Οι νέες τεχνολογίες διαθέτουν επίσης σημαντικές θετικές δυνατότητες για τη δημοκρατία. Προσφέρουν στις μειονότητες τη δυνατότητα να εκφραστούν και να ακουστούν εκεί όπου προηγουμένως δεν υπήρχαν πραγματικές δυνατότητες συμμετοχής στις κοινωνικές και δημοκρατικές διαδικασίες. Η ουσιαστική μείωση της γραφειοκρατίας και οι νέες δυνατότητες εντοπισμού φαινομένων διαφθοράς αποτελούν δύο μόνο συγκεκριμένα παραδείγματα στα οποία η δημοκρατία μπορεί πράγματι να ωφεληθεί.Προς το παρόν, όμως, υπερισχύουν οι κίνδυνοι για την ελευθερία και την κοινωνική συνοχή, που αποτελούν τις σημαντικότερες προϋποθέσεις της δημοκρατίας. Όταν ο στόχος δεν είναι πλέον να πεισθούν οι διαφωνούντες ή, τουλάχιστον, να διατηρηθεί ο διάλογος μαζί τους, αλλά απλώς να κινητοποιηθούν οι δικοί μας ψηφοφόροι ή «οπαδοί», όταν κάθε μέσο – ακόμη και οι ψευδείς ειδήσεις, η χρήση chatbot ή η μετατροπή της πολιτικής σε συνθήματα – θεωρείται θεμιτό αρκεί να παράγει αποτέλεσμα, τότε η κουλτούρα της αποτελεσματικότητας αντικαθιστά την ελευθερία και τον διάλογο. Η δημοκρατία μετατρέπεται έτσι σε λαϊκισμό και η ελευθερία περιορίζεται δραστικά.Μόνο ένας κριτικός δημόσιος λόγος μπορεί να αποτελέσει ανάχωμα απέναντι σε αυτή την εκτροπή: η επαλήθευση των πληροφοριών, η αποδοχή ότι και ο άλλος μπορεί να έχει δίκιο, η αποκήρυξη κάθε μορφής βίας, ξεκινώντας από τη λεκτική βία, η εμπιστοσύνη στο ισχυρότερο επιχείρημα, η μέριμνα για τους πιο αδύναμους και η καταπολέμηση του κοινωνικού αποκλεισμού.Αυτές, όμως, είναι οι αξίες της δημοκρατίας που δεν μπορούν να παραχθούν από την αποτελεσματικότητα της τεχνολογίας. Η τεχνολογία παράγει αποτελεσματικότητα, όχι όμως σκοπούς. Οι σκοποί ταυτίζονται εύκολα με τα ιδιαίτερα συμφέροντα κομμάτων ή πολιτικών προσώπων, με αποτέλεσμα να χάνονται οι ίδιοι οι σκοποί της δημοκρατίας.Με άλλα λόγια, όποιος χρησιμοποιεί τη δημοκρατία ως εργαλείο για την επίτευξη ιδιωτικών ή κομματικών στόχων, στην πραγματικότητα την καταστρέφει. Και οι νέες τεχνολογίες προσφέρουν εξαιρετικά αποτελεσματικά μέσα για κάτι τέτοιο.Αντίθετα, οι θεμελιώδεις αξίες της δημοκρατίας μπορούν να πραγματωθούν μόνο από συνειδητούς και υπεύθυνους ανθρώπους. Χωρίς αυτούς, η δημοκρατία δεν μπορεί να λειτουργήσει.Πρόσφατες μελέτες έδειξαν ότι η τεχνητή νοημοσύνη μπορεί να αξιοποιηθεί και στην επιστημονική έρευνα. Για παράδειγμα, ερευνητές του Πανεπιστημίου της Κοπεγχάγης ανέπτυξαν συστήματα ικανά να αναλύουν τις φωνητικές εκφράσεις των ζώων, ώστε να αναγνωρίζουν την ένταση των συναισθημάτων τους. Ταυτόχρονα, ορισμένοι ειδικοί εκφράζουν ανησυχίες για την πιθανή εμφάνιση μιας μελλοντικής υπερνοημοσύνης. Θεωρείτε ότι αυτά τα σενάρια είναι ρεαλιστικά ή ότι ο δημόσιος διάλογος τείνει να υπερτονίζει τους κινδύνους;Ανεξάρτητα από τα θετικά αποτελέσματα, τα οποία κανείς δεν αμφισβητεί, ιδίως στον τομέα της επιστημονικής και ιδιαίτερα της ιατρικής έρευνας, θεωρώ ότι ο δημόσιος διάλογος δίνει μεγαλύτερη έμφαση στους κινδύνους. Πρόκειται, ωστόσο, για ένα χαρακτηριστικό της ευρωπαϊκής κοινωνίας, το οποίο ίσως συνδέεται και με το δημογραφικό της πρόβλημα.Οι νεότερες γενιές, που μεγαλώνουν σε μια σχεδόν φυσική συμβίωση με τις νέες τεχνολογίες, θα αναπτύξουν μια εντελώς διαφορετική σχέση με την τεχνητή νοημοσύνη, αλλά αυτό θα συμβεί εις βάρος των αξιών που υπερασπίστηκε η προηγούμενη γενιά. Η εξέλιξη αυτή δεν θα οδηγήσει σε κάποια νέα «επανάσταση», όπως εκείνη του 1968, αλλά σε μια σταδιακή απομάκρυνση από αυτές τις αξίες και, τελικά, στη διαμόρφωση μιας εντελώς νέας κοινωνίας, σχεδόν αγνώριστης για όσους μεγάλωσαν κατά το δεύτερο μισό του 20ού αιώνα.Αν πιστεύουμε ότι δεν υπάρχουν πραγματικές εναλλακτικές απέναντι στα ανθρώπινα δικαιώματα, τα συντάγματά μας, την ελεύθερη αγορά, την αλληλεγγύη και τη δημοκρατία, τότε οφείλουμε να καταβάλουμε κάθε προσπάθεια ώστε αυτές οι πεποιθήσεις να παραμείνουν ζωντανές και στην κοινωνία του αύριο. Αυτό, όμως, δεν θα επιτευχθεί μέσω μιας τεχνοφοβικής στάσης, αλλά με την καλλιέργεια όλων των ανθρωπιστικών και πολιτισμικών πόρων που διαθέτουμε.Η πίστη σε κάτι όπως η «υπερνοημοσύνη» αποτελεί, δυστυχώς, την αντίθετη πολιτισμική κατεύθυνση, η οποία όχι τυχαία ονομάζεται «διανθρωπισμός» (transhumanism).Δυστυχώς, διαπιστώνω ότι η κοινωνία, ενώ από τη μία πλευρά αντιμετωπίζει με έντονο σκεπτικισμό τις νέες τεχνολογίες, από την άλλη αποδομεί τους ίδιους τους πολιτισμικούς της πυλώνες, ξεκινώντας από το εκπαιδευτικό σύστημα και τη λειτουργία της δημοκρατίας. Οι δύο αυτές τάσεις αλληλοενισχύονται και θα μπορούσαν πράγματι να σηματοδοτήσουν το τέλος μιας πολιτισμικής εποχής, αυτής των περίπου πέντε τελευταίων αιώνων που ονομάζουμε «νεωτερικότητα».Στην αρχή της νεωτερικότητας υπήρχε ένα σαφές πολιτισμικό σχέδιο, το οποίο, παρότι ερχόταν σε αντίθεση με τις κοινωνικές συνθήκες της εποχής του, ονομαζόταν «ανθρωπότητα». Στο τέλος αυτής της πορείας, όμως, όλα φαίνεται να έχουν διαλυθεί.Οφείλεται αυτό και στις εσωτερικές αντιφάσεις του ίδιου του νεωτερικού εγχειρήματος; Αναμφίβολα ναι. Και ακριβώς γι’ αυτό δεν πρέπει να φοβόμαστε να κατευθύνουμε τις δυνάμεις μας προς μια νέα, δημιουργική και καινοτόμο επανανοηματοδότηση και επαναοικειοποίηση αυτού του ανθρωπιστικού σχεδίου.Πολλοί θεωρούν ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να συνοδεύεται από ένα ισχυρό κανονιστικό πλαίσιο. Η Ευρωπαϊκή Ένωση έχει ήδη θεσπίσει ειδική νομοθεσία για την ΤΝ. Κατά την άποψή σας, αρκούν οι κανόνες αυτοί ή θα χρειάζεται να επικαιροποιούνται διαρκώς, ώστε να συμβαδίζουν με τη ραγδαία εξέλιξη της τεχνολογίας;Όταν το αντικείμενο που καλείται να ρυθμίσει το δίκαιο είναι εξαιρετικά δυναμικό, είναι προφανές ότι αυτό δεν μπορεί να μείνει χωρίς συνέπειες για το ίδιο το κανονιστικό πλαίσιο. Από τη φύση του, το δίκαιο δεν μπορεί ασφαλώς να ανταγωνιστεί την τεχνολογία ως προς την προσαρμοστικότητα και την ευελιξία της.Σημαίνει αυτό ότι το ισχύον νομικό πλαίσιο είναι ήδη ξεπερασμένο; Κατά τη γνώμη μου, όχι. Εκείνο που χρειάζεται είναι να αναρωτηθούμε ποιος είναι ο πραγματικός του σκοπός. Είναι άραγε να προβλέπει κάθε πιθανή περίπτωση που μπορεί να προκύψει; Αν αυτός ήταν ο στόχος του, τότε πράγματι η αξία του θα ήταν περιορισμένη.Ίσως, όμως, αυτή η αντίληψη να αποτελεί ήδη μία από τις επιπτώσεις που ασκούν οι νέες τεχνολογίες στην κοινωνία. Έχουμε αρχίσει να αναμένουμε ότι όλα πρέπει να είναι απολύτως αποτελεσματικά και λειτουργικά. Μια τέτοια προσέγγιση, όμως, θα μεταμόρφωνε την ίδια την έννοια του δικαίου, η οποία πάντοτε εκφράζει τον τρόπο με τον οποίο μια κοινωνία αντιλαμβάνεται και κατανοεί τον εαυτό της.Το δίκαιο συνίσταται στην αναζήτηση του δικαίου και του ορθού μέσα στις κοινωνικές μας σχέσεις. Και αυτό που είναι πραγματικά «δίκαιο» αποτελεί, τελικά, τον ηθικό πυρήνα του ανθρώπινου προσώπου. Η επίτευξή του δεν μπορεί ποτέ να αποτελεί αποκλειστικά έργο ακριβών και λεπτομερών κανόνων· απαιτεί δικαστές και δικηγόρους που αντιστέκονται στην υπερβολική τυποποίηση του δικαίου και επιδιώκουν να αναδεικνύουν την αξία του συγκεκριμένου ανθρώπου σε κάθε περίπτωση.Πιστεύω ότι αυτό ακριβώς επιδιώκει να αναδείξει ο AI Act: γι’ αυτό και πολλοί νομικοί, ιδίως όσοι υιοθετούν μια αυστηρά τυπολατρική προσέγγιση, τον θεωρούν ανεπαρκή. Αντί να θεσπίζει εξαντλητικούς κανόνες για κάθε ενδεχόμενο, ο AI Act εντοπίζει και προσδιορίζει τις «ζώνες κινδύνου» για τον άνθρωπο κατά την ανάπτυξη και χρήση των νέων τεχνολογιών.Βρισκόμαστε, ωστόσο, πλέον στη φάση της εφαρμογής του σε εθνικό επίπεδο. Σε αυτό το στάδιο υπάρχει ο κίνδυνος να υιοθετηθούν υπερβολικά άκαμπτοι κανονισμοί, οι οποίοι θα μπορούσαν να ανακόψουν την ανάπτυξη και την αξιοποίηση της τεχνητής νοημοσύνης.Ακριβώς γι’ αυτό ο AI Act, παρά τους περιορισμούς του, διατυπώνει μια σημαντική ηθική και νομική προοπτική. Παράλληλα με την ανάγκη αποτελεσματικής εφαρμογής του, οφείλουμε να διατηρούμε ζωντανό και να καλλιεργούμε το πνεύμα του, διότι εκφράζει το ουσιαστικό νόημα μιας ευρωπαϊκής προσέγγισης απέναντι στην πρόκληση των νέων τεχνολογιών.Μετάφραση: Απόστολος Αποστόλου καθηγητής Πολιτικής και Κοινωνικής Φιλοσοφίας
