Η ληστεία του ανθρώπινου νου

Η ληστεία του ανθρώπινου νου

Απόστολος Αποστόλου

Η έκρηξη της παραγωγικής τεχνητής νοημοσύνης (Generative AI) παρουσιάστηκε από τις μεγάλες εταιρείες τεχνολογίας ως η αρχή μιας νέας εποχής προόδου.

Υποσχέσεις για επανάσταση στην υγεία, την εκπαίδευση, την επιστημονική έρευνα και την αντιμετώπιση της κλιματικής κρίσης συνοδεύουν τη δημόσια αφήγηση της Silicon Valley. Ωστόσο, τα τελευταία δύο χρόνια αναπτύσσεται ένα ισχυρό διεθνές ρεύμα επιστημονικής και φιλοσοφικής κριτικής, το οποίο δεν αμφισβητεί απλώς τις υπερβολικές προσδοκίες, αλλά τον ίδιο τον τρόπο με τον οποίο οικοδομήθηκε το οικοσύστημα της τεχνητής νοημοσύνης.

Στην πρώτη γραμμή αυτής της κριτικής βρίσκεται η Καναδή συγγραφέας και ακτιβίστρια Ναόμι Κλάιν.

Η Κλάιν χαρακτηρίζει την παραγωγική τεχνητή νοημοσύνη «τη μεγαλύτερη ληστεία στην ανθρώπινη ιστορία». Ο ισχυρισμός της βασίζεται στο γεγονός ότι τα μεγάλα γλωσσικά μοντέλα εκπαιδεύτηκαν πάνω σε τεράστιους όγκους βιβλίων, άρθρων, έργων τέχνης, φωτογραφιών και μουσικής, που συλλέχθηκαν χωρίς προηγούμενη συναίνεση ή οικονομική αποζημίωση των δημιουργών τους. Με άλλα λόγια, η συλλογική ανθρώπινη γνώση μετατράπηκε σε πρώτη ύλη ιδιωτικών αλγορίθμων, οι οποίοι πλέον παράγουν εμπορικά προϊόντα υψηλής αξίας.

Για την Κλάιν, πρόκειται για μια πρωτοφανή διαδικασία ιδιωτικοποίησης του κοινού πολιτισμικού αποθέματος. Η ελεύθερη ανθρώπινη δημιουργία μετασχηματίζεται σε ιδιόκτητο κεφάλαιο, ελεγχόμενο από ελάχιστους τεχνολογικούς κολοσσούς, οι οποίοι στη συνέχεια πωλούν πίσω στην κοινωνία υπηρεσίες βασισμένες στην ίδια τη συλλογική γνώση που προηγουμένως ιδιοποιήθηκαν.

Η κριτική της γίνεται ακόμη πιο αιχμηρή όταν χαρακτηρίζει την ίδια την υπόσχεση της παραγωγικής ΤΝ ως μια βαθιά αυταρχική ακόμη και «φασιστική» ιδέα.

Ο όρος δεν χρησιμοποιείται ιστορικά, αλλά φιλοσοφικά. Γιατί η τεχνολογία υπόσχεται ότι μπορεί να σκέφτεται αντί του ανθρώπου. Κατά την Κλάιν, η εκχώρηση της κρίσης, της δημιουργικότητας και της πνευματικής εργασίας σε αλγοριθμικά συστήματα οδηγεί σταδιακά σε αποδυνάμωση της ανθρώπινης αυτονομίας και της δημοκρατικής σκέψης.

Παράλληλα, η ίδια επισημαίνει ότι πίσω από την εικόνα της «άυλης» τεχνολογίας κρύβεται ένα ιδιαίτερα βαρύ οικολογικό αποτύπωμα. Τα μεγάλα υπολογιστικά κέντρα απαιτούν τεράστιες ποσότητες ηλεκτρικής ενέργειας και νερού για τη λειτουργία και την ψύξη τους, συμβάλλοντας στις εκπομπές αερίων του θερμοκηπίου και στην πίεση των φυσικών πόρων.

Η ενεργειακή κατανάλωση της ΤΝ εξελίσσεται πλέον σε αντικείμενο εντατικής επιστημονικής έρευνας, ενώ διεθνείς οργανισμοί προειδοποιούν ότι η αλματώδης ανάπτυξη των data centers ενδέχεται να δυσχεράνει τους στόχους για την κλιματική ουδετερότητα.

Ανάλογη είναι και η προσέγγιση της βραβευμένης δημοσιογράφου για την τεχνολογία Κάρεν Χάο. Στο βιβλίο της Empire of AI περιγράφει την παραγωγική τεχνητή νοημοσύνη ως μια νέα μορφή ψηφιακού ιμπεριαλισμού. Όπως οι ιστορικές αυτοκρατορίες εξήγαν πρώτες ύλες από τις αποικίες τους, έτσι και οι σημερινές εταιρείες εξορύσσουν δεδομένα, ανθρώπινη εργασία, ενέργεια και φυσικούς πόρους από ολόκληρο τον πλανήτη, συγκεντρώνοντας πρωτοφανή οικονομική και πολιτική ισχύ.

Η Χάο έχει επίσης αναδείξει τις συχνά αόρατες μορφές εργασίας που στηρίζουν την τεχνητή νοημοσύνη.

Για παράδειγμα χιλιάδες χαμηλόμισθοι εργαζόμενοι στην Κένυα, την Ινδία και άλλες χώρες αναλαμβάνουν την ψυχοφθόρα διαδικασία φιλτραρίσματος βίαιου και τοξικού περιεχομένου, ώστε τα μεγάλα γλωσσικά μοντέλα να εμφανίζονται ασφαλέστερα στους τελικούς χρήστες. Η εικόνα της πλήρως αυτοματοποιημένης μηχανής αποδεικνύεται έτσι περισσότερο μύθος παρά πραγματικότητα.

Πολύ σημαντική όμως είναι και η συμβολή του Ιταλού φιλοσόφου της επιστήμης Ερνέστο Ιππόλιτι. Ο Ιππόλιτι ασκεί κριτική σε αυτό που αποκαλεί «αλγοριθμικό όνειρο». Δηλαδή την πεποίθηση ότι τα μεγάλα δεδομένα και η μηχανική μάθηση μπορούν από μόνα τους να αντικαταστήσουν την επιστημονική μέθοδο και την ανθρώπινη ερμηνεία. Προειδοποιεί μάλιστα, ότι οι αλγόριθμοι συχνά παράγουν ψευδείς συσχετίσεις, συγχέονταν τη στατιστική συνάφεια με την αιτιότητα. Για τον ίδιο, η ουσιαστική πρόκληση δεν είναι κάποιο υποθετικό σενάριο «εξαφάνισης της ανθρωπότητας», αλλά οι άμεσοι κοινωνικοί κίνδυνοι, όπως είναι η αδιαφάνεια των αλγορίθμων, οι μεροληψίες και η άκριτη εμπιστοσύνη στην αυτοματοποίηση.

Στο πεδίο των χρηματοοικονομικών, ο Ιππόλιτι θεωρεί ότι ακόμη και οι πλέον εξελιγμένοι αλγόριθμοι δεν μπορούν να αντικαταστήσουν πλήρως την ανθρώπινη στρατηγική, καθώς οι αγορές αποτελούν σύνθετα κοινωνικά συστήματα γεμάτα απρόβλεπτες αλληλεπιδράσεις.

Το μέλλον, υποστηρίζει, ο Ιππόλιτι αναμένεται να είναι υβριδικό. Δηλαδή, μια συνεργασία ανθρώπου και μηχανής και όχι κυριαρχία της δεύτερης.

Στην ίδια συζήτηση παρεμβαίνει και ο Ιταλός φιλόσοφος Μαουρίτσιο Φεράρις, ο οποίος έχει αναλύσει το φαινόμενο της «Digital Humanities» και της ψηφιακής καταγραφής κάθε ανθρώπινης δραστηριότητας. Κατά τον Φεράρις, ο αλγοριθμοκεντρισμός είναι η ιδεολογία που αντιμετωπίζει τους αλγορίθμους ως αντικειμενικούς και ουδέτερους κριτές της κοινωνικής πραγματικότητας. Στην πραγματικότητα όμως οι αλγόριθμοι ενσωματώνουν ανθρώπινες επιλογές, οικονομικά συμφέροντα και σχέσεις εξουσίας. Παράλληλα, επισημαίνει ότι οι μεγάλες πλατφόρμες τεχνητής νοημοσύνης στηρίζονται σε τεράστιες ποσότητες απλήρωτης ανθρώπινης εργασίας. Έτσι κάθε αναζήτηση, ανάρτηση, διόρθωση ή ψηφιακή αλληλεπίδραση μετατρέπεται σε δεδομένο που αυξάνει την αξία των εταιρειών χωρίς αντίστοιχη ανταμοιβή των πολιτών.

Οι παραπάνω προσεγγίσεις δεν συγκροτούν ένα ενιαίο ιδεολογικό μέτωπο κατά της τεχνητής νοημοσύνης. Αντιθέτως, προέρχονται από διαφορετικά επιστημονικά πεδία, όπως την πολιτική οικονομία, τη δημοσιογραφία, τη φιλοσοφία της επιστήμης, τη θεολογία και την ηθική και καταλήγουν σε μια κοινή διαπίστωση που λέει ότι το κρίσιμο ερώτημα δεν είναι αν η τεχνητή νοημοσύνη είναι ισχυρή, αλλά ποιος την ελέγχει, με ποιους κανόνες λειτουργεί και ποιος τελικά επωμίζεται το κοινωνικό και περιβαλλοντικό κόστος της ανάπτυξής της. Η πραγματική δημόσια συζήτηση, επομένως, δεν αφορά μόνο την τεχνολογία, αλλά κυρίως τη δημοκρατία, την εργασία, τη γνώση και τα κοινά αγαθά στον 21ο αιώνα.

Απόστολος Αποστόλου. Καθηγητής Πολιτικής και Κοινωνικής Φιλοσοφία