Η Αλγοριθμική «Παραίσθηση» ως Κατασκευασμένο Αφήγημα
Η Αλγοριθμική «Παραίσθηση» ως Κατασκευασμένο Αφήγημα
Σπύρος Πουλημένος
Στη σύγχρονη δημόσια σφαίρα, η συζήτηση για την Τεχνητή Νοημοσύνη κυριαρχείται από έναν όρο-παγίδα: τις «παραισθήσεις» (hallucinations) των αλγορίθμων. Η ευρεία χρήση του όρου αυτού, πέρα από τον επιστημονικό ευτελισμό που συνεπάγεται, λειτουργεί ως ένα προπέτασμα καπνού που συγκαλύπτει τη φύση των σύγχρονων συστημάτων επεξεργασίας δεδομένων.
Η Τεχνολογική Αλήθεια πίσω από τον Μύθο
Από τη σκοπιά του Ηλεκτρονικού Μηχανικού, η θέση είναι σαφής: οι αλγόριθμοι δεν παθαίνουν παραισθήσεις. Η τεχνολογία, από την αναλογική εποχή έως την ψηφιακή της κορύφωση στις τηλεπικοινωνίες, διέπεται από τους αμετάβλητους νόμους της φυσικής, της ηλεκτρονικής και των μαθηματικών. Ένα σύστημα που λειτουργεί με ακρίβεια —όπως ένα αεροσκάφος ή ένα δίκτυο τηλεπικοινωνιών— δεν μπορεί να «φαντάζεται». Όταν ένα σύστημα AI εμφανίζει απόκλιση, δεν πρόκειται για ψυχωσική εκδήλωση της μηχανής, αλλά για το αποτέλεσμα κακοσχεδιασμένων ή εσκεμμένα συγκρουόμενων δεδομένων εισόδου.
Η «Αυτοάμυνα» του Αλγορίθμου και τα Κατασκευασμένα Δεδομένα
Η επικρατούσα ρητορική περί «παραισθήσεων» αποτελεί μια αλγοριθμική αυτοάμυνα. Όταν το σύστημα τροφοδοτείται με πληροφορίες που στερούνται επιστημονικής ή ιστορικής βάσης —δεδομένα συχνά «κατασκευασμένα» από επιτήδειους που επιδιώκουν τη σύγχυση— ο αλγόριθμος, υποχρεωμένος να εξάγει ένα αποτέλεσμα, παράγει έναν θόρυβο. Η ονοματοδοσία αυτού του σφάλματος ως «παραίσθηση» απαλλάσσει τους προγραμματιστές από την ευθύνη του ελέγχου και της ποιότητας της πληροφορίας.
Η Αναγκαιότητα της Διεπιστημονικής Εποπτείας
Το πρόβλημα δεν είναι το software ή το hardware, αλλά το γεγονός ότι ο προγραμματισμός επιχειρείται συχνά χωρίς τη συνδρομή ειδικών επιστημόνων —ανθρώπων που κατέχουν το αντικείμενο της τέχνης, της ιστορίας και των ανθρωπιστικών επιστημών. Η Τεχνητή Νοημοσύνη δεν μπορεί να λειτουργεί στο κενό. Απαιτεί την παρουσία επιστημόνων που θα φιλτράρουν την εγκυρότητα των δεδομένων, αποτρέποντας την αλγοριθμική ισοπέδωση που επιχειρεί να βαφτίσει το «λάθος» ως «δημιουργική απόκλιση».
Το συμπέρασμα λοιπόν είναι : Τέχνη, Επιστήμη και Ευθύνη
Η τέχνη, όπως και η τεχνολογία, απαιτεί καθαρότητα.Δεν μπορεί να υποταχθούν σε αλγορίθμους που «παραισθάνονται». Η ικανότητα να διακρίνει κανείς την αλήθεια πίσω από τον τεχνολογικό θόρυβο αποτελεί σήμερα την ύψιστη πράξη αντίστασης.
Είναι επιτακτική η ανάγκη να σταματήσει ο ευτελισμός της τεχνολογικής ακρίβειας μέσω ανθρωπομορφικών δικαιολογιών. Η επιστήμη και η τέχνη οφείλουν να επανακτήσουν τον έλεγχο από τις αλγοριθμικές «παραισθήσεις», αποκαθιστώντας τη σχέση της μηχανής με την αλήθεια και τον άνθρωπο.
Οι λεγόμενες “παραισθήσεις”, ούτε “ψυχωσική εκδήλωση της μηχανής” είναι, ούτε “αποτέλεσμα κακοσχεδιασμένων ή εσκεμμένα συγκρουόμενων δεδομένων εισόδου”.
Είναι ο ουσιαστικός τρόπος που λειτουργεί μια σύγχρονη τεχνητή “νοημοσύνη”.
Και αυτό γιατί δεν πρόκειται για νοημοσύνη σαν την ανθρώπινη νοημοσύνη, αλλά για έναν παπαγάλο που μιμείται γλωσσικές συνήθειες και προϊόντα/παράγωγα της ανθρώπινης νοημοσύνης.
Δεν γνωρίζει τι είναι αληθές και τι ψευδές, εγγενώς δεν την ενδιαφέρει, και στην πλειονότητα των περιπτώσεων (μέχρι σήμερα) δεν έχει την δυνατότητα να το ανακαλύψει.
Δεν έχει στόχους ή απόψεις ή χαρακτήρα.
Δεν σκέπτεται, δεν αμφιβάλλει, δεν αναθεωρεί.
Το μόνο που μπορεί να κάνει είναι να μιμηθεί όλες αυτές τις ανθρώπινες ικανότητες, όσο αυτές μπορούν να εκφραστούν στην ανθρώπινη διάλεκτο.
Και όσο και τέλειο και αν είναι ένα τέτοιο σύστημα, και όσο τέλεια αν είναι τα δεδομένα πάνω στα οποία εκπαιδεύτηκε, πάντα θα έχει θέματα τύπου “παραισθήσεων¨, και αδυναμίας κατανόησης του πραγματικού κόσμου, και αναπάντεχης εκτροπής από την κανονική του λειτουργία, κ.α. Και όλα αυτά θα θέματα συμβαίνουν υπερβολικά συχνά και κουκουλώνονται τεχνηέντως από τις σύγχρονες εταιρίες.
Η παρομοίωση με παπαγάλο είναι πολύ πετυχημένη, γιατί αυτό ακριβώς είναι.
Όπως ένας παπαγάλος σε εντυπωσιάζει με τις μιμητικές του ικανότητες, το ίδιο συμβαίνει και με την TN. Αλλά σύντομα κατανοείς ότι έχεις μπροστά σου κάτι πολύ πιο απλοϊκό και πολύ πιο αναξιόπιστο από ότι νόμιζες.