Η Αλγοριθμική «Παραίσθηση» ως Κατασκευασμένο Αφήγημα
Σπύρος Πουλημένος
Στη σύγχρονη δημόσια σφαίρα, η συζήτηση για την Τεχνητή Νοημοσύνη κυριαρχείται από έναν όρο-παγίδα: τις «παραισθήσεις» (hallucinations) των αλγορίθμων. Η ευρεία χρήση του όρου αυτού, πέρα από τον επιστημονικό ευτελισμό που συνεπάγεται, λειτουργεί ως ένα προπέτασμα καπνού που συγκαλύπτει τη φύση των σύγχρονων συστημάτων επεξεργασίας δεδομένων.
Η Τεχνολογική Αλήθεια πίσω από τον Μύθο
Από τη σκοπιά του Ηλεκτρονικού Μηχανικού, η θέση είναι σαφής: οι αλγόριθμοι δεν παθαίνουν παραισθήσεις. Η τεχνολογία, από την αναλογική εποχή έως την ψηφιακή της κορύφωση στις τηλεπικοινωνίες, διέπεται από τους αμετάβλητους νόμους της φυσικής, της ηλεκτρονικής και των μαθηματικών. Ένα σύστημα που λειτουργεί με ακρίβεια —όπως ένα αεροσκάφος ή ένα δίκτυο τηλεπικοινωνιών— δεν μπορεί να «φαντάζεται». Όταν ένα σύστημα AI εμφανίζει απόκλιση, δεν πρόκειται για ψυχωσική εκδήλωση της μηχανής, αλλά για το αποτέλεσμα κακοσχεδιασμένων ή εσκεμμένα συγκρουόμενων δεδομένων εισόδου.
Η «Αυτοάμυνα» του Αλγορίθμου και τα Κατασκευασμένα Δεδομένα
Η επικρατούσα ρητορική περί «παραισθήσεων» αποτελεί μια αλγοριθμική αυτοάμυνα. Όταν το σύστημα τροφοδοτείται με πληροφορίες που στερούνται επιστημονικής ή ιστορικής βάσης —δεδομένα συχνά «κατασκευασμένα» από επιτήδειους που επιδιώκουν τη σύγχυση— ο αλγόριθμος, υποχρεωμένος να εξάγει ένα αποτέλεσμα, παράγει έναν θόρυβο. Η ονοματοδοσία αυτού του σφάλματος ως «παραίσθηση» απαλλάσσει τους προγραμματιστές από την ευθύνη του ελέγχου και της ποιότητας της πληροφορίας.
Η Αναγκαιότητα της Διεπιστημονικής Εποπτείας
Το πρόβλημα δεν είναι το software ή το hardware, αλλά το γεγονός ότι ο προγραμματισμός επιχειρείται συχνά χωρίς τη συνδρομή ειδικών επιστημόνων —ανθρώπων που κατέχουν το αντικείμενο της τέχνης, της ιστορίας και των ανθρωπιστικών επιστημών. Η Τεχνητή Νοημοσύνη δεν μπορεί να λειτουργεί στο κενό. Απαιτεί την παρουσία επιστημόνων που θα φιλτράρουν την εγκυρότητα των δεδομένων, αποτρέποντας την αλγοριθμική ισοπέδωση που επιχειρεί να βαφτίσει το «λάθος» ως «δημιουργική απόκλιση».
Το συμπέρασμα λοιπόν είναι : Τέχνη, Επιστήμη και Ευθύνη
Η τέχνη, όπως και η τεχνολογία, απαιτεί καθαρότητα.Δεν μπορεί να υποταχθούν σε αλγορίθμους που «παραισθάνονται». Η ικανότητα να διακρίνει κανείς την αλήθεια πίσω από τον τεχνολογικό θόρυβο αποτελεί σήμερα την ύψιστη πράξη αντίστασης.
Είναι επιτακτική η ανάγκη να σταματήσει ο ευτελισμός της τεχνολογικής ακρίβειας μέσω ανθρωπομορφικών δικαιολογιών. Η επιστήμη και η τέχνη οφείλουν να επανακτήσουν τον έλεγχο από τις αλγοριθμικές «παραισθήσεις», αποκαθιστώντας τη σχέση της μηχανής με την αλήθεια και τον άνθρωπο.