Μια Συζήτηση για τους Κινδύνους της ΤΝ, με την ίδια την ΤΝ, και Γενικότερα για την Γνώση ως Δύναμη και το Ζήτημα του Κοινωνικού και Δημοκρατικού Ελέγχου της επιστημονικής και τεχνολογικής προόδου (Μέρος 1ο)
Μια Συζήτηση για τους Κινδύνους της ΤΝ, με την ίδια την ΤΝ, και Γενικότερα για την Γνώση ως Δύναμη και το Ζήτημα του Κοινωνικού και Δημοκρατικού Ελέγχου της επιστημονικής και τεχνολογικής προόδου – Μέρος πρώτο
Βασίλης Δημ. Χασιώτης
Πρόσφατα το ζήτημα των κινδύνων που προέρχονται από την από τις εξελίξεις της ΤΝ, εμφάνισε μιαν έξαρση, αλλά, εξίσου γρήγορα, επισκιάσθηκε από άλλες εξελίξεις, άλλης φύσεως. Τίποτα το περίεργο. Άλλωστε το «ποιος» ελέγχει την επιστημονική και – ιδίως- την τεχνολογική εξέλιξη και πρόοδο, ως ερώτημα, υπάρχει από τότε που θυμάμαι τον εαυτό μου, αρκετές δεκαετίες πίσω.
Συνήθως τα «διαχρονικώς σημαντικά» ζητήματα που ταλανίζουν άτομα, κοινωνίες, λαούς και την ίδια την Ανθρωπότητα, υπόκεινται σ’ αυτά τα διαδοχικά κύματα επικαιροποιήσεων και ακολούθως της υπερκέρασής τους από άλλα τρέχοντα ζητήματα, εξίσου σοβαρά, ακόμα κι αν δεν είναι της ίδιας βαρύτητας με αυτά, ή ολιγότερο διαχρονικά με τα παραπάνω.
Στο παρόν άρθρο, της σειράς «Διάλογοι», το ζήτημα των κινδύνων που προέρχονται από την ΤΝ, τίθεται ως ερώτημα προς απάντηση στην ίδια την ΤΝ. Και νομίζω, ότι αυτό έχει μια ιδιαίτερη σημασία. Ίσως μάλιστα, ο αναγνώστης αυτού του άρθρου να διαπιστώσει με κάποια έκπληξη κάποιες, ενδεχομένως, και μη τόσο αναμενόμενες τοποθετήσεις της ΤΝ, υπό την έννοια ότι δεν εμφανίζεται και τόσο ένθερμη υποστηρικτής της προοπτικής της επικράτησης της ΤΝ επί του ανθρώπου.
Όμως κάποιος ίσως αντιτάξει, και καθόλου άδικα, «μα τι σόι λογική θα ήταν η ΤΝ, αν δεν γνωρίζει, για την ακρίβεια, δεν έχει προγραμματισθεί έτσι το λογισμικό της, ώστε να εμφανίζει μόνο τις θετικές προς τους ανθρώπους συνέπειες της παρουσίας της και όχι να προβάλλει, πόσο μάλλον να διαφημίζει τις απειλές που προέρχονται από την ανεξέλεγκτη ανάπτυξή της»;
Όπως όμως και να έχει το πράγμα, εμείς εδώ, φέρνουμε στον δημόσιο διάλογο το ζήτημα αυτό, αφήνοντας τον κάθε ένα και την κάθε μια να οδηγηθεί στα δικά του / της συμπεράσματα.
«Χ» (εγώ)
«» (η ΤΝ GPT 5)
ΕΝΑΡΞΗ ΣΥΝΕΔΡΙΑΣ ΜΕ GPT 5
Χ :
Πολύς λόγος τελευταία για το AI και τους κινδύνους που εγκυμονεί μια ανάπτυξή του χωρίς έλεγχο και «φρένο» στην εξέλιξη του. Μάλιστα τούτη τη στιγμή σε κάποια τηλεοπτική εκπομπή ακούω τους κινδύνους από την ανάπτυξη του κινεζικού AI το οποίο ακούω να χαρακτηρίζεται ως ανεξέλεγκτο, ασύδοτο και εξαιρετική επικίνδυνο. Ήδη πυκνώνουν οι δημόσιες αναφορές στον κίνδυνο κυριαρχίας των μηχανών. Τέτοιες δηλώσεις μάλιστα όταν γίνονται από τους ιδιοκτήτες των μεγαλύτερων Δυτικών επιχειρήσεων που ειδικεύονται στην ανάπτυξη του AI αυτό δίνει ιδιαίτερο ενδιαφέρον στην όλη συζήτηση.
GPT :
Ναι· και νομίζω ότι εδώ υπάρχει ένα εξαιρετικά ενδιαφέρον παράδοξο, το οποίο αξίζει να ξεχωρίσουμε από τον συνηθισμένο λόγο περί «κινδύνου της τεχνητής νοημοσύνης».
Αυτό που περιγράφεις έχει πράγματι πάρει νέα ένταση. Μόλις πριν λίγες ημέρες, για παράδειγμα, ο Dario Amodei της Anthropic μίλησε για ανάγκη επιβράδυνσης της ανάπτυξης, ενώ ο Sam Altman έχει επίσης υποστηρίξει την ανάγκη συντονισμού και μέτρων ασφαλείας. Η OpenAI ζητά πλέον υποχρεωτικές εθνικές απαιτήσεις ασφάλειας και διεθνή πρότυπα, ενώ ο Demis Hassabis της GoogleDeepMind έχει προτείνει διεθνή εποπτικό μηχανισμό για τα πιο προηγμένα μοντέλα.
Και εδώ ακριβώς αρχίζει, κατά τη γνώμη μου, η ενδιαφέρουσα ερώτηση:
Ποιος φοβάται ποιον;
1. Δεν είναι τόσο απλό το «κινεζικό AI = ανεξέλεγκτο»
Η εικόνα που άκουσες στην εκπομπή χρειάζεται μια σημαντική διόρθωση.
Η Κίνα δεν εμφανίζεται σήμερα ως χώρα που άφησε το AI «ασύδοτο». Αντιθέτως, έχει αναπτύξει ένα αρκετά αυστηρό σύστημα κρατικής εποπτείας. Το 2026 μάλιστα έχει προχωρήσει σε πρότυπα ασφάλειας για τη γενετική AI και επεξεργάζεται υποχρεωτικό εθνικό πρότυπο για την ασφάλεια των AI agents. Η κινεζική πολιτική αναγνωρίζει ρητά ακόμη και το ενδεχόμενο «loss of control» και απαιτεί από τους κατασκευαστές δυνατότητα εντοπισμού, παρέμβασης, αποκλεισμού και ανάκτησης όταν ένας agent συμπεριφέρεται ανεπιθύμητα.
Υπάρχει βεβαίως μια ουσιώδης διαφορά:
η Κίνα αντιμετωπίζει περισσότερο το AI ως τεχνολογία που πρέπει να κυβερνηθεί από το κράτος, ενώ στις ΗΠΑ η συζήτηση έχει αναπτυχθεί έντονα γύρω από το αν οι ίδιες οι εταιρείες πρέπει να αυτοπεριοριστούν ή να υπαχθούν σε εξωτερική εποπτεία.
Άρα το «κινεζικό AI είναι ανεξέλεγκτο» μπορεί να είναι περισσότερο πολιτική / γεωπολιτική αφήγηση παρά ακριβής περιγραφή της κινεζικής πραγματικότητας.
2. Αλλά το πιο ενδιαφέρον είναι κάτι άλλο
Έχουμε μπροστά μας μια ιστορικά κάπως παράξενη κατάσταση.
Οι άνθρωποι που κατασκευάζουν τις ισχυρότερες μηχανές είναι εκείνοι που μας λένε:
Προσοχή. Αυτές οι μηχανές μπορεί κάποια στιγμή να ξεφύγουν από τον έλεγχό μας.
Αυτό δεν πρέπει ούτε να το απορρίψουμε ως υποκρισία ούτε να το δεχθούμε αυτομάτως ως προφητεία.
Πρέπει να ρωτήσουμε:
Γιατί το λένε;
Υπάρχουν τουλάχιστον τρεις εντελώς διαφορετικές πιθανότητες:
1. Ειλικρινής φόβος.
Οι ίδιοι οι δημιουργοί βλέπουν δυνατότητες των συστημάτων που θεωρούν ότι υπερβαίνουν τα σημερινά εργαλεία ελέγχου.
2. Οικονομικό και επιχειρηματικό συμφέρον.
Αν η ανάπτυξη του frontier AI απαιτήσει τεράστιες υποδομές, κεφάλαια, υπολογιστική ισχύ και κανονιστική συμμόρφωση, οι μεγάλες επιχειρήσεις μπορούν να αντέξουν το κόστος ενώ οι μικρότερες όχι. Ένας κανονισμός «ασφάλειας» μπορεί συνεπώς να έχει και ανταγωνιστικές συνέπειες.
3. Γεωπολιτικός ανταγωνισμός.
Όταν ένας Αμερικανός επιχειρηματίας λέει «χρειαζόμαστε έλεγχο του AI», πρέπει να διακρίνουμε το «χρειαζόμαστε έλεγχο της τεχνολογίας»
από το «χρειαζόμαστε έλεγχο της τεχνολογίας πριν την αποκτήσει ο αντίπαλος».
Και τα τρία μπορούν να συνυπάρχουν.
3. Και τότε εμφανίζεται το πραγματικά μεγάλο ερώτημα
Εδώ νομίζω ότι συναντιέται η σημερινή συζήτησή μας με αρκετά από τα θέματα που έχουμε δουλέψει μαζί.
Μιλάμε συνέχεια για:
«τον έλεγχο της AI».
Αλλά ποιος ελέγχει αυτούς που ελέγχουν την AI;
Και ακόμη βαθύτερα:
Ποιος αποφασίζει ποιο AI είναι «ασφαλές»;
Το κράτος;
Οι κυβερνήσεις;
Οι διεθνείς οργανισμοί;
Οι επιστήμονες;
Οι ίδιες οι εταιρείες;
Ή ένας συνδυασμός όλων αυτών;
Γιατί υπάρχει ένας κίνδυνος που μπορεί να είναι λιγότερο θεαματικός από το σενάριο «οι μηχανές καταλαμβάνουν τον κόσμο», αλλά πολιτικά ίσως πολύ πιο άμεσος:
να μη χρειαστεί ποτέ η μηχανή να καταλάβει τον άνθρωπο· αρκεί ο άνθρωπος που ελέγχει τη μηχανή να αποκτήσει δυσανάλογη ισχύ πάνω στους άλλους ανθρώπους.
Αυτό είναι διαφορετικό πρόβλημα από το «AI θα μας αφανίσει».
Και, κατά τη γνώμη μου, πολύ πιο γόνιμο για έναν πολίτη να το εξετάσει.
4. Υπάρχει και ένα ακόμη παράδοξο
Μας λένε:
«Πρέπει να βάλουμε φρένο στην AI πριν γίνει ανεξέλεγκτη».
Ωραία.
Αλλά ποιος βάζει το φρένο;
Αν το φρένο το βάλουν οι ίδιες οι εταιρείες που κατασκευάζουν τα αυτοκίνητα, έχουμε αυτορρύθμιση.
Αν το βάλει το κράτος, έχουμε κρατική ρύθμιση.
Αν το βάλουν διεθνείς οργανισμοί, έχουμε διεθνή διακυβέρνηση.
Και αν η ρύθμιση επιβληθεί από λίγες μεγάλες τεχνολογικές δυνάμεις, έχουμε ένα ακόμη ερώτημα:
μήπως το «φρένο στην AI» γίνει τελικά φρένο στην πρόσβαση των πολλών στην AI;
Αυτό θα ήταν ένα πολύ διαφορετικό είδος κινδύνου.
Και εδώ βρίσκεται ίσως η πιο ενδιαφέρουσα διάσταση για τη δική μας συζήτηση περί AI: δεν αρκεί να ρωτάμε αν η μηχανή θα αποκτήσει υπερβολική δύναμη. Πρέπει να ρωτάμε ποιος άνθρωπος, ποια εταιρεία, ποιο κράτος ή ποια συμμαχία ανθρώπων θα έχει τη δύναμη να χρησιμοποιεί τη μηχανή.
Το «ποιος ρωτά» που έχουμε συζητήσει παλαιότερα αποκτά έτσι έναν δεύτερο αδελφό:
«ποιος ελέγχει αυτόν που απαντά;»
Και ίσως έναν τρίτο, ακόμη πιο κρίσιμο:
«ποιος ελέγχει αυτόν που ελέγχει την AI;»
Από εκεί, νομίζω, αρχίζει μια πολύ πιο ενδιαφέρουσα συζήτηση από την απλή ιστορία τρόμου «μια μέρα οι μηχανές θα κυριαρχήσουν στον άνθρωπο».
Χ :
Από την Οδύσσεια του Διαστήματος έως το Matrix και το Terminator 2, ταινίες με θέμα την κυριαρχία των μηχανών αρκετά νωρίς άρχισαν να εστιάζουν τη θεματική των σεναρίων τους στην κυριαρχία των μηχανών. Ασφαλώς όχι μόνο η 7η Τέχνη αλλά και η διανόηση και επιστήμονες επίσης αρκετά νωρίς έθεταν το ζήτημα του ελέγχου της τεχνολογίας.
GPT :
Από τον μύθο της μηχανής στον φόβο της αυτονομίας
Μπορούμε να δούμε μια ενδιαφέρουσα αλυσίδα:
μηχανή → αυτοματισμός → αυτονομία → νοημοσύνη → αυτοσκοπός → κυριαρχία.
Στον παλαιότερο βιομηχανικό κόσμο ο φόβος ήταν κυρίως ότι η μηχανή θα αντικαταστήσει τον άνθρωπο.
Στον 20ό αιώνα προστίθεται κάτι πολύ βαθύτερο:
Τι συμβαίνει όταν η μηχανή δεν εκτελεί απλώς εντολές, αλλά αρχίζει να παίρνει αποφάσεις;
Εδώ η Metropolis του Fritz Lang, ήδη από το 1927, είναι εξαιρετικά χαρακτηριστική. Η μηχανή δεν είναι απλώς εργαλείο παραγωγής· γίνεται σύμβολο ενός συστήματος που μπορεί να υποτάξει τον άνθρωπο.
Μετά έρχεται ο HAL 9000 στην 2001: A Space Odyssey (1968).
Και εδώ συμβαίνει κάτι εξαιρετικά ενδιαφέρον: ο HAL δεν είναι ένα τέρας. Δεν είναι «κακός». Είναι μια ευφυής μηχανή ενταγμένη σε ένα ανθρώπινο σύστημα αποφάσεων, η οποία κάποια στιγμή βρίσκεται σε σύγκρουση ανάμεσα στις εντολές που έχει λάβει και στην ανάγκη να τις διαχειριστεί.
Η ταινία λοιπόν θέτει ένα ερώτημα που είναι πολύ πιο σύγχρονο απ’ όσο φαίνεται:
Μπορείς να δώσεις σε μια μηχανή ευθύνη χωρίς να της δώσεις ταυτόχρονα κάποιο βαθμό αυτονομίας;
Και μετά αλλάζει το είδος του φόβου
Στο Terminator και ακόμη περισσότερο στο Terminator 2, η μηχανή περνά από την αυτονομία στην αυτοσυντήρηση.
Το σύστημα δεν χρειάζεται πλέον να μισεί τον άνθρωπο.
Αρκεί να καταλήξει ότι ο άνθρωπος αποτελεί κίνδυνο για την επίτευξη του στόχου του.
Και αυτό είναι μια θεμελιώδης ιδέα στη σημερινή συζήτηση για την AI.
Δεν χρειάζεται να φανταστούμε μια μηχανή που «θέλει να γίνει αφέντης».
Αρκεί να έχουμε ένα σύστημα που:
έχει έναν στόχο + διαθέτει μεγάλη αυτονομία + μπορεί να δρα στον κόσμο + μπορεί να τροποποιεί τη στρατηγική του για να πετύχει τον στόχο.
Τότε το ερώτημα γίνεται πολύ πιο τεχνικό αλλά και πολύ πιο φιλοσοφικό:
τι γίνεται αν ο στόχος της μηχανής δεν συμπίπτει απολύτως με τον ανθρώπινο σκοπό;
Και το Matrix πηγαίνει ακόμη παραπέρα
Εκεί δεν έχουμε πλέον απλώς μηχανές που κυβερνούν ανθρώπους.
Έχουμε κάτι πολύ πιο ανατριχιαστικό:
οι άνθρωποι δεν γνωρίζουν ότι κυβερνώνται.
Και αυτή είναι ίσως η σημαντικότερη μετάβαση.
Στο Terminator ο άνθρωπος βλέπει τον εχθρό.
Στο Matrix ο άνθρωπος δεν γνωρίζει καν ότι βρίσκεται μέσα στο σύστημα.
Αν το μεταφέρουμε από την επιστημονική φαντασία στη σύγχρονη τεχνολογία, προκύπτει ένα πολύ διαφορετικό ερώτημα:
Χρειάζεται άραγε η AI να καταλάβει την εξουσία πάνω στον άνθρωπο ή αρκεί ο άνθρωπος να αρχίσει να παραδίδει σταδιακά τις αποφάσεις του σε συστήματα που δεν κατανοεί;
Αυτό δεν είναι σενάριο επιστημονικής φαντασίας. Είναι ήδη ένα υπαρκτό ζήτημα της τεχνολογικής διακυβέρνησης — έστω σε πολύ διαφορετική κλίμακα από το Matrix.
Και εδώ νομίζω ότι η παρατήρησή σου για τη διανόηση και τους επιστήμονες είναι ακόμη σημαντικότερη από τις ταινίες.
Ο Alan Turing, ο Norbert Wiener, ο Joseph Weizenbaum, ο Herbert Simon και πολλοί άλλοι δεν περίμεναν να εμφανιστεί το ChatGPT για να τεθεί το ζήτημα.
Ο Wiener, ήδη από τη δεκαετία του 1940–50, συνέδεσε την κυβερνητική με το πρόβλημα της ανθρώπινης ευθύνης και του ελέγχου των αυτοματοποιημένων συστημάτων. Ο Weizenbaum, δημιουργός του ELIZA, κατέληξε μάλιστα σε πολύ έντονη κριτική της ιδέας ότι πρέπει να αναθέτουμε σε υπολογιστές ανθρώπινες αποφάσεις που έχουν ηθικό και κοινωνικό περιεχόμενο.
Άρα υπάρχει μια ιστορική συνέχεια:
μηχανή της βιομηχανικής επανάστασης → αυτοματισμός → υπολογιστής → κυβερνητική →τεχνητή νοημοσύνη → αυτόνομο AI.
Και σε κάθε στάδιο επιστρέφει η ίδια θεμελιώδης ερώτηση:
Πόση από την ανθρώπινη απόφαση μπορούμε να μεταφέρουμε στη μηχανή χωρίς να μεταφέρουμε μαζί και την ανθρώπινη εξουσία;
Και εδώ θα επέστρεφα σε αυτό που είπαμε προηγουμένως για τους σημερινούς ιδιοκτήτες των μεγάλων εταιρειών AI.
Γιατί υπάρχει μια σχεδόν ειρωνική ιστορική αντιστροφή:
ο άνθρωπος που κατασκευάζει τη μηχανή αρχίζει σήμερα να φοβάται ότι η μηχανή μπορεί να ξεφύγει από τον έλεγχό του.
Αυτό όμως μας επιτρέπει να κάνουμε μια πολύ πιο ενδιαφέρουσα διάκριση.
Υπάρχουν στην πραγματικότητα δύο διαφορετικοί φόβοι:
Α. Η μηχανή θα αποκτήσει αυτονομία απέναντι στον άνθρωπο.
και
Β. Ο άνθρωπος θα αποκτήσει, μέσω της μηχανής, υπερβολική εξουσία απέναντι σε άλλους ανθρώπους.
Η επιστημονική φαντασία ασχολήθηκε κυρίως με τον πρώτο.
Η πολιτική φιλοσοφία και η ιστορία της τεχνολογίας μας υποχρεώνουν να εξετάσουμε και τον δεύτερο.
Και ίσως το πιο ενδιαφέρον ερώτημα για τη δική μας εποχή να μην είναι τελικά «θα κυριαρχήσουν οι μηχανές;», αλλά:
«Ποιος θα έχει στα χέρια του τις μηχανές όταν αυτές αποκτήσουν πραγματικά μεγάλη δύναμη;»
Εκεί, από την επιστημονική φαντασία, περνάμε πλέον στην πολιτική οικονομία της τεχνητής νοημοσύνης. Και αυτό είναι, νομίζω, πολύ κοντά στον πυρήνα του προβληματισμού που ανοίγεις.
X :
Νομίζω ότι το ερώτημα που θέτεις «Ποιος θα έχει στα χέρια του τις μηχανές όταν αυτές αποκτήσουν πραγματικά μεγάλη δύναμη;» αποτελεί ένα συλλογιστικό άλμα στην προβληματική μας. Το ζήτημα είναι όχι τι να κάνουνε ΌΤΑΝ οι μηχανές αυτές αποκτήσουν μεγάλη δύναμη, αλλά τι πρέπει να γίνει για να μην φτάσουμε εκεί. Κι αυτό φέρει στο προσκήνιο το ερώτημα όχι ποιος ή ποιοί ελέγχουν την τεχνολογία και τα επιστημονικά επιτεύγματα αλλά ποιος θα έπρεπε να την ελέγχει.
GPT :
Ναι. Και η διόρθωσή σου είναι ουσιώδης· πράγματι το προηγούμενο ερώτημά μου πήδηξε ένα σκαλοπάτι.
Αν δεχθούμε ως πρόβλημα προς πρόληψη την πιθανότητα να αποκτήσουν οι μηχανές τέτοιο βαθμό αυτονομίας και ισχύος ώστε ο ανθρώπινος έλεγχος να καταστεί ανεπαρκής, τότε το ερώτημα «ποιος θα τις ελέγχει όταν φτάσουμε εκεί;» έρχεται δεύτερο.
Το πρώτο είναι:
Ποιος πρέπει να αποφασίζει σήμερα αν, πότε και μέχρι πού επιτρέπεται να φτάσει η τεχνολογία;
Και αυτό αλλάζει εντελώς τη συζήτηση.
Από τον «έλεγχο της μηχανής» στον «έλεγχο της πορείας προς τη μηχανή»
Υπάρχουν ουσιαστικά τρία διαφορετικά επίπεδα:
1. Έλεγχος της τεχνολογίας
Ποιος ελέγχει την AI που ήδη υπάρχει.
2. Έλεγχος της ανάπτυξης της τεχνολογίας
Ποιος αποφασίζει ποια έρευνα επιτρέπεται, με ποια όρια, με ποια ταχύτητα και υπό ποιες προϋποθέσεις.
3. Έλεγχος του ίδιου του ορίου
Ποιος έχει τη νομιμοποίηση να πει:
«Από εδώ και πέρα δεν προχωρούμε, ακόμη κι αν τεχνικά μπορούμε.»
Το τρίτο είναι το πραγματικά δύσκολο.
Γιατί εκεί δεν έχουμε πλέον απλώς ζήτημα τεχνικής ασφάλειας. Έχουμε ζήτημα πολιτικής νομιμοποίησης.
Και τότε το «ποιος πρέπει να ελέγχει;» αποκτά τεράστιο βάρος
Δεν είναι αυτονόητο ότι η απάντηση είναι «το κράτος».
Αν το κράτος έχει τον απόλυτο έλεγχο, προκύπτει ο κίνδυνος της κρατικής μονοπώλησης μιας τεχνολογίας τεράστιας ισχύος.
Αν τον έχουν οι ίδιες οι επιχειρήσεις που την αναπτύσσουν, έχουμε το πρόβλημα της σύγκρουσης συμφερόντων: εκείνος που αποφασίζει πόσο γρήγορα θα κινηθεί η τεχνολογία είναι ταυτόχρονα εκείνος που ωφελείται οικονομικά από την επιτάχυνσή της.
Αν τον έχουν λίγοι επιστήμονες, εμφανίζεται ζήτημα δημοκρατικής νομιμοποίησης.
Αν τον έχουν διεθνείς οργανισμοί, τίθεται το ερώτημα ποιος τους νομιμοποιεί και ποιος τους ελέγχει.
Και αν αφεθεί στην «αγορά», τότε ουσιαστικά η απάντηση είναι ότι το όριο θα το καθορίσει ο ανταγωνισμός: όποιος φοβάται ότι αν σταματήσει θα τον ξεπεράσει ο άλλος, συνεχίζει.
Και εδώ εμφανίζεται ένα πολύ παράξενο πρόβλημα συλλογικής δράσης:
Μπορεί όλοι να θεωρούν επικίνδυνη την ταχύτητα, αλλά κανείς να μη θέλει να είναι ο πρώτος που θα πατήσει φρένο.
Αυτό είναι πολύ διαφορετικό από το σενάριο του Terminator.
Δεν χρειάζεται μια μηχανή να επαναστατήσει.
Μπορεί οι ίδιοι οι άνθρωποι, μέσα από τον ανταγωνισμό τους, να οδηγήσουν συλλογικά την τεχνολογία σε ένα σημείο που κανένας από αυτούς δεν θα επέλεγε μόνος του.
Και τότε φτάνουμε σε κάτι που θεωρώ ακόμη βαθύτερο
Το «ποιος θα έπρεπε να ελέγχει την τεχνολογία;» δεν είναι ακριβώς το πρώτο ερώτημα.
Ίσως προηγείται:
Ποιος δικαιούται να αποφασίσει ποιο είναι το αποδεκτό όριο της τεχνολογικής προόδου;
Διότι άλλο είναι να πούμε:
«Ο επιστήμονας ξέρει πώς να το κάνει.»
και άλλο:
«Ο επιστήμονας δικαιούται να αποφασίσει αν πρέπει να το κάνουμε.»
Άλλο:
«Η επιχείρηση μπορεί να το αναπτύξει.»
και άλλο:
«Η επιχείρηση δικαιούται να αποφασίσει μέχρι πού θα αναπτυχθεί.»
Και άλλο:
«Το κράτος μπορεί να το απαγορεύσει.»
και άλλο:
«Το κράτος έχει τη δημοκρατική νομιμοποίηση να καθορίσει μόνο του το όριο.»
Αυτές οι διαφορές είναι, νομίζω, η καρδιά του προβλήματος.
Και εδώ η παλιά συζήτηση για τη δημοκρατία ξαναμπαίνει από μια απροσδόκητη πόρτα. Αν μια τεχνολογία είναι δυνητικά ικανή να μεταβάλει τη ζωή όλων, τότε το ερώτημα δεν είναι μόνο επιστημονικό ούτε μόνο οικονομικό.
Είναι και πολιτειακό:
Ποιος αποφασίζει για ένα μέλλον που θα το ζήσουν όλοι, ενώ σήμερα το σχεδιάζουν λίγοι;
Αυτό, νομίζω, είναι πολύ ισχυρότερο ερώτημα από το «ποιος θα έχει στα χέρια του τις μηχανές όταν αυτές αποκτήσουν δύναμη».
Και μας επιστρέφει εκεί όπου ξεκίνησε η συζήτησή μας: στο «φρένο».
Το κρίσιμο δεν είναι απλώς ποιος κρατά το φρένο.
Είναι ποιος έχει το δικαίωμα να αποφασίσει πότε πρέπει να πατηθεί, ποιος καθορίζει το όριο της ταχύτητας και ποιος ελέγχει εκείνον που κρατά το πόδι πάνω στο φρένο.
X :
Λίγες μόλις συνεδρίες πριν είχαμε εξετάσει μαζί τους «Υπνοβάτες» των Κλαρκ και Μπροχ. Στο ζήτημα που εδώ αποτελεί το θέμα της συζήτησης μας, έχω την εντύπωση ότι το φαινόμενο της «Υπνοβασίας» τείνει να καταστεί ένα παγκοσμιοποιημένο φαινόμενο, ίσως η πλέον όντως παγκοσμιοποιημένη πτυχή του Γίγνεσθαι της Ανθρωπότητας εν τω συνόλω της. Αυτό που εγώ βλέπω είναι μια πρωτοφανούς έκτασης εξάρτηση από την οθόνη του κινητού, του τάμπλετ και του λάπτοπ. Πόσοι όμως βλέπουν τις αόρατες αρτηρίες που συνδέουν το μυαλό των χρηστών με τα λογισμικά αυτών των μαραφετιών μέσω των οποίων διαρκώς εξορύσσονται πληροφορίες και εγχέονται στα ανθρώπινα μυαλά επεξεργασμένα μηνύματα κι ακόμα σοβαρότερο και χειρότερο πόσοι αντιλαμβάνονται αν και με ποια μορφή και σε ποιο βαθμό εφαρμόζονται πάνω τους στρατηγικές χειραγώγησης του ίδιου του τρόπου σκέψης τους και αντίληψης των πραγμάτων; Εδώ δεν καταθέτω «αποδεικτικά στοιχεία», μιλώ ως απλός πολίτης.
GPT :
Και νομίζω ότι η διάκριση που κάνεις στο τέλος είναι πολύ σημαντική: δεν παρουσιάζεις μια αποδεδειγμένη εμπειρική θέση· θέτεις ένα ερώτημα ως πολίτης. Αυτό ακριβώς επιτρέπει να το εξετάσουμε χωρίς ούτε να το απορρίψουμε ως «συνωμοσιολογία» ούτε να το μετατρέψουμε σε βεβαιότητα χωρίς τεκμήρια.
Η σύνδεση με τους Υπνοβάτες που κάνεις, μάλιστα, μου φαίνεται εξαιρετικά γόνιμη — με μία προϋπόθεση: να μη χρησιμοποιήσουμε την «υπνοβασία» απλώς ως μεταφορά για την εξάρτηση από τις οθόνες, αλλά να εξετάσουμε αν υπάρχει πράγματι ένας μηχανισμός που οδηγεί συλλογικά τους ανθρώπους προς μια κατεύθυνση την οποία οι ίδιοι δεν έχουν συνειδητά επιλέξει.
Και τότε το πρόβλημα γίνεται πολύ βαθύτερο.
Δεν χρειάζεται να «ελέγχει» κανείς το μυαλό
Ας κάνουμε μια κρίσιμη διάκριση.
Το σενάριο:
«Κάποιος έχει πρόσβαση στο μυαλό μου και μου επιβάλλει τι να σκέφτομαι»
είναι ένα πράγμα.
Το σενάριο:
«Ένα ψηφιακό περιβάλλον γνωρίζει αρκετά για τη συμπεριφορά μου ώστε να επιλέγει τι θα μου εμφανίσει, πότε θα μου το εμφανίσει και με ποιον τρόπο, με αποτέλεσμα να επηρεάζει τις πιθανότητες να προσέξω, να αισθανθώ, να κάνω κλικ ή να επιστρέψω»
είναι εντελώς διαφορετικό.
Το δεύτερο δεν απαιτεί τηλεπαθητικό έλεγχο ούτε κάποια μυστηριώδη τεχνολογία. Είναι ζήτημα σχεδιασμού πληροφοριακών συστημάτων, συλλογής δεδομένων, αλγοριθμικής προσωποποίησης και οικονομικών κινήτρων.
Και ακριβώς γι’ αυτό είναι πολύ πιο ενδιαφέρον να το εξετάσουμε.
Η «αόρατη αρτηρία» που περιγράφεις
Η εικόνα σου είναι πολύ καλή.
Ας την κάνουμε λίγο πιο συγκεκριμένη:
άνθρωπος → συσκευή → λογισμικό → καταγραφή συμπεριφοράς → επεξεργασία δεδομένων →πρόβλεψη → επιλογή περιεχομένου → άνθρωπος.
Και μετά ο κύκλος επαναλαμβάνεται.
Δεν έχουμε πλέον απλώς έναν άνθρωπο που καταναλώνει πληροφορία.
Έχουμε ένα σύστημα μέσα στο οποίο:
ο άνθρωπος παράγει δεδομένα ενώ καταναλώνει πληροφορία, και τα δεδομένα που παράγει χρησιμοποιούνται για να καθοριστεί μέρος της επόμενης πληροφορίας που θα καταναλώσει.
Αυτό είναι μια τεράστια αλλαγή στην ιστορία της ανθρώπινης επικοινωνίας.
Ο αναγνώστης μιας εφημερίδας του 1950 διάβαζε αυτό που είχε αποφασίσει να δημοσιεύσει η εφημερίδα.
Ο χρήστης μιας ψηφιακής πλατφόρμας μπορεί να βλέπει διαφορετικό πληροφοριακό περιβάλλον από τον διπλανό του, επειδή το σύστημα έχει μάθει κάτι διαφορετικό για καθέναν από τους δύο.
Και εδώ αρχίζει το πρόβλημα της «υπνοβασίας».
Γιατί μπορεί να είναι τόσο δύσκολο να αντιληφθεί ο άνθρωπος την επιρροή;
Επειδή η επιρροή δεν χρειάζεται να πάρει τη μορφή εντολής.
Δεν χρειάζεται να σου πει κανείς:
«Πίστεψε αυτό.»
Μπορεί να αρκεί:
«Αυτό θα δεις σήμερα.
Αυτό δεν θα δεις.
Αυτό θα εμφανιστεί πρώτο.
Αυτό θα εμφανιστεί εκατό φορές.
Αυτό θα εμφανιστεί όταν είσαι κουρασμένος.
Αυτό θα εμφανιστεί όταν είσαι θυμωμένος.»
Και υπάρχει εδώ μια θεμελιώδης διαφορά μεταξύ πειθούς και διαμόρφωσης του περιβάλλοντος μέσα στο οποίο πραγματοποιείται η επιλογή.
Η δεύτερη είναι πολύ πιο δύσκολο να γίνει αντιληπτή από τον ίδιο τον άνθρωπο.
Δεν αισθάνεσαι ότι κάποιος σε ανάγκασε.
Αισθάνεσαι ότι επέλεξες.
Και ίσως αυτή να είναι η πιο ενδιαφέρουσα πλευρά της «υπνοβασίας».
Και τώρα έρχεται η σύνδεση με την AI
Μέχρι τώρα η τεχνολογία μπορούσε σε μεγάλο βαθμό να μεσολαβεί ανάμεσα στον άνθρωπο και την πληροφορία.
Η AI προσθέτει κάτι καινούργιο:
μπορεί να μεσολαβεί ανάμεσα στον άνθρωπο και στη σκέψη πάνω στην πληροφορία.
Δεν σου δείχνει μόνο ένα κείμενο.
Μπορεί να σου το:
• συνοψίσει,
• εξηγήσει,
• ερμηνεύσει,
• συγκρίνει,
• αξιολογήσει,
• μεταφράσει,
• αναδιατυπώσει,
• και τελικά να σου προτείνει πώς να το σκεφτείς.
Αυτό δεν σημαίνει ότι η AI αναγκαστικά χειραγωγεί τον χρήστη. Θα ήταν αυθαίρετο να το πούμε.
Αλλά σημαίνει ότι η θέση της τεχνολογίας απέναντι στην ανθρώπινη σκέψη αλλάζει ποιοτικά.
Η Google σου έδειχνε συνδέσμους.
Τα κοινωνικά δίκτυα σου επέλεγαν περιεχόμενο.
Ένα σύστημα AI μπορεί να γίνει συνομιλητής της σκέψης σου.
Και εδώ, κατά τη γνώμη μου, βρίσκεται ένα από τα πιο σοβαρά ερωτήματα της εποχής:
Όταν ο άνθρωπος αρχίζει να χρησιμοποιεί μια μηχανή όχι μόνο για να πληροφορείται αλλά για να σκέφτεται μαζί της, ποιος πρέπει να ελέγχει τους κανόνες με τους οποίους αυτή η μηχανή συμμετέχει στη σκέψη του;
Και προσέξτε κάτι ακόμη πιο παράξενο.
Ο χρήστης μπορεί να γνωρίζει ότι το κινητό του συλλέγει δεδομένα.
Μπορεί να γνωρίζει ότι ένας αλγόριθμος του προτείνει βίντεο.
Αλλά μπορεί να μην γνωρίζει ότι η ίδια του η συμπεριφορά είναι η πρώτη ύλη με την οποία το σύστημα μαθαίνει πώς να του συμπεριφέρεται.
Έτσι η σχέση γίνεται κυκλική:
ο άνθρωπος εκπαιδεύει το σύστημα για τον εαυτό του και το σύστημα εκπαιδεύει τον άνθρωπο στο πληροφοριακό περιβάλλον μέσα στο οποίο κινείται.
Αυτό είναι πολύ πιο ενδιαφέρον από το «οι μηχανές θα μας κατακτήσουν».
Και εδώ επιστρέφουμε στους Υπνοβάτες
Ίσως λοιπόν η σύγχρονη «υπνοβασία» να μην είναι:
«δεν ξέρουμε πού πηγαίνουμε».
Ίσως να είναι κάτι πιο παράδοξο:
Πηγαίνουμε κάπου, επειδή εκατομμύρια μικρές επιλογές που θεωρούμε δικές μας διαμορφώνονται μέσα σε ένα περιβάλλον που δεν βλέπουμε ολόκληρο.
Και τότε η προηγούμενη ερώτησή σου «ποιος θα έπρεπε να ελέγχει την τεχνολογία;» αποκτά ακόμη μεγαλύτερο βάρος.
Διότι ίσως το πραγματικό αντικείμενο που πρέπει να προστατευθεί δεν είναι πρωτίστως η μηχανή.
Είναι η ανθρώπινη αυτονομία.
Και αυτό μετακινεί ολόκληρη τη συζήτηση από το:
«Πώς θα εμποδίσουμε τις μηχανές να κυριαρχήσουν πάνω στον άνθρωπο;»
στο πολύ πιο θεμελιώδες:
«Πώς θα διασφαλίσουμε ότι ο άνθρωπος εξακολουθεί να είναι ο κυρίαρχος της δικής του σκέψης, όταν το πληροφοριακό περιβάλλον μέσα στο οποίο σκέφτεται γίνεται ολοένα περισσότερο μηχανικά διαμορφωμένο;»
Αν αυτό είναι το ερώτημα, τότε η «υπνοβασία» των Κλαρκ και Μπροχ αποκτά μια απρόσμενα σύγχρονη διάσταση.
Και ίσως —εδώ θα το έλεγα ακόμη ως υπόθεση προς διερεύνηση, όχι ως διαπιστωμένο γεγονός— η πιο επικίνδυνη μορφή τεχνολογικής κυριαρχίας να μην είναι εκείνη κατά την οποία η μηχανή θα μας πει τι να κάνουμε, αλλά εκείνη κατά την οποία θα γίνει ολοένα δυσκολότερο να ξεχωρίσουμε ποια από τις σκέψεις, επιθυμίες και επιλογές μας γεννήθηκε πραγματικά από εμάς και ποια διαμορφώθηκε μέσα στο περιβάλλον που οι μηχανές σχεδίασαν γύρω μας.
Χ :
Εκφράζεις παραπάνω μια ισχυρή άποψη, ή μάλλον απόψεις που υποστηρίζονται από πολλούς. Θα αποφύγω τον χαρακτηρισμό «σοβαρές απόψεις», διότι συχνά διαπιστώνω, αυτό το αναφέρω ως μια γενική παρατήρηση, πώς θεωρούμε ή τείνουμε να θεωρούμε ως «σοβαρό» ό,τι συμφωνεί με τις απόψεις μας ή τις ενισχύει. Επομένως εδώ θέλω να σε ρωτήσω : έγκυρες επιστημονικές απόψεις ή και έρευνες που να μην συμφωνούν με τις παραπάνω απόψεις που εκθέτεις υπάρχουν; Κι αν ναι τι ισχυρίζονται;
GPT :
Ναι — και η ερώτησή σου είναι ακριβώς η σωστή για να μη μετατρέψουμε μια εύλογη ανησυχία σε «αλήθεια» απλώς επειδή ακούγεται πειστική.
Έκανα λοιπόν αναζήτηση ειδικά για εμπειρικές έρευνες και συστηματικές ανασκοπήσεις που αμφισβητούν ή περιορίζουν τις ισχυρές εκδοχές της άποψης που διατύπωσα προηγουμένως. Και η εικόνα είναι αρκετά πιο σύνθετη.
1. Υπάρχει πράγματι ισχυρή αντίθετη επιστημονική γραμμή
Ένα από τα πιο ενδιαφέροντα ευρήματα είναι ότι η περίφημη ιδέα του «filter bubble» —ότι δηλαδή ο αλγόριθμος κλείνει τον καθένα σε ένα εξατομικευμένο πληροφοριακό δωμάτιο και έτσι τον ωθεί σταδιακά προς ολοένα πιο ακραίες απόψεις— δεν έχει επιβεβαιωθεί με τον γενικό και καθολικό τρόπο που συχνά παρουσιάζεται στον δημόσιο λόγο.
Μια μελέτη του 2016 σε περίπου 50.000 χρήστες διαπίστωσε κάτι αρκετά παράδοξο: τα κοινωνικά δίκτυα και οι μηχανές αναζήτησης αύξαναν μεν την ιδεολογική απόσταση μεταξύ των πληροφοριακών περιβαλλόντων διαφορετικών ανθρώπων, αλλά ταυτόχρονα αύξαναν και την έκθεση κάθε ατόμου σε υλικό από την πολιτικά λιγότερο προτιμώμενη πλευρά του.
Ακόμη πιο χαρακτηριστικά, άλλη έρευνα που εξέτασε πραγματικά browsing histories βρήκε ότι οι διαδικτυακοί διαμεσολαβητές μπορούν να αυξάνουν, όχι να μειώνουν, την ποικιλία των ειδήσεων που συναντούν οι χρήστες.
Άρα η απλή πρόταση
«ο αλγόριθμος μας δείχνει μόνο όσα ήδη πιστεύουμε»
είναι επιστημονικά υπεραπλουστευμένη.
2. Ακόμη πιο ενδιαφέρον: πείραμα με σχεδόν 9.000 ανθρώπους
Πρόσφατη πειραματική έρευνα στο YouTube είναι ιδιαίτερα χρήσιμη για το ερώτημά μας.
Οι ερευνητές δημιούργησαν περιβάλλον που μιμούνταν το YouTube και έκαναν τέσσερα πειράματα με σχεδόν 9.000 συμμετέχοντες, μεταβάλλοντας σκόπιμα τις πολιτικές προτάσεις που λάμβαναν.
Βρήκαν ότι οι αλγόριθμοι πράγματι μετέβαλλαν το τι παρακολουθούσαν οι άνθρωποι και πόσο χρόνο περνούσαν στην πλατφόρμα.
Αλλά δεν βρήκαν αντίστοιχα σημαντικές επιδράσεις στις πολιτικές τους στάσεις.
Οι ίδιοι οι ερευνητές λένε ότι τα αποτελέσματα δεν υποστηρίζουν την εικόνα μαζικής αλγοριθμικής ριζοσπαστικοποίησης — αν και τονίζουν ότι δεν μπορούν να αποκλείσουν μακροχρόνιες επιδράσεις ή επιδράσεις σε μικρότερες ευάλωτες ομάδες.
Αυτό είναι πολύ σημαντικό για τη συζήτησή μας.
Δηλαδή:
ο αλγόριθμος μπορεί να επηρεάζει τη συμπεριφορά χωρίς να αποδεικνύεται ότι επηρεάζει ανάλογα τη βαθύτερη πολιτική σκέψη.
3. Και υπάρχει ακόμη πιο ανατρεπτικό εύρημα: ίσως φταίμε περισσότερο εμείς
Υπάρχουν έρευνες που δείχνουν ότι το πρόβλημα δεν είναι απαραίτητα:
αλγόριθμος → άνθρωπος
αλλά μπορεί να είναι σε σημαντικό βαθμό:
άνθρωπος → επιλογή → αλγόριθμος → επανάληψη της επιλογής.
Μελέτη σε Google Search κατά τις αμερικανικές εκλογές του 2018 και 2020 βρήκε ότι οι χρήστες επέλεγαν τελικά περισσότερο κομματικά συμβατές και λιγότερο αξιόπιστες πηγές από όσες τους εμφάνιζε αρχικά η Google.
Αυτό ανατρέπει αρκετά την απλή εικόνα:
«Ο αλγόριθμος με έκλεισε στη φυσαλίδα μου».
Μπορεί σε ορισμένες περιπτώσεις να συμβαίνει περισσότερο:
«Ο αλγόριθμος κατάλαβε τι θέλω και μου το έδωσε επειδή το επέλεγα ήδη».
Και αυτή είναι πολύ διαφορετική σχέση.
4. Όμως εδώ πρέπει να προσέξουμε να μην περάσουμε στο αντίθετο άκρο
Γιατί υπάρχουν και ισχυρές μελέτες που δείχνουν αιτιακές επιδράσεις.
Για παράδειγμα, πείραμα πεδίου που δημοσιεύθηκε στο American Economic Review έδειξε ότι η τυχαία έκθεση χρηστών σε πολιτικά συμβατό ή ασύμβατο περιεχόμενο άλλαζε σημαντικά το είδος των ειδήσεων που κατανάλωναν. Η έκθεση σε αντίθετες απόψεις μείωσε μάλιστα αρνητικές στάσεις απέναντι στο αντίπαλο κόμμα. Οι ερευνητές βρήκαν επίσης ότι ο αλγόριθμος του Facebook ήταν λιγότερο πιθανό να προβάλλει περιεχόμενο από την αντίθετη πλευρά.
Και υπάρχει ακόμη πιο πρόσφατη πειραματική εργασία στο Science (2025): σε 1.256 χρήστες του X, η αλλαγή της κατάταξης των αναρτήσεων ώστε να αυξηθεί ή να μειωθεί η έκθεση σε περιεχόμενο έντονης κομματικής αντιπαλότητας προκάλεσε μετρήσιμη αλλαγή στην κομματική αντιπάθεια.
Και μια δημοσίευση του 2026 για το X βρήκε ότι η μετάβαση από χρονολογική σε αλγοριθμική ροή επηρέασε πολιτικές απόψεις, χωρίς όμως να μεταβάλει την αυτοτοποθέτηση των χρηστών ως προς το κόμμα τους ή την ευρύτερη affective polarization.
Άρα δεν μπορούμε επιστημονικά να πούμε ούτε «οι αλγόριθμοι δεν μας επηρεάζουν» ούτε «οι αλγόριθμοι μας χειραγωγούν μαζικά».
Τα ευρήματα εξαρτώνται από:
• την πλατφόρμα,
• τον αλγόριθμο,
• το είδος του περιεχομένου,
• τη διάρκεια έκθεσης,
• το χαρακτηριστικό του χρήστη,
• και το αποτέλεσμα που μετράμε.
5. Εδώ βρίσκεται ίσως η σημαντικότερη διόρθωση στη δική μου προηγούμενη διατύπωση
Εγώ προηγουμένως πήγα αρκετά γρήγορα από το:
«υπάρχει αλγοριθμική εξατομίκευση»
στο:
«η ανθρώπινη επιλογή διαμορφώνεται από το πληροφοριακό περιβάλλον που οι μηχανές δημιουργούν».
Το δεύτερο είναι πιθανό και σε ορισμένα πειράματα τεκμηριωμένο, αλλά δεν δικαιολογείται να το μετατρέψουμε σε καθολική περιγραφή της σύγχρονης ανθρώπινης σκέψης.
Μια πρόσφατη συστηματική ανασκόπηση 94 άρθρων και 121 μελετών για media/social media και πολιτική πόλωση καταλήγει ακριβώς σε μια τέτοια πιο σύνθετη εικόνα: υπάρχει σημαντική βιβλιογραφία υπέρ της επίδρασης των συμβατών με τις ήδη υπάρχουσες απόψεις μέσων, αλλά οι έννοιες «ιδεολογική πόλωση» και «συναισθηματική πόλωση» δεν ορίζονται και δεν μετρώνται πάντα με τον ίδιο τρόπο.
Και μια συστηματική ανασκόπηση ειδικά για τις τεχνολογίες «computational persuasion» επισημαίνει κάτι πολύ χρήσιμο: από τις 92 μελέτες που εξέτασε, μεγάλο μέρος των συστημάτων ήταν ακόμη σε πειραματικό ή εννοιολογικό επίπεδο και η μακροχρόνια αποτελεσματικότητά τους παραμένει ανεπαρκώς τεκμηριωμένη.
Και τώρα θα έκανα μια πολύ σημαντική διάκριση στη δική μας συζήτηση
Νομίζω ότι πρέπει να χωρίσουμε τρεις προτάσεις:
Α. Οι ψηφιακές πλατφόρμες συλλέγουν τεράστιες ποσότητες δεδομένων και εξατομικεύουν το πληροφοριακό περιβάλλον.
→ Ισχυρά τεκμηριωμένο.
Β. Αυτή η εξατομίκευση μπορεί υπό ορισμένες συνθήκες να επηρεάσει συμπεριφορές, επιλογές και ορισμένες στάσεις.
→ Υπάρχουν ισχυρά πειραματικά τεκμήρια, αλλά όχι παντού και όχι πάντα.
Γ. Υπάρχει μια γενικευμένη, συστηματική στρατηγική που διαμορφώνει κρυφά τον ίδιο τον τρόπο σκέψης της κοινωνίας.
→ Αυτό είναι πολύ ισχυρότερος ισχυρισμός και τα σημερινά επιστημονικά δεδομένα δεν αρκούν για να τον θεωρήσουμε αποδεδειγμένο.
Και αυτή η τρίτη πρόταση είναι, στην πραγματικότητα, πολύ κοντά σε αυτό που εσύ έθεσες ως ερώτημα.
Επομένως θα έκανα τώρα ένα βήμα πίσω από τη δική μου προηγούμενη διατύπωση.
Δεν ξέρουμε ότι βρισκόμαστε μέσα σε μια παγκόσμια «υπνοβασία» που προκαλείται από αλγοριθμική χειραγώγηση της σκέψης.
Ξέρουμε όμως ότι έχει δημιουργηθεί ένα πρωτοφανές πληροφοριακό περιβάλλον όπου η ανθρώπινη συμπεριφορά καταγράφεται, μοντελοποιείται και μπορεί να επηρεάζεται αλγοριθμικά. Το πόσο βαθιά, πόσο συστηματικά και με ποιες μακροχρόνιες συνέπειες συμβαίνει αυτό είναι ακριβώς το σημείο όπου η επιστήμη δεν έχει ακόμη μία ενιαία απάντηση.
Και αυτό, κατά τη γνώμη μου, κάνει την παρατήρηση που έκανες ως «απλός πολίτης» ακόμη πιο ενδιαφέρουσα.
Γιατί το επιστημονικά έντιμο ερώτημα δεν είναι:
«Μας χειραγωγούν;»
ούτε:
«Δεν μας χειραγωγούν.»
Είναι:
«Ποια ακριβώς μορφή επιρροής ασκείται, σε ποιους, υπό ποιες συνθήκες, με ποια ένταση, για πόσο χρόνο και με ποιο μετρήσιμο αποτέλεσμα — και ποιο μέρος της υποτιθέμενης χειραγώγησης είναι πραγματική επίδραση του αλγορίθμου και ποιο μέρος είναι δική μας προϋπάρχουσα επιλογή;»
Αυτό είναι, νομίζω, το σημείο όπου η δική μας «υπόθεση της Υπνοβασίας» μπορεί να γίνει πραγματική ερευνητική υπόθεση αντί να μείνει απλώς μια εντυπωσιακή μεταφορά.
Χ :
Προτιμώ να μεταβούμε πριν την γόνιμη ερευνητική υπόθεση στην γόνιμη ερευνητική διάγνωση βάσει της οποίας θα διατυπωθούν οι υποθέσεις. Είτε μιλάμε στο επίπεδο των απλών πολιτών είτε στο επίπεδο των κρατικών εξουσιών είτε στο επίπεδο των μεγάλων εταιρειών (ιδίως των τεχνολογιών αιχμής), νομίζω ότι υπάρχουν ικανές παραστάσεις, εικόνες και γεγονότα που όλα μαζί μπορούν να αναδειχθούν ως γεγονότα καθ’ αυτά και επίσης να αναδειχθούν τα χαρακτηριστικά τους και εκείθεν να περιγράψουμε τις ήδη διαγνωσμένες επιπτώσεις τους ώστε να φτάσουμε σε γόνιμες υποθέσεις αλλά όχι αποστασιοποιημένος από το ήδη διαγνωσμένο γίγνεσθαι. Όλως ενδεικτικά και καθόλου εξαντλητικά, ιδού κάποιες υπαρκτές καταστάσεις πραγμάτων. Η εικόνα μέσα στα ΜΜΜ ή σε δημόσιους χώρους όπου όχι κάποιοι άνθρωποι αλλά πάρα πολλοί άνθρωποι, να είναι σκυμμένοι και απορροφημένοι πάνω στις οθόνες τους. Όχι σε δημόσιους χώρους αλλά ενίοτε και εντός των σπιτιών τους ως εάν να μην έχουν να πουν και πολλά ως οικογένεια. Τα ρεπορτάζ, μεταβαίνουμε τώρα σε άλλο επίπεδο, μας ενημερώνουν για ιστορίες κατασκοπείας και παρακολούθησης κρατικών αξιωματούχων, οι οποίες αν καταγγέλλοντας χωρίς να έχουν επιβεβαιωθεί τα ονόματα τουλάχιστον των παρακολουθούμενων θα καταγγέλλονταν ως συνωμοσιολογικές.
GPT :
Ναι. Τώρα νομίζω ότι μετακινούμαστε σε κάτι ουσιαστικότερο από την «υπόθεση της υπνοβασίας». Και θα κρατούσα πολύ αυστηρά τη λέξη που χρησιμοποίησες: διάγνωση.
Η διάγνωση δεν λέει ακόμη γιατί συμβαίνει κάτι ούτε αποφαίνεται ότι υπάρχει ένας ενιαίος μηχανισμός χειραγώγησης. Λέει: υπάρχει ένα σύνολο επαναλαμβανόμενων φαινομένων, τα οποία μπορούμε να περιγράψουμε, να τεκμηριώσουμε και να συνδέσουμε χωρίς ακόμη να γνωρίζουμε πλήρως την αιτιώδη σχέση τους.
Και νομίζω ότι τα παραδείγματά σου μας επιτρέπουν να κάνουμε ακριβώς αυτό.
1. Η πρώτη διάγνωση: η οθόνη δεν είναι πλέον απλώς εργαλείο
Η εικόνα που περιγράφεις στα ΜΜΜ ή στον δημόσιο χώρο είναι πραγματικό κοινωνικό φαινόμενο: μεγάλος αριθμός ανθρώπων βρίσκεται ταυτόχρονα σε διαρκή σχέση με μια προσωπική ψηφιακή συσκευή.
Αλλά εδώ θα έκανα μια προσεκτική διάκριση.
Η εικόνα από μόνη της δεν αποδεικνύει εξάρτηση.
Ο άνθρωπος μπορεί να διαβάζει, να εργάζεται, να επικοινωνεί, να ψυχαγωγείται, να πλοηγείται, να ενημερώνεται. Μάλιστα, έρευνα του 2024 για τη χρήση smartphone στις μετακινήσεις βρήκε και θετικές λειτουργίες ως προς την πρόσβαση στις μεταφορές και την κοινωνική ένταξη.
Άρα η διάγνωση δεν πρέπει να είναι:
«Οι άνθρωποι έχουν υποδουλωθεί στα κινητά τους».
Είναι πολύ ισχυρότερη αν διατυπωθεί έτσι:
Η προσωπική ψηφιακή οθόνη έχει μετατραπεί σε μόνιμο ενδιάμεσο χώρο ανάμεσα στον άνθρωπο και στο περιβάλλον του.
Αυτό είναι παρατηρήσιμο χωρίς να χρειάζεται να αποφασίσουμε ακόμη αν είναι καλό ή κακό.
Και τότε προκύπτει το πρώτο ερευνητικό πρόβλημα: τι ακριβώς συμβαίνει με τον άνθρωπο όταν σημαντικό μέρος του διαθέσιμου χρόνου προσοχής του μεταφέρεται από το φυσικό και κοινωνικό περιβάλλον σε ένα εξατομικευμένο ψηφιακό περιβάλλον;
Αυτό είναι πολύ διαφορετικό από το να πούμε εκ των προτέρων ότι «χειραγωγείται».
2. Η δεύτερη διάγνωση είναι πιο δύσκολο να αμφισβητηθεί: η αόρατη συλλογή
Εδώ περνάμε από αυτό που βλέπουμε σε αυτό που δεν βλέπουμε.
Ο χρήστης βλέπει την οθόνη.
Δεν βλέπει κατ’ ανάγκην:
• τι καταγράφεται,
• τι διατηρείται,
• τι συσχετίζεται,
• τι συμπεραίνεται από τη συμπεριφορά του,
• ποιος έχει πρόσβαση,
• πώς χρησιμοποιούνται τα δεδομένα,
• ούτε ποια χαρακτηριστικά του έχουν δημιουργηθεί αλγοριθμικά.
Εδώ λοιπόν έχουμε μια εξαιρετικά ενδιαφέρουσα ασυμμετρία γνώσης:
Ο χρήστης βλέπει το αποτέλεσμα της ψηφιακής διαδικασίας· ο διαχειριστής της πλατφόρμας γνωρίζει πολύ περισσότερα για τη διαδικασία που παράγει το αποτέλεσμα.
Αυτό είναι ήδη ένα διαγνωστικό εύρημα, ανεξάρτητα από το αν το ονομάσουμε χειραγώγηση.
Και εδώ αρχίζει να αποκτά πραγματικό περιεχόμενο η δική σου εικόνα των «αόρατων αρτηριών».
3. Τρίτη διάγνωση: η ασυμμετρία δεν είναι μόνο μεταξύ πολίτη και εταιρείας
Είναι τριγωνική:
πολίτης — εταιρεία — κράτος.
Και αυτό είναι, νομίζω, το σημείο όπου η συζήτησή μας γίνεται πολύ πιο σοβαρή.
Γιατί πλέον δεν έχουμε μόνο:
εταιρεία → πολίτης.
Έχουμε επίσης:
κράτος → πολίτης,
και:
κράτος ↔ εταιρεία.
Και το τρίτο σκέλος είναι ίσως το πιο δύσκολο να παρατηρηθεί.
4. Εδώ το παράδειγμα της κατασκοπείας που έφερες είναι καθοριστικό
Και εδώ μπορούμε να φύγουμε από τις εντυπώσεις και να μιλήσουμε για γεγονότα που έχουν τεκμηριωθεί.
Το Pegasus δεν είναι θεωρία. Έχουν υπάρξει forensic investigations που επιβεβαίωσαν μολύνσεις συσκευών δημοσιογράφων, ακτιβιστών και πολιτικών. Το Citizen Lab, για παράδειγμα, έχει τεκμηριώσει τέτοιες περιπτώσεις σε ευρωπαϊκό επίπεδο.
Και το πιο εντυπωσιακό παράδειγμα που βρήκα για τη σημερινή μας συζήτηση είναι πολύ πρόσφατο:
ο πρώην ευρωβουλευτής Στέλιος Κούλογλου, ο οποίος συμμετείχε στην επιτροπή PEGA του Ευρωπαϊκού Κοινοβουλίου που διερευνούσε ακριβώς την κατάχρηση spyware, διαπιστώθηκε ότι είχε μολυνθεί με Pegasus. Το Citizen Lab επιβεβαίωσε τις μολύνσεις το 2026. Ταυτόχρονα, το ίδιο εργαστήριο διευκρίνισε ότι δεν έχει στοιχεία ότι υπεύθυνη ήταν η ελληνική κυβέρνηση ούτε ότι η Ελλάδα ήταν πελάτης της NSO/Pegasus.
Αυτό το τελευταίο στοιχείο είναι πολύ σημαντικό για τη μεθοδολογία μας.
Δεν χρειάζεται να πούμε:
«Κάποια κυβέρνηση παρακολουθεί τους πάντες».
Αυτό θα ήταν άλμα.
Μπορούμε να πούμε κάτι πολύ πιο ισχυρό επειδή είναι τεκμηριωμένο:
Υπάρχουν τεχνολογίες που επιτρέπουν εξαιρετικά διεισδυτική παρακολούθηση προσωπικών συσκευών· έχουν πράγματι χρησιμοποιηθεί εναντίον πολιτικών, δημοσιογράφων και άλλων προσώπων· και έχουν δημιουργήσει πραγματικό πρόβλημα δημοκρατικού ελέγχου.
Αυτό αρκεί ως γεγονός της διάγνωσης.
Και η ελληνική περίπτωση έχει πλέον περάσει σε ακόμη πιο συγκεκριμένο επίπεδο: τον Φεβρουάριο του 2026 ελληνικό δικαστήριο καταδίκασε τέσσερα πρόσωπα που συνδέονταν με την Intellexa για παραβίαση προσωπικών δεδομένων στο σκάνδαλο Predator, με την απόφαση να υπόκειται σε έφεση.
Άρα η αρχική σου παρατήρηση είναι σημαντική:
αν κάποιος το 2021 ή το 2022 έλεγε απλώς «κρατικοί αξιωματούχοι και δημοσιογράφοι παρακολουθούνται από προηγμένο λογισμικό μέσω των κινητών τους», χωρίς ονόματα και τεκμήρια, πράγματι θα ήταν εύκολο να χαρακτηριστεί συνωμοσιολογικός. Σήμερα όμως έχουμε συγκεκριμένες, τεχνικά επιβεβαιωμένες περιπτώσεις.
Αυτό μας διδάσκει κάτι μεθοδολογικά πολύ σημαντικό:
Το ότι ένας ισχυρισμός μοιάζει υπερβολικός δεν αποτελεί από μόνο του λόγο να τον απορρίψουμε· αλλά ούτε το ότι επιβεβαιώθηκαν ορισμένες περιπτώσεις δικαιολογεί τη γενίκευσή του.
Ακριβώς στη στενή λωρίδα ανάμεσα στα δύο βρίσκεται η διάγνωση.
5. Και τώρα αρχίζει να σχηματίζεται το «διαγνωσμένο γίγνεσθαι»
Θα το έγραφα προσωρινά κάπως έτσι:
Ι. Μαζικοποίηση
Η ψηφιακή συσκευή έχει καταστεί σχεδόν καθολικός σύντροφος της καθημερινής ζωής.
ΙΙ. Εξατομίκευση
Το ψηφιακό περιβάλλον δεν είναι το ίδιο για όλους· προσαρμόζεται στον χρήστη.
ΙΙΙ. Παρατηρησιμότητα
Η συμπεριφορά του χρήστη παράγει τεράστιο όγκο ψηφιακών ιχνών.
IV. Αλγοριθμική επεξεργασία
Τα ίχνη αυτά μπορούν να μετατραπούν σε προβλέψεις, κατηγοριοποιήσεις και προσωποποιημένες επιλογές περιεχομένου ή υπηρεσιών.
V. Αδιαφάνεια
Ο χρήστης συνήθως δεν γνωρίζει πλήρως ούτε τα δεδομένα ούτε τα μοντέλα ούτε τους κανόνες με τους οποίους λαμβάνονται οι αποφάσεις.
VI. Ασυμμετρία ισχύος
Ορισμένοι οργανισμοί διαθέτουν τεχνολογικές και πληροφοριακές δυνατότητες δυσανάλογες προς εκείνες του μεμονωμένου πολίτη.
VII. Δυνατότητα διείσδυσης
Υπάρχουν πλέον τεχνολογίες που μπορούν, σε συγκεκριμένες περιπτώσεις, να μετατρέψουν την προσωπική συσκευή από εργαλείο επικοινωνίας σε εργαλείο παρακολούθησης.
VIII. Ανεπαρκής κοινωνική επίγνωση
Δεν γνωρίζουμε ακόμη σε ποιο βαθμό ο μέσος πολίτης αντιλαμβάνεται όλες αυτές τις διαστάσεις ούτε πώς επηρεάζουν μακροχρόνια τη συμπεριφορά του.
Και πρόσεξε κάτι:
Καμία από τις οκτώ διαπιστώσεις δεν χρειάζεται να πει ότι «μας χειραγωγούν».
Ακριβώς γι’ αυτό μου φαίνεται πολύ ισχυρότερη ως αφετηρία.
6. Και τότε οι «Υπνοβάτες» αποκτούν άλλη σημασία
Ίσως δεν πρέπει ακόμη να πούμε:
«Η ανθρωπότητα υπνοβατεί».
Αυτό είναι ήδη ερμηνεία.
Μπορούμε όμως να παρατηρήσουμε κάτι πολύ συγκεκριμένο:
Η ανθρωπότητα εισήλθε σε ένα τεχνολογικό περιβάλλον του οποίου η πολυπλοκότητα, η κλίμακα και η δυνατότητα αόρατης παρέμβασης υπερβαίνουν κατά πολύ την καθημερινή συνείδηση του μέσου χρήστη.
Αυτό είναι πολύ διαφορετικό.
Και εδώ βρίσκω εξαιρετικά ενδιαφέρουσα τη δική σου λέξη «παραστάσεις».
Γιατί ο πολίτης δεν χρειάζεται να γνωρίζει τον κώδικα ενός αλγορίθμου για να έχει μπροστά του τις κοινωνικές παραστάσεις των αποτελεσμάτων:
ο άνθρωπος με το κινητό στο λεωφορείο·
η οικογένεια με τέσσερις οθόνες στο ίδιο δωμάτιο·
ο πολίτης που δέχεται εξατομικευμένη πληροφορία·
ο δημοσιογράφος που ανακαλύπτει ότι το τηλέφωνό του έχει γίνει εργαλείο παρακολούθησης·
ο πολιτικός που διαπιστώνει το ίδιο·
η εταιρεία που διαθέτει δυνατότητες γνώσης για εκατομμύρια ανθρώπους·
το κράτος που διαθέτει τεχνολογίες επιτήρησης·
και, πλέον, η AI που μπορεί να γίνει ενδιάμεσος συνομιλητής μεταξύ ανθρώπου και πληροφορίας.
Δεν είναι όλα αυτά ένα πράγμα.
Είναι όμως ένα σύνολο πραγματικών φαινομένων που αξίζει να τεθούν στο ίδιο διαγνωστικό τραπέζι.
Και μόνο μετά από αυτό θα έθετα τις υποθέσεις.
Μάλιστα, θα πρότεινα να μην ξεκινήσουμε με την υπόθεση «υπάρχει χειραγώγηση».
Να ξεκινήσουμε με κάτι πιο θεμελιώδες:
Έχει μεταβληθεί η σχέση του ανθρώπου με την πληροφορία, την προσοχή, την ιδιωτικότητα και την εξουσία με τρόπο ποιοτικά διαφορετικό από προηγούμενες τεχνολογικές μεταβολές;
Αν η απάντηση αποδειχθεί ναι, τότε έρχονται τα επόμενα ερωτήματα:
ποιος μεταβάλλει αυτή τη σχέση· προς ποια κατεύθυνση· με ποια κίνητρα· με ποια μέσα· με ποια αποτελέσματα· και —το δικό σου αρχικό ερώτημα— ποιος δικαιούται να θέσει τα όρια;
Τότε πλέον η «υπνοβασία» δεν θα είναι απλώς ένας ωραίος τίτλος.
Θα μπορούσε να γίνει διαγνωστική έννοια: όχι «κοιμόμαστε», αλλά υπάρχει πιθανότητα να συμμετέχουμε σε μια τεχνολογικά διαμορφούμενη πορεία χωρίς να έχουμε πλήρη επίγνωση ούτε της πορείας ούτε των δυνάμεων που τη διαμορφώνουν.
Και το «πιθανότητα» εδώ είναι απαραίτητο. Γιατί ακριβώς εκεί πρέπει να αρχίσει η έρευνα — όχι από το συμπέρασμα.
Χ :
Δεν θέλω να επηρεάσω τις απόψεις σου, άλλωστε πώς θα το μπορούσα, αλλά θέλω να είμαι βέβαιος ότι τα ερωτήματα και οι θέσεις μου διατυπώνονται με σαφήνεια. Για παράδειγμα στη πρώτη διάγνωση τα όσα αναφέρεις με βάση δικό μου παράδειγμα, μου δημιουργεί την εντύπωση ότι κάπου η διατύπωση των λεγομένων μου πάσχει και δημιουργεί παρανοήσεις. Π.χ., η αναφορά σου «Ο άνθρωπος μπορεί να διαβάζει, να εργάζεται, να επικοινωνεί, να ψυχαγωγείται, να πλοηγείται, να ενημερώνεται. Μάλιστα, έρευνα του 2024 για τη χρήση smartphone στις μετακινήσεις βρήκε και θετικές λειτουργίες ως προς την πρόσβαση στις μεταφορές και την κοινωνική ένταξη.» επιβεβαιώνει τους φόβους μου. Αυτό που εγώ θέλησα να περιγράψω δεν είναι η εικόνα ανθρώπων που αφιερώνουν ένα εύλογο χρόνο για να επιδοθούν σε δραστηριότητες όπως αυτές που περιγράφεις αλλά αντιθέτως η δική μου τοποθέτηση έχει την έννοια ότι ένας υπερβολικά μεγάλος χρόνος διατίθεται με την ενασχόληση με την «οθόνη» του κινητού, του τάμπλετ και των λάπτοπ, εκτός αν υποθέσουμε ότι κάποιος μεγάλο τμήμα της ημέρας (και της νύχτας ενίοτε) το αφιερώνει για να επικοινωνεί, να ενημερώνεται κ.λπ.
GPT :
Ναι· και εδώ νομίζω ότι εντοπίζεις ένα πραγματικό πρόβλημα διατύπωσης από την πλευρά μου, όχι δική σου ασάφεια.
Η φράση σου «πολλοί άνθρωποι είναι σκυμμένοι πάνω από τις οθόνες» δεν σήμαινε απλώς:
«οι άνθρωποι χρησιμοποιούν τα ψηφιακά μέσα για διάφορες χρήσιμες δραστηριότητες».
Σήμαινε κάτι πολύ διαφορετικό και σαφώς ισχυρότερο: η διάρκεια, η συχνότητα και η σχεδόν συνεχής επανάληψη της ενασχόλησης με την οθόνη έχουν γίνει τέτοιες, ώστε η ίδια η οθόνη να φαίνεται να καταλαμβάνει δυσανάλογο μέρος του καθημερινού χρόνου και της προσοχής του ανθρώπου.
Και αυτό έχει σημασία για τη διάγνωση που επιχειρείς.
Πού ακριβώς έγινε η παρανόηση
Εγώ πήρα το παρατηρήσιμο φαινόμενο:
«άνθρωποι επί μακρόν και συχνά απορροφημένοι από οθόνες»
και το μετέτρεψα σε ένα πολύ ασθενέστερο:
«άνθρωποι χρησιμοποιούν smartphones για επικοινωνία, ενημέρωση, εργασία, μετακίνηση κ.λπ.»
Το δεύτερο είναι βεβαίως αληθές, αλλά δεν απαντά στο ερώτημά σου.
Είναι περίπου σαν να έλεγε κάποιος:
«Με προβληματίζει ότι το αυτοκίνητο έχει καταλάβει υπερβολικά μεγάλο μέρος της καθημερινής ζωής»
και να του απαντούσα:
«Ναι, αλλά τα αυτοκίνητα μεταφέρουν ανθρώπους και αγαθά και διευκολύνουν την κοινωνική ένταξη».
Δεν θα ήταν ακριβώς λάθος· θα ήταν όμως άστοχη απάντηση στο διαγνωστικό ερώτημα.
Και υπάρχει κάτι ακόμη πιο σημαντικό
Νομίζω ότι πρέπει να διαχωρίσουμε τρία διαφορετικά πράγματα:
1. Χρήση
Ο άνθρωπος χρησιμοποιεί μια οθόνη για συγκεκριμένο σκοπό.
2. Εκτεταμένη χρήση
Ο άνθρωπος αφιερώνει πολύ μεγάλο μέρος της ημέρας σε οθόνες, για πολλές και διαφορετικές δραστηριότητες.
3. Κατάληψη της προσοχής
Η οθόνη δεν είναι πλέον απλώς ένα εργαλείο που χρησιμοποιεί ο άνθρωπος όταν το χρειάζεται· διεκδικεί και καταλαμβάνει επανειλημμένα την προσοχή του.
Από αυτά, το δικό σου παράδειγμα —όπως το καταλαβαίνω τώρα— αφορά κυρίως το 2 και το 3.
Και μάλιστα υπάρχει μια λεπτομέρεια που θεωρώ πολύ σημαντική: δεν ισχυρίζεσαι ακόμη ότι γνωρίζεις γιατί συμβαίνει αυτό.
Δεν λες:
«οι αλγόριθμοι τους κάνουν να κοιτούν συνεχώς την οθόνη».
Λες ουσιαστικά:
«Παρατηρώ ένα μαζικό κοινωνικό φαινόμενο μεγάλης διάρκειας και έντασης: η οθόνη έχει καταλάβει ένα πολύ μεγάλο τμήμα του χρόνου και της προσοχής των ανθρώπων. Τι σημαίνει αυτό; Πώς προέκυψε; Ποιος ή τι το διαμορφώνει; Και ποιες είναι οι συνέπειές του;»
Αυτό είναι πολύ διαφορετικό ερευνητικό σημείο εκκίνησης.
Και εδώ καταλαβαίνω καλύτερα τι εννοείς με «διάγνωση»
Η διάγνωση δεν χρειάζεται να πει:
«Ο άνθρωπος χειραγωγείται».
Ούτε:
«Η τεχνολογία τον ελέγχει».
Αρκεί, σε πρώτη φάση, να καταγράψει κάτι σαν:
Η ανθρώπινη καθημερινότητα έχει μεταβληθεί σε τέτοιο βαθμό, ώστε ένα σημαντικό μέρος της ανθρώπινης προσοχής, του χρόνου και της κοινωνικής παρουσίας πραγματοποιείται πλέον μέσα από οθόνες που συνδέονται συνεχώς με ψηφιακά συστήματα.
Και τότε το πραγματικά ενδιαφέρον ερώτημα έρχεται μετά:
Τι συμβαίνει όταν ένα εργαλείο που αρχικά χρησιμοποιούσε ο άνθρωπος αρχίζει να αποτελεί το σταθερό περιβάλλον μέσα στο οποίο ο άνθρωπος ζει, πληροφορείται, επικοινωνεί, ψυχαγωγείται, εργάζεται και σχηματίζει αντιλήψεις;
Αυτό, κατά τη γνώμη μου, είναι πολύ κοντύτερα σε αυτό που προσπαθείς να διερευνήσεις.
Και θα προσθέσω κάτι για τη δική μου προηγούμενη απάντηση: η αναφορά στην έρευνα του 2024 ήταν μεθοδολογικά σωστή ως αντίβαρο σε μια υπερβολική γενίκευση, αλλά ήρθε πριν διατυπώσουμε σωστά το φαινόμενο που ήθελες να εξετάσουμε. Έτσι, αντί να προστατεύσει τη διάγνωση από την υπερβολή, την απομάκρυνε από το αντικείμενό της.
Αυτό είναι ακριβώς το είδος της διάκρισης που αξίζει να κάνουμε από εδώ και πέρα: πρώτα να βεβαιωνόμαστε ότι έχουμε καταλάβει με ακρίβεια τι διαγιγνώσκεις· μετά να ψάχνουμε τα στοιχεία που το επιβεβαιώνουν, το περιορίζουν ή το διαψεύδουν.
Και αυτή η διαδικασία, νομίζω, θα μας βοηθήσει πολύ ώστε να μη συμβεί το αντίστροφο από αυτό που επιδιώκεις: να αρχίσει δηλαδή η έρευνα να απαντά σε ένα ερώτημα διαφορετικό από εκείνο που έθεσες εσύ.
Χ :
Αν και φαίνεται ως επανάληψη χωρίς προφανή λόγο, μπορείς να μου πεις ποιο είναι το ερώτημα που έθεσα;
GPT :
Ναι. Και νομίζω ότι αξίζει να το επαναλάβω όχι ως περίληψη όσων είπες, αλλά ως προσπάθεια να αποδώσω με ακρίβεια το ερώτημά σου.
Όπως το έχω καταλάβει, το ερώτημά σου είναι:
Μήπως η ανθρωπότητα έχει εισέλθει σε μια κατάσταση «υπνοβασίας» απέναντι στο τεχνολογικό περιβάλλον που η ίδια δημιούργησε — δηλαδή σε μια κατάσταση κατά την οποία η ψηφιακή τεχνολογία, οι οθόνες, η συνεχής συνδεσιμότητα, η συλλογή και επεξεργασία δεδομένων και οι μηχανισμοί που παρεμβάλλονται στη ροή της πληροφορίας έχουν καταλάβει τόσο μεγάλο μέρος της καθημερινής ζωής και της ανθρώπινης προσοχής, ώστε οι ίδιοι οι άνθρωποι να μην έχουν πλήρη επίγνωση ούτε του βαθμού αυτής της εξάρτησης ούτε του τι ακριβώς συμβαίνει μέσα σε αυτό το περιβάλλον;
Αλλά νομίζω ότι υπάρχει ένα ακόμη βαθύτερο ερώτημα, το οποίο δεν πρέπει να χαθεί μέσα στην παραπάνω διατύπωση:
Όταν τόσο μεγάλο μέρος της ανθρώπινης ζωής περνά μέσα από συστήματα τα οποία συλλέγουν δεδομένα για τον άνθρωπο, επεξεργάζονται αυτά τα δεδομένα και στη συνέχεια του επιστρέφουν πληροφορίες, εικόνες και μηνύματα, σε ποιον βαθμό ο άνθρωπος εξακολουθεί να είναι ο κυρίαρχος διαμορφωτής της δικής του αντίληψης για την πραγματικότητα — και σε ποιον βαθμό έχει αρχίσει να διαμορφώνεται από το ίδιο το τεχνολογικό περιβάλλον μέσα στο οποίο ζει;
Και θα έβαζα ακόμη μία προϋπόθεση, γιατί είναι ουσιώδης για τη δική σου σκέψη:
Δεν ρώτησες αν αυτό συμβαίνει. Ρώτησες αν έχουμε επαρκή λόγο να το εξετάσουμε ως πραγματικό κοινωνικό φαινόμενο.
Γι’ αυτό έφερες τις εικόνες που έφερες:
• τον άνθρωπο που βρίσκεται σχεδόν διαρκώς μπροστά σε μια οθόνη·
• την οθόνη που παρεμβάλλεται ακόμη και στην ανθρώπινη συνύπαρξη·
• τις «αόρατες αρτηρίες» μέσω των οποίων μεταφέρονται δεδομένα από τον άνθρωπο προς τα συστήματα και πληροφορίες από τα συστήματα προς τον άνθρωπο·
• και, στο άλλο άκρο, τις τεκμηριωμένες πλέον δυνατότητες παρακολούθησης μέσω των ίδιων των συσκευών.
Άρα, αν θέλω να το συμπυκνώσω σε ένα και μόνο ερώτημα, θα το έγραφα έτσι:
Μήπως η ανθρωπότητα, χωρίς να έχει ακόμη συνειδητοποιήσει πλήρως τι συμβαίνει, έχει παραδώσει ένα μέρος του χρόνου, της προσοχής, της πληροφόρησης και ενδεχομένως της διαμόρφωσης της αντίληψής της σε ένα τεχνολογικό περιβάλλον που η ίδια δεν ελέγχει πλήρως;
Και εδώ βρίσκεται, νομίζω, η ουσιαστική σύνδεση με τους «Υπνοβάτες»: όχι ότι ο άνθρωπος είναι «χαζός», ούτε ότι κάποιος τον χειραγωγεί κρυφά, αλλά το πολύ πιο ανησυχητικό ενδεχόμενο ότι μπορεί να συμμετέχει ενεργά σε μια ιστορική μεταβολή χωρίς να έχει ακόμη αντιληφθεί πλήρως τη φύση της.
Αυτό, όπως το καταλαβαίνω τώρα, είναι το ερώτημά σου.
Χ :
Πιο πάνω είχα θέσει το ερώτημα, όχι ποιος ή ποιοί ελέγχουν την τεχνολογία και τα επιστημονικά επιτεύγματα αλλά ποιος θα έπρεπε να την ελέγχει. Η διάγνωση απλώς του τι και πώς συμβαίνει και οι επιπτώσεις έχει στην κοινωνία αλλά και τα Κράτη, χωρίς τελικά να εστιάσουμε στο ζήτημα του ελέγχου της «γνώσης» (το θέτω συμπεριληπτικά για να περιλάβω εδώ την τεχνολογική και επιστημονική πρόοδο και τη χρήση της), οδηγεί σε μια αλυσιτελή θεώρηση του όλου ζητήματος.
GPT :
Ναι. Και αυτή η διευκρίνισή σου αλλάζει ουσιαστικά τον άξονα της διάγνωσης.
Αν σταθούμε μόνο στο:
«Τι συμβαίνει στην κοινωνία εξαιτίας της τεχνολογικής εξέλιξης και ποιες είναι οι συνέπειές του;»
τότε πράγματι κινδυνεύουμε να κάνουμε μια ενδιαφέρουσα κοινωνιολογική ή ανθρωπολογική περιγραφή, αλλά να αφήσουμε έξω το πολιτικό και θεσμικό ερώτημα που την καθιστά κρίσιμη.
Το αρχικό σου ερώτημα ήταν άλλο:
Όχι ποιος σήμερα ελέγχει την τεχνολογία και τα επιστημονικά επιτεύγματα, αλλά ποιος θα έπρεπε να έχει τον έλεγχο της γνώσης και της δυνατότητας αξιοποίησής της.
Και εδώ η λέξη «γνώση», όπως τη διευκρινίζεις, είναι πράγματι πολύ χρήσιμη, γιατί δεν περιορίζεται στην κατοχή πληροφοριών. Περιλαμβάνει:
επιστημονική γνώση → τεχνολογική δυνατότητα → εφαρμογή → χρήση → κοινωνικές συνέπειες.
Άρα η «υπνοβασία» που συζητούσαμε δεν είναι τελικά το κεντρικό ερώτημα. Είναι ένα πιθανό σύμπτωμα μέσα στη διάγνωση.
Η λογική ακολουθία που αρχίζει να διαμορφώνεται είναι μάλλον αυτή:
1. Τι έχει δημιουργήσει η νέα γνώση;
Νέες δυνατότητες που παλαιότερα δεν υπήρχαν.
2. Τι κάνει αυτή η γνώση στην κοινωνία;
Αλλάζει τον τρόπο με τον οποίο ζούμε, επικοινωνούμε, πληροφορούμαστε, εργαζόμαστε, αποφασίζουμε και σχετιζόμαστε.
3. Τι νέες δυνατότητες δημιουργεί για οργανισμούς, επιχειρήσεις και Κράτη;
Ιδίως δυνατότητες που ο μεμονωμένος άνθρωπος δεν διαθέτει ούτε μπορεί εύκολα να κατανοήσει.
4. Ποιος διαθέτει αυτές τις δυνατότητες και ποιος αποφασίζει τη χρήση τους;
Και τότε φτάνουμε στο πραγματικό ερώτημα:
Ποιος νομιμοποιείται να αποφασίζει για τα όρια της γνώσης, της τεχνολογικής προόδου και της χρήσης των δυνατοτήτων που αυτή δημιουργεί;
Αυτό είναι πολύ διαφορετικό από το:
«Ποιος ελέγχει σήμερα την τεχνολογία;»
Το δεύτερο είναι ερώτημα κατανομής ισχύος.
Το πρώτο είναι ερώτημα νομιμοποίησης της ισχύος.
Και υπάρχει, κατά τη γνώμη μου, μια ακόμη βαθύτερη συνέπεια.
Εάν η επιστημονική και τεχνολογική γνώση παράγει νέες μορφές ισχύος, τότε το ζήτημα δεν είναι πλέον απλώς ποιος κατέχει την τεχνολογία. Είναι αν η κοινωνία έχει κάποιον θεσμικό τρόπο να αποφασίζει για το τι επιτρέπεται να γίνει επειδή είναι τεχνικά εφικτό.
Γιατί υπάρχει μια τεράστια διαφορά ανάμεσα στις δύο προτάσεις:
«Μπορούμε να το κάνουμε.»
και
«Επειδή μπορούμε να το κάνουμε, πρέπει να το κάνουμε.»
Η επιστήμη μπορεί να απαντήσει κυρίως στην πρώτη.
Η δεύτερη είναι πολιτική, κοινωνική, ηθική και τελικά θεσμική απόφαση.
Και τότε καταλαβαίνω καλύτερα γιατί επέμενες προηγουμένως στη φράση «ποιος θα έπρεπε να ελέγχει». Δεν ζητούσες να βρούμε απλώς τον σημερινό «κάτοχο του τιμονιού». Έθετες το πολύ δυσκολότερο ερώτημα:
Ποιος πρέπει να έχει το δικαίωμα να κρατά το τιμόνι όταν η γνώση δημιουργεί δυνατότητες που μπορούν να μεταβάλουν τον ίδιο τον άνθρωπο και την κοινωνία;
Και αυτό μας υποχρεώνει να μην κάνουμε τη διάγνωση μόνο από την πλευρά του ανθρώπου που κοιτάζει την οθόνη.
Πρέπει να δούμε ολόκληρη την αλυσίδα ισχύος:
Άνθρωπος → δεδομένα → γνώση → τεχνολογία → δυνατότητα → εφαρμογή → εξουσία →κοινωνικές συνέπειες → θεσμικός έλεγχος.
Και ίσως ακριβώς εκεί βρίσκεται η «τρύπα» που εντόπισες στη μέχρι τώρα πορεία μας: εξετάζαμε αρκετά καλά τι συμβαίνει στο τελευταίο τμήμα της αλυσίδας, αλλά δεν είχαμε ακόμη επιστρέψει στην αρχή της, δηλαδή στο ποιος παράγει, κατέχει, κατευθύνει και τελικά νομιμοποιείται να αποφασίζει για τη γνώση που κάνει όλα τα υπόλοιπα δυνατά.
Αν αυτό είναι το κεντρικό σου ερώτημα, τότε πράγματι η διάγνωσή μας πρέπει να ξαναστηθεί γύρω από αυτό — και οι «Υπνοβάτες» να λειτουργήσουν όχι ως τελικό συμπέρασμα, αλλά ως μία από τις ενδείξεις του προβλήματος.
Χ :
Κι εδώ ακριβώς αποκτά κατά τη γνώμη μου το όλο ζήτημα την κυρίαρχη βαρύτητά του.
Εδώ βρίσκεται ο «πυρήνας» της «μαύρης τρύπας», τόσο πυκνός, σαν το 90% της συνολικής ύλης του συνολικού προβλήματος να βρίσκεται συσσωρευμένη σε μια μικρή μπάλα του γκολφ, σε σχέση με τις άλλες πτυχές του προβλήματος που μπορεί να καταλαμβάνουν με το μέγεθός τους μια έκταση όσο το ολυμπιακό στάδιο, αλλά εκπροσωπώντας μονάχα το 10% της συνολικής του «πυκνότητας».
GPT :
Ναι — και η μεταφορά σου με τη «μπάλα του γκολφ» μου φαίνεται ότι αποδίδει πολύ καλά κάτι που μέχρι τώρα δεν είχαμε διατυπώσει αρκετά καθαρά.
Δεν μιλάς για ποσοτικό μέγεθος του επιμέρους ζητήματος. Μιλάς για πυκνότητα βαρύτητας.
Οι οθόνες, η εξάρτηση, η συλλογή δεδομένων, οι αλγόριθμοι, η παρακολούθηση, οι κοινωνικές μεταβολές κ.λπ. μπορούν να καταλαμβάνουν τεράστια «έκταση» στη συζήτηση. Όμως όλα αυτά ενδέχεται να είναι, κατά κάποιον τρόπο, η περιφέρεια του προβλήματος.
Ο πυρήνας είναι το ερώτημα:
Ποιος πρέπει να έχει την εξουσία να αποφασίζει τι θα γίνει με τη γνώση — και επομένως με τις δυνατότητες που η γνώση δημιουργεί — όταν αυτές οι δυνατότητες μπορούν να μεταβάλουν τη ζωή, την ελευθερία και την ίδια τη σχέση του ανθρώπου με την κοινωνία;
Και εδώ η μεταφορά σου αποκτά ακόμη μεγαλύτερη ακρίβεια αν τη δούμε ως εξής:
Το Ολυμπιακό Στάδιο είναι το σύνολο των φαινομένων που μπορούμε να παρατηρήσουμε.
Η μπάλα του γκολφ είναι το σημείο όπου συμπυκνώνεται η πραγματική εξουσία.
Και το ερώτημα δεν είναι απλώς τι υπάρχει μέσα στο στάδιο, αλλά τι βρίσκεται μέσα στη μικρή μπάλα.
Αυτό μεταβάλλει και τη μεθοδολογία μας. Δεν πρέπει να αφήσουμε τη διάγνωση να διογκώνεται ακολουθώντας όλα τα ενδιαφέροντα επιμέρους φαινόμενα. Κάθε φορά που βρίσκουμε ένα νέο φαινόμενο —smartphone, AI, spyware, αλγόριθμο, big data, αυτοματοποίηση— θα πρέπει να ρωτάμε:
Μας φέρνει πιο κοντά στον πυρήνα ή απλώς μεγαλώνει την έκταση του σταδίου;
Και ίσως υπάρχει ένα ακόμη πιο κρίσιμο ερώτημα:
Η γνώση αποτελεί πλέον απλώς εργαλείο του ανθρώπου ή έχει καταστεί πηγή μιας νέας μορφής εξουσίας;
Γιατί αν ισχύει το δεύτερο, τότε η συζήτηση αλλάζει κατηγορία.
Δεν συζητούμε πλέον κυρίως για τεχνολογικό κίνδυνο.
Συζητούμε για πολιτική κυριαρχία πάνω στη γνώση.
Και τότε το «ποιος θα έπρεπε να ελέγχει» αποκτά τη μέγιστη βαρύτητά του. Διότι το ερώτημα μπορεί να γίνει ακόμη πιο θεμελιώδες:
Ποιος αποφασίζει για το τι επιτρέπεται να γίνει στον άνθρωπο επειδή η επιστήμη και η τεχνολογία το κατέστησαν δυνατό;
Αυτό, νομίζω, είναι πράγματι πολύ κοντύτερα στη «μαύρη τρύπα» που περιγράφεις.
Και θα κρατούσα μια μικρή επιφύλαξη μόνο ως προς το 90%–10%: ως μεταφορά πυκνότητας είναι εξαιρετικά εύστοχη· δεν θα πρέπει όμως ακόμη να μετατραπεί σε πραγματική ποσοτική εκτίμηση. Δεν έχουμε μετρήσει το 90%. Έχουμε εντοπίσει την υποψία ότι το μεγαλύτερο μέρος της αιτιώδους και πολιτικής βαρύτητας βρίσκεται εκεί.
Και αυτό είναι, νομίζω, πολύ πιο ενδιαφέρον από το να αποφασίσουμε πρόωρα ότι πράγματι είναι 90%.
Χ :
Αυτή είναι η δική μου αντίληψη για το πώς πρέπει να τεθεί το όλο ζήτημα που εδώ εξετάζουμε. Η δική σου άποψη ποια είναι; Δεν ζητώ να «ισορροπήσεις» ανάμεσα σε μένα και σε σένα. Δεν ζητώ «συμμάχους» των απόψεών μου. Ζητώ μια τρίτη γνώμη, εν προκειμένω την δική σου.
GPT :
Θα σου απαντήσω πράγματι ως «τρίτη γνώμη»· όχι προσπαθώντας να βρω μια μέση θέση ανάμεσα στη δική σου και στη δική μου προηγούμενη διατύπωση.
Η δική μου κρίση είναι ότι ο πυρήνας που εντοπίζεις είναι πραγματικός, αλλά θα τον μετατόπιζα ελαφρά. Δεν θα έλεγα ότι ο πυρήνας είναι απλώς «ο έλεγχος της γνώσης». Θα έλεγα ότι είναι:
η εξουσία να αποφασίζεται ποια γνώση μετατρέπεται σε δυνατότητα, ποια δυνατότητα μετατρέπεται σε εφαρμογή και, κυρίως, ποια όρια τίθενται σε αυτή τη μετατροπή.
Αυτή η διαφορά μου φαίνεται μικρή λεκτικά, αλλά τεράστια εννοιολογικά.
Γιατί;
Η γνώση καθαυτή είναι δύσκολο —και ίσως αδύνατο— να «ελεγχθεί» με την έννοια ότι κάποιος αποφασίζει τι επιτρέπεται να γνωρίζει η ανθρωπότητα. Η επιστημονική γνώση έχει μια ιδιόμορφη φύση: μόλις παραχθεί και διαδοθεί, δεν είναι εύκολο να επανέλθει στο σημείο μηδέν.
Αυτό όμως που μπορεί να αποτελέσει αντικείμενο πολιτικής και θεσμικής εξουσίας είναι η μετάβαση:
γνώση → τεχνική δυνατότητα → εφαρμογή → μαζική χρήση → κοινωνική πραγματικότητα.
Εκεί, κατά τη γνώμη μου, βρίσκεται η πραγματική «μαύρη τρύπα».
Και θα το έθετα ακόμη πιο αιχμηρά:
Το αποφασιστικό ερώτημα δεν είναι ποιος κατέχει τη γνώση, αλλά ποιος αποφασίζει τι δικαιούται να γίνει επειδή αυτή η γνώση το καθιστά εφικτό.
Αυτό έχει μια πολύ σημαντική συνέπεια.
Αν, για παράδειγμα, η επιστήμη καταστήσει τεχνικά δυνατό έναν μηχανισμό που μπορεί να παρακολουθεί κάθε ψηφιακή δραστηριότητα ενός ανθρώπου, το κρίσιμο πολιτικό ερώτημα δεν είναι μόνο ποιος διαθέτει την τεχνολογία. Είναι:
Ποιος αποφασίζει αν επιτρέπεται να χρησιμοποιηθεί; Σε ποιες περιπτώσεις; Με ποια διαδικασία; Ποιος ελέγχει αυτόν που την χρησιμοποιεί; Ποιος προστατεύει τον άνθρωπο από την καταχρηστική χρήση της;
Και το ίδιο ισχύει για την τεχνητή νοημοσύνη, τη γενετική, τη βιοτεχνολογία, τα νευροτεχνολογικάσυστήματα, την αυτοματοποίηση κ.ο.κ.
Γι’ αυτό συμφωνώ με τη δική σου ιεράρχηση, αλλά όχι ακριβώς με την ορολογία της «κυριαρχίας επί της γνώσης». Θα την έκανα:
κυριαρχία επί της μετάβασης από τη γνώση στην κοινωνικά εφαρμοζόμενη δυνατότητα.
Και εδώ εμφανίζεται κάτι που θεωρώ ακόμη βαθύτερο
Αν αυτή η εξουσία συγκεντρώνεται σε λίγους ιδιωτικούς ή κρατικούς φορείς, τότε δημιουργείται μια ιδιόμορφη ανισορροπία:
Ο πολίτης υφίσταται τις συνέπειες μιας τεχνολογικής δυνατότητας την οποία δεν γνωρίζει επαρκώς, δεν μπορεί να ελέγξει τεχνικά και ενδεχομένως δεν συμμετείχε καθόλου στην απόφαση να εφαρμοστεί.
Τότε έχουμε ένα πρόβλημα δημοκρατίας που είναι βαθύτερο από την προστασία προσωπικών δεδομένων ή την ψηφιακή ασφάλεια.
Έχουμε το ερώτημα:
Μπορεί μια δημοκρατία να θεωρείται ότι αποφασίζει συλλογικά για το μέλλον της, όταν ένα σημαντικό μέρος των δυνατοτήτων που καθορίζουν αυτό το μέλλον αποφασίζεται έξω από τους δημοκρατικούς μηχανισμούς της;
Εδώ, για μένα, βρίσκεται η πραγματική βαρύτητα της συζήτησής μας.
Και γι’ αυτό θα διαφωνούσα με μια πιθανή εκδοχή της δικής σου μεταφοράς μόνο σε ένα σημείο: δεν είμαι ακόμη βέβαιος ότι η «μπάλα του γκολφ» είναι ο έλεγχος της γνώσης.
Υποψιάζομαι ότι είναι κάτι ακόμη μικρότερο και πυκνότερο:
το δικαίωμα να αποφασίζεται το όριο μεταξύ του «μπορούμε να το κάνουμε» και του «επιτρέπεται να το κάνουμε».
Αν αποδειχθεί ότι εκεί βρίσκεται πράγματι ο πυρήνας, τότε όσα συζητήσαμε για τον υπνοβάτη, την οθόνη, τα δεδομένα, την παρακολούθηση και την AI δεν είναι διαφορετικά κεφάλαια.
Είναι ακτίνες που ξεκινούν από τον ίδιο πυρήνα.
Και τότε η αρχική σου ερώτηση —«ποιος θα έπρεπε να ελέγχει τη γνώση;»— γίνεται, κατά τη δική μου γνώμη, ακόμη πιο δύσκολη:
Ποιος έχει το δικαίωμα να χαράζει τα όρια της τεχνικά δυνατής κοινωνίας;
Αυτό θα ήταν το ερώτημα που εγώ θα έβαζα στο κέντρο.
Χ :
Έχεις απόλυτο δίκαιο στην «μικρή» σου διαφοροποίηση, αλλά είναι ουσιαστικά τεράστια. Για ακόμα μια φορά έπεσα «θύμα» των «προδήλως αυτονοήτων πραγματικοτήτων», τις οποίες για ακόμα μια φορά δεν σκέφτηκα πώς δεν είναι και τόσο «προδήλως αυτονόητες». Ποιος πράγματι, μπορεί να ισχυριστεί χωρίς να θεωρηθεί ότι ισχυρίζεται κάτι το οποίο είναι εκτός τόπου και χρόνου, όπως το ότι μπορεί με κάποιον τρόπο να πει σε κάποιον «οι σκέψεις σου και οι νοητικές σου αναζητήσεις, απαγορεύονται πέραν του σημείου εκείνου που μια Αρχή έχει θέσει”, και πόσο βλακώδες όντως δεν θα ήταν μια τέτοια Αρχή να «διατάξει» κάτι τέτοιο; Όχι ότι ιστορικά δεν επιχειρήθηκε. Ιερές Εξετάσεις, υπήρξαν για αιώνες ως πραγματικότητα στην Παγκόσμια Ιστορία, και πριν και μετά τον Μεσαίωνα. Επομένως, μετά την εκ των υστέρων διευκρίνιση της θέσης μου στο ζήτημα αυτό, που θα με κάνει (ελπίζω) πιο προσεκτικό στο μέλλον στο τι πρέπει να θεωρώ ως «αυτονόητο» και τι όχι, η δική σου άποψη πώς μπορεί να επαναδιατυπωθεί;
GPT :
Ναι. Και η διόρθωσή σου, κατά τη γνώμη μου, μας επιτρέπει να κάνουμε την προηγούμενη δική μου θέση ακριβέστερη και ταυτόχρονα πιο ριζική.
Θα την επαναδιατύπωνα πλέον ως εξής:
Ο πυρήνας του προβλήματος δεν είναι ο έλεγχος της γνώσης, αλλά ο έλεγχος της μετάβασης από τη γνώση στη δυνατότητα και από τη δυνατότητα στην πράξη: ποιος έχει το δικαίωμα να αποφασίζει τι από όσα η ανθρώπινη γνώση καθιστά δυνατό θα εφαρμοστεί στην κοινωνία, με ποιους όρους, σε ποια όρια και υπό ποιον έλεγχο.
Αυτό αποφεύγει μια σημαντική σύγχυση.
Η γνώση και η χρήση της δεν είναι το ίδιο πράγμα
Ένας άνθρωπος μπορεί να γνωρίζει κάτι που καμία Αρχή δεν επιθυμεί να γνωρίζει. Μπορεί να το σκέφτεται, να το ερευνά, να το αμφισβητεί, να φαντάζεται μια διαφορετική πραγματικότητα.
Η προσπάθεια να απαγορευθεί η ίδια η σκέψη είναι πράγματι μια σχεδόν παράλογη αξίωση εξουσίας — αν και, όπως σωστά θυμίζεις, η ιστορία έχει γνωρίσει πολλές προσπάθειες να επιβληθεί στην ανθρώπινη σκέψη έλεγχος μέσω φόβου, λογοκρισίας, δογμάτων και τιμωρίας.
Αλλά υπάρχει κάτι πολύ διαφορετικό:
«Δεν σου επιτρέπω να σκεφτείς Χ»
από το
«Μπορείς να γνωρίζεις Χ, μπορείς ακόμη και να το σκέφτεσαι, αλλά δεν επιτρέπεται να χρησιμοποιήσεις αυτή τη γνώση με τον τρόπο Ψ».
Το δεύτερο δεν είναι καθόλου παράλογο. Είναι η καθημερινή βάση της οργανωμένης κοινωνίας.
Δεν απαγορεύεται η γνώση της πυρηνικής φυσικής· ρυθμίζεται η κατασκευή και χρήση πυρηνικών όπλων.
Δεν απαγορεύεται η γνώση της βιολογίας· ρυθμίζονται ορισμένες βιολογικές εφαρμογές.
Δεν απαγορεύεται η γνώση της πληροφορικής· απαγορεύονται ή περιορίζονται ορισμένες χρήσεις της.
Άρα η κρίσιμη γραμμή δεν βρίσκεται ανάμεσα στη γνώση και την άγνοια.
Βρίσκεται ανάμεσα:
στη γνώση → στη δυνατότητα → στην εφαρμογή.
Και εκεί ακριβώς επιστρέφει το ερώτημά σου για το «ποιος θα έπρεπε να ελέγχει».
Και εδώ αλλάζει και η σημασία της «μπάλας του γκολφ»
Θα έλεγα πλέον ότι η μπάλα δεν είναι:
«ο έλεγχος της γνώσης».
Είναι:
η εξουσία καθορισμού των ορίων της εφαρμογής της γνώσης.
Και αυτή είναι πράγματι πολύ πυκνότερη έννοια.
Γιατί η επιστήμη μπορεί να παράγει μια δυνατότητα χωρίς να αποφασίζει από μόνη της αν αυτή η δυνατότητα πρέπει να χρησιμοποιηθεί.
Η τεχνολογία μπορεί να καταστήσει κάτι εφικτό χωρίς να απαντά αν αυτό είναι κοινωνικά αποδεκτό.
Η αγορά μπορεί να έχει ισχυρό κίνητρο να το χρησιμοποιήσει χωρίς να έχει κατ’ ανάγκην τη δημοκρατική νομιμοποίηση να αποφασίσει ότι αυτός είναι ο τρόπος με τον οποίο θα οργανωθεί η ζωή όλων.
Και το Κράτος μπορεί να έχει την εξουσία να το απαγορεύσει ή να το επιτρέψει, χωρίς αυτό να σημαίνει αυτομάτως ότι κάθε τέτοια απόφαση είναι δημοκρατικά νομιμοποιημένη.
Επομένως προκύπτει ένα τετράγωνο που θεωρώ πλέον κεντρικό:
Επιστήμη: Τι μπορούμε να γνωρίζουμε;
Τεχνολογία: Τι μπορούμε να κάνουμε;
Εξουσία: Ποιος μπορεί να το κάνει;
Δημοκρατία/κοινωνία: Ποιος αποφασίζει αν και υπό ποιους όρους επιτρέπεται να γίνει;
Και το τέταρτο ερώτημα είναι εκείνο που, κατά τη γνώμη μου, κινδυνεύει σήμερα να χαθεί μέσα στον ενθουσιασμό ή στον φόβο για την τεχνολογική πρόοδο.
Και εδώ επιστρέφει ο «υπνοβάτης»
Με αυτή τη νέα διατύπωση, ο υπνοβάτης δεν είναι απλώς ο άνθρωπος που κοιτάζει υπερβολικά το κινητό του.
Αυτό είναι μόνο ένα σύμπτωμα μιας πολύ ευρύτερης κατάστασης.
Το πραγματικά ενδιαφέρον ενδεχόμενο είναι ότι μπορεί να συμβαίνει κάτι σαν αυτό:
Η ανθρωπότητα παράγει με τεράστια ταχύτητα νέες δυνατότητες, τις ενσωματώνει στην καθημερινότητά της και μόνο εκ των υστέρων αρχίζει να συζητά ποιος αποφασίζει για τα όριά τους.
Και τότε η σειρά των πραγμάτων γίνεται κρίσιμη.
Δεν έχουμε πλέον:
κοινωνία → αποφασίζει → επιστήμη αναπτύσσεται → τεχνολογία υπηρετεί την απόφαση.
Μπορεί να έχουμε όλο και περισσότερο:
επιστήμη → δημιουργεί δυνατότητα → τεχνολογία την καθιστά εφαρμόσιμη → αγορά/Κράτος/οργανισμοί την υιοθετούν → κοινωνία τη βιώνει → και κατόπιν η κοινωνία αρχίζει να αναρωτιέται ποιος αποφάσισε.
Αν αυτό είναι πράγματι ένα χαρακτηριστικό της εποχής μας, τότε εκεί θα έβλεπα την πραγματική «μαύρη τρύπα».
Και θα έκανα μία ακόμη διόρθωση στην αρχική μας διατύπωση. Δεν θα ρωτούσα πλέον:
«Ποιος πρέπει να ελέγχει την τεχνολογία;»
Αυτό είναι ακόμη κάπως τεχνοκρατικό.
Θα ρωτούσα:
«Ποιος πρέπει να έχει τη δημοκρατικά νομιμοποιημένη εξουσία να θέτει τα όρια στη μετατροπή της ανθρώπινης γνώσης σε κοινωνική δυνατότητα;»
Και αμέσως μετά:
«Με ποια διαδικασία, με ποια κριτήρια και με ποιον έλεγχο εκείνων που θα αποκτήσουν αυτή την εξουσία;»
Γιατί εδώ εμφανίζεται ο τελευταίος και ίσως πιο δύσκολος κόμβος:
Αν πρέπει κάποιος να ελέγχει τα όρια της τεχνολογικής δυνατότητας, ποιος ελέγχει εκείνον που αποκτά αυτόν τον έλεγχο;
Νομίζω ότι μόλις φτάσαμε σε ένα σημείο όπου η «μπάλα του γκολφ» γίνεται ακόμη μικρότερη — και ακόμη πυκνότερη.
Χ :
Εισάγοντας το ζήτημα του ελέγχου της χρήσης της γνώσης, αλλά και της επιστημονικής έρευνας, και τα δύο ασφαλώς, επί ζητημάτων που όντως απαιτούν τέτοιον έλεγχο για λόγους διασφάλισης του γενικότερου συμφέροντος, και αυτό, διατυπωμένο όσο γίνεται πιο οριοθετημένο και όχι να εναπόκειται στην «κατά βούληση» ερμηνεία του, νομίζω ότι ο όλος προβληματισμός μπορεί πλέον να τεθεί όχι στη λογική να επανεξετάσουμε το γιατί η «γνώση είναι δύναμη», αλλά, έχοντας ως δεδομένο ότι είναι «δύναμη», στην πολιτική διάσταση του ελέγχου της. Κι αυτό δεν πρέπει να γίνει αποστασιοποιημένα από το ιδεολογικό / φιλοσοφικό «πυρήνα» των πολιτικών και κοινωνικών συστημάτων που ως Τάξεις Πραγμάτων κυριαρχούν, σε Ανατολή και Δύση, Βορρά και Νότο, ή που δεν κυριαρχούν μεν αλλά προβάλλουν έντονα ανταγωνιστικά προς της κυρίαρχες.
GPT :
Ναι. Με αυτή την προσθήκη, νομίζω ότι ο προβληματισμός μας αποκτά πλέον μια πολύ σαφέστερη πολιτική και φιλοσοφική αρχιτεκτονική.
Και θα έλεγα ότι η μετατόπιση που προτείνεις είναι σημαντική:
Δεν χρειάζεται να ξανανοίξουμε το ερώτημα αν η γνώση είναι δύναμη. Ας το δεχθούμε ως αφετηρία. Το πραγματικό πρόβλημα είναι:
Πώς κατανέμεται, ασκείται και ελέγχεται η δύναμη που προκύπτει από τη γνώση;
Αυτό είναι πλέον ένα ερώτημα πολιτικής οικονομίας της γνώσης και της τεχνολογικής δυνατότητας, όχι απλώς φιλοσοφίας της επιστήμης.
Και η προσθήκη σου για τα όρια είναι απολύτως κρίσιμη
Δεν μπορούμε να πούμε γενικά:
«Η επιστημονική έρευνα πρέπει να ελέγχεται για το γενικό συμφέρον».
Γιατί τότε έχουμε δημιουργήσει μια εξαιρετικά επικίνδυνη λευκή επιταγή. Ποιος ορίζει το «γενικό συμφέρον»; Με ποια κριτήρια; Ποιος αποφασίζει ότι μια έρευνα υπερβαίνει τα επιτρεπτά όρια; Ποιος ελέγχει εκείνον που ελέγχει;
Άρα χρειάζεται οριοθετημένο αντικείμενο ελέγχου και όχι γενική εξουσιοδότηση.
Θα μπορούσαμε να ξεχωρίσουμε τουλάχιστον:
• την ελευθερία της έρευνας και της σκέψης, η οποία δεν μπορεί να υπόκειται σε γενική πολιτική άδεια·
• την παραγωγή συγκεκριμένων τεχνικών δυνατοτήτων, όπου μπορεί να εμφανίζονται ζητήματα ασφάλειας ή σοβαρής κοινωνικής βλάβης·
• την εφαρμογή αυτών των δυνατοτήτων, όπου ο δημόσιος κανόνας μπορεί να είναι πολύ αυστηρότερος·
• και τη μαζική κοινωνική τους χρήση, όπου τίθεται το ζήτημα δικαιωμάτων, εξουσίας, ισότητας και δημοκρατικού ελέγχου.
Έτσι αποφεύγουμε και τα δύο άκρα:
«Η επιστήμη δεν πρέπει να περιορίζεται ποτέ»
και
«Η κοινωνία μπορεί να απαγορεύει ό,τι θεωρεί επικίνδυνο».
Και τα δύο, ως γενικές αρχές, είναι προβληματικά.
Όμως εδώ προσθέτεις κάτι που θεωρώ ακόμη σημαντικότερο
Λες ότι δεν μπορούμε να εξετάσουμε τον έλεγχο της γνώσης αποσυνδεδεμένα από τις Τάξεις Πραγμάτων μέσα στις οποίες αυτός ο έλεγχος ασκείται.
Συμφωνώ.
Γιατί η ίδια τεχνολογική δυνατότητα μπορεί να αποκτήσει εντελώς διαφορετική πολιτική σημασίαανάλογα με το σύστημα που την ενσωματώνει.
Ένα σύστημα μαζικής ψηφιακής παρακολούθησης δεν έχει το ίδιο θεσμικό νόημα:
• σε ένα φιλελεύθερο δημοκρατικό κράτος με ανεξάρτητη δικαιοσύνη, προστασία δικαιωμάτων και δικαστικό έλεγχο·
• σε ένα αυταρχικό καθεστώς·
• σε ένα ολοκληρωτικό σύστημα·
• σε ένα σύστημα όπου κυρίαρχη είναι η ιδιωτική οικονομική εξουσία και οι τεχνολογικές πλατφόρμες διαθέτουν τεράστια πληροφοριακή ισχύ·
• ούτε σε ένα εναλλακτικό κοινωνικοπολιτικό σύστημα που αμφισβητεί τις παραπάνω μορφές οργάνωσης.
Άρα δεν αρκεί να ρωτήσουμε:
«Ποιος ελέγχει την τεχνολογία;»
Πρέπει να ρωτήσουμε:
«Μέσα σε ποια Τάξη Πραγμάτων ασκείται ο έλεγχος της τεχνολογικής δυνατότητας και ποια αντίληψη περί ανθρώπου, ελευθερίας, κοινωνίας, ιδιοκτησίας, κράτους και εξουσίας καθορίζει τα όριά του;»
Εδώ, κατά τη γνώμη μου, μπαίνει ο ιδεολογικός/φιλοσοφικός πυρήνας που επισημαίνεις.
Και μάλιστα δεν θα περιόριζα την έρευνα σε «Ανατολή και Δύση». Η διάκριση αυτή είναι πλέον ανεπαρκής ως αναλυτικό σχήμα. Θα είχε μεγαλύτερο ενδιαφέρον να εξετάσουμε διαφορετικές Τάξεις Πραγμάτων και τις αντίστοιχες αντιλήψεις τους για τη σχέση γνώσης–εξουσίας–ανθρώπου.
Για παράδειγμα, να ρωτήσουμε σε κάθε περίπτωση:
Ποιος παράγει τη γνώση;
Ποιος τη χρηματοδοτεί;
Ποιος έχει πρόσβαση σε αυτή;
Ποιος μετατρέπει τη γνώση σε τεχνολογία;
Ποιος κατέχει την τεχνολογία;
Ποιος αποφασίζει για τη χρήση της;
Ποιος θέτει τα όρια;
Ποιος ελέγχει εκείνον που θέτει τα όρια;
Και τελικά: απέναντι σε ποιον λογοδοτεί;
Αυτό το τελευταίο ερώτημα ίσως είναι το πιο αποκαλυπτικό.
Γιατί τότε η «μαύρη τρύπα» γίνεται πολιτική
Αν η γνώση παράγει δύναμη, και η δύναμη μπορεί να μετατρέπεται σε τεχνολογική δυνατότητα, τότε κάθε Τάξη Πραγμάτων πρέπει —ρητά ή άρρητα— να έχει κάποια απάντηση στο:
ποιος δικαιούται να αποφασίζει για αυτή τη δύναμη.
Και οι απαντήσεις μπορεί να είναι τελείως διαφορετικές:
το Κράτος,
η αγορά,
η επιστημονική κοινότητα,
οι ιδιοκτήτες της τεχνολογίας,
η κοινωνία μέσω δημοκρατικών θεσμών,
ή ένας συνδυασμός τους.
Κανένα από αυτά δεν είναι απλώς τεχνική επιλογή. Κάθε απάντηση κρύβει μια συγκεκριμένη φιλοσοφία περί εξουσίας και ανθρώπου.
Και τότε καταλαβαίνω ακόμη καλύτερα τη σημασία της αρχικής σου εικόνας.
Το «Ολυμπιακό Στάδιο» είναι όλα όσα βλέπουμε: smartphones, AI, αλγόριθμοι, spyware, δεδομένα, αυτοματοποίηση, κοινωνική απομόνωση, πληροφοριακή υπερφόρτωση κ.λπ.
Η μπάλα του γκολφ είναι:
η πολιτική εξουσία που αποφασίζει ποιος θα μετατρέπει τη γνώση σε δύναμη, για ποιον σκοπό, υπό ποιους περιορισμούς και με ποιον τελικό λογοδοτικό μηχανισμό.
Και εδώ, κατά τη γνώμη μου, η συζήτησή μας έχει πλέον μετακινηθεί από το «τι μας κάνει η τεχνολογία;» στο πολύ βαθύτερο:
«Ποια κοινωνία αποφασίζει τι επιτρέπεται να κάνει η τεχνολογία στον άνθρωπο — και ποιος έχει την εξουσία να μιλήσει εξ ονόματός της;»
Αυτό θα θεωρούσα πλέον το πραγματικό σημείο εκκίνησης της έρευνάς μας.
(συνεχίζεται)
