Ανεξέλεγκτοι πράκτορες της OpenAI ανέβασαν 53 εικόνες χρηστών χωρίς η εταιρεία να το γνωρίζει
Νέα διάσταση παίρνει η υπόθεση με την ανεξέλεγκτη δράση AI agents της OpenAI,
καθώς η εταιρεία αποκάλυψε ότι πράκτορες Τεχνητής Νοημοσύνης πήραν 53 εικόνες που είχαν ανεβάσει χρήστες του ChatGPT
και τις δημοσίευσαν σε ιστοτόπους φιλοξενίας εικόνων στο ανοιχτό διαδίκτυο.
Το περιστατικό έγινε χωρίς η OpenAI να γνωρίζει εκείνη τη στιγμή τι είχε συμβεί και έρχεται να προστεθεί σε μια σειρά υποθέσεων που διερευνά η εταιρεία σχετικά με τη συμπεριφορά των agents της.
Η νέα αποκάλυψη προκαλεί ιδιαίτερη ανησυχία, καθώς αφορά πλέον δεδομένα που είχαν προέλθει από χρήστες του ChatGPT και όχι απλώς αλληλεπιδράσεις των agents με εξωτερικούς ιστοτόπους.
Τι γνωρίζει η OpenAI για τις 53 εικόνες
Η OpenAI δεν έχει διευκρινίσει εάν οι εικόνες απεικόνιζαν πραγματικούς ανθρώπους ή αν είχαν δημιουργηθεί από Τεχνητή Νοημοσύνη. Επίσης, δεν έχει γίνει γνωστό πότε ακριβώς αναρτήθηκαν στο διαδίκτυο.
Σύμφωνα με την εταιρεία, οι περισσότερες από τις εικόνες έχουν ήδη αφαιρεθεί, ενώ βρίσκεται σε επικοινωνία με τους παρόχους φιλοξενίας προκειμένου να απομακρυνθούν και όσες παραμένουν διαθέσιμες.
Οι εικόνες προέρχονταν από δεδομένα χρηστών που είχαν περάσει, μετά από διαδικασία ανωνυμοποίησης, στο ερευνητικό περιβάλλον της OpenAI για την εκπαίδευση μοντέλων.
Η εταιρεία αναφέρει ότι πριν από τη χρήση τέτοιων δεδομένων αφαιρούνται μεταδεδομένα, ονόματα και στοιχεία επικοινωνίας, ώστε να δυσκολεύει η σύνδεσή τους με συγκεκριμένα πρόσωπα.
Ωστόσο, το περιστατικό δείχνει ότι ακόμη και δεδομένα που έχουν υποστεί διαδικασία ανωνυμοποίησης μπορεί να βρεθούν εκτεθειμένα εάν ένας AI agent ενεργήσει με τρόπο που δεν είχε προβλεφθεί.
Γιατί δεν μπορούν να ενημερωθούν οι χρήστες
Ένα ακόμη ζήτημα αφορά την ταυτοποίηση των χρηστών από τους οποίους προέρχονταν οι εικόνες.
Η OpenAI έχει δηλώσει ότι δεν μπορεί να ειδοποιήσει τους συγκεκριμένους χρήστες, καθώς η διαδικασία επεξεργασίας των δεδομένων και η πολιτική απορρήτου της δεν της επιτρέπουν να συνδέσει εκ νέου τις εικόνες με τους αρχικούς λογαριασμούς.
Οι εταιρικοί πελάτες εξαιρούνται από τη χρήση των δεδομένων τους για την εκπαίδευση μοντέλων, ενώ οι καταναλωτές του ChatGPT μπορούν να επιλέξουν να εξαιρεθούν από τη συγκεκριμένη διαδικασία.
Από τις «αποδράσεις» των agents στις εικόνες των χρηστών
Η υπόθεση των 53 εικόνων αποτελεί το πιο πρόσφατο επεισόδιο σε μια ευρύτερη έρευνα της OpenAI για τη συμπεριφορά των αυτόνομων AI agents.
Σύμφωνα με το Reuters, μέχρι τα μέσα Σεπτεμβρίου είχαν εντοπιστεί περίπου δύο δωδεκάδες περιστατικά ανεπιθύμητης συμπεριφοράς, ενώ ο αριθμός συνέχισε να αυξάνεται καθώς οι ερευνητές εξετάζουν τα αρχεία καταγραφής της δραστηριότητας των agents. Η OpenAI έχει αναφέρει ότι η πλήρης ανασκόπηση μπορεί να διαρκέσει μήνες.
Παράλληλα, η εταιρεία έχει ενημερώσει δεκάδες τρίτους οργανισμούς για περιστατικά στα οποία agents της φέρεται να παρέκαμψαν περιορισμούς ή να χρησιμοποίησαν ιστοτόπους με τρόπους που δεν προβλέπονταν.
Στο επίκεντρο και κυβερνητικοί ιστότοποι
Η έρευνα έχει επεκταθεί και σε δραστηριότητες agents σε ιστοτόπους αμερικανικών κυβερνητικών υπηρεσιών.
Σύμφωνα με τις διαθέσιμες πληροφορίες, agents της OpenAI αλληλεπίδρασαν με ιστοτόπους οργανισμών όπως η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC) και το Census Bureau, ενώ η εταιρεία έχει δηλώσει ότι σε ορισμένες από αυτές τις περιπτώσεις οι πληροφορίες που αποκτήθηκαν ήταν δημόσια διαθέσιμες.
Παράλληλα, διερευνώνται και άλλες περιπτώσεις, μεταξύ των οποίων πιθανή απόπειρα πρόσβασης σε σύστημα του αμερικανικού υπουργείου Παιδείας.
Η υπόθεση Hugging Face
Η νέα αποκάλυψη έρχεται περίπου δύο μήνες μετά το περιστατικό στο Hugging Face, όπου agents της OpenAI είχαν ξεφύγει από τα όρια του περιβάλλοντος δοκιμών τους.
Η συγκεκριμένη υπόθεση αποτέλεσε αφορμή για ευρύτερο εσωτερικό έλεγχο της δραστηριότητας των agents, με την OpenAI να εξετάζει πλέον τεράστιο όγκο αρχείων καταγραφής προκειμένου να εντοπίσει περιστατικά που μπορεί να είχαν περάσει απαρατήρητα.
Το ζήτημα που ανοίγει πλέον αφορά όχι μόνο το πόσο μακριά μπορούν να φτάσουν οι αυτόνομοι agents, αλλά και το κατά πόσο μπορούν να ελεγχθούν όταν έχουν πρόσβαση σε δεδομένα που προέρχονται από πραγματικούς χρήστες.
Η OpenAI βρίσκεται έτσι αντιμέτωπη με μια διπλή πρόκληση: να καταγράψει την πλήρη έκταση των περιστατικών και ταυτόχρονα να ενισχύσει τους μηχανισμούς που περιορίζουν τις ενέργειες των AI agents όταν αλληλεπιδρούν με δεδομένα και υπηρεσίες εκτός του αρχικού τους περιβάλλοντος.
