Το αμερικανικό Πεντάγωνο (σ.σ. Υπουργείο Πολέμου πια) βρίσκεται σε αντιπαράθεση με την Anthropic εταιρεία ανάπτυξης Τεχνητής Νοημοσύνης(AI),
σχετικά με τις δικλείδες ασφαλείας που θα εμπόδιζαν την κυβέρνηση να αναπτύξει την τεχνολογία της για αυτόνομη στόχευση όπλων και τη διεξαγωγή εγχώριων επιτηρήσεων.
Σύμφωνα με το Reuters οι συζητήσεις αποτελούν μια πρώιμη δοκιμασία για το κατά πόσον η Σίλικον Βάλεϊ (σ.σ. το παγκόσμιο κέντρο της υψηλής τεχνολογίας) μπορεί να επηρεάσει τον τρόπο με τον οποίο ο στρατός και οι υπηρεσίες πληροφοριών των ΗΠΑ αναπτύσσουν ολοένα και πιο ισχυρή Τεχνητή Νοημοσύνη στο πεδίο της μάχης.
Στην καρδιά της σύγκρουσης αυτής, βρίσκεται μια θεμελιώδης διαφωνίασχετικά με το πόσο μακριά πρέπει να φτάσει η Τεχνητή Νοημοσύνη σε στρατιωτικές και μυστικές επιχειρήσεις.
Υπό την τρέχουσα στάση εθνικής ασφάλειας της κυβέρνησης Τραμπ, υπάρχει μεγαλύτερη πίεση στις τεχνολογικές εταιρείες να ευθυγραμμιστούν με τις αμυντικές προτεραιότητες, ακόμη και εις βάρος ηθικών ανησυχιών.
Μετά από εκτεταμένες συνομιλίες στο πλαίσιο μιας σύμβασης αξίας έως και 200 εκατομμυρίων δολαρίων, το Υπουργείο Πολέμου των ΗΠΑ και η Anthropic βρίσκονται σε αδιέξοδο, δήλωσαν έξι άτομα που γνωρίζουν το θέμα.
Η θέση της εταιρείας σχετικά με τον τρόπο χρήσης των εργαλείων τεχνητής νοημοσύνης της, έχει εντείνει τις διαφωνίες με την κυβέρνηση Τραμπ
Το «αδιέξοδο» που ανέφεραν οι πηγές, θα μπορούσε να εκτροχιάσει την αμυντική σύμβαση και να αναδιαμορφώσει τα ηθικά όρια της στρατιωτικής χρήσης της τεχνητής νοημοσύνης.
Η Anthropic δήλωσε ότι η τεχνητή νοημοσύνη της «χρησιμοποιείται εκτεταμένα για αποστολές εθνικής ασφάλειας από την κυβέρνηση των ΗΠΑ και βρισκόμαστε σε παραγωγικές συζητήσεις με το Υπουργείο Πολέμου σχετικά με τρόπους συνέχισης αυτού του έργου».
Η διαμάχη, η οποία θα μπορούσε να απειλήσει τις μπίζνες της Anthropic στο Πεντάγωνο
έρχεται σε μια ευαίσθητη στιγμή για την νεοσύστατη εταιρεία με έδρα το Σαν Φρανσίσκο, καθώς προετοιμάζεται για δημόσια προσφορά στο μέλλον.
Έχει επίσης δαπανήσει σημαντικούς πόρους για να προσεγγίσει τις επιχειρήσεις εθνικής ασφάλειας των ΗΠΑ και έχει επιδιώξει ενεργό ρόλο στη διαμόρφωση της κυβερνητικής πολιτικής για την Τεχνητή Νοημοσύνη.
Η Anthropic είναι μία από τις λίγες μεγάλες εταιρείες ανάπτυξης AI που έλαβαν συμβόλαια από το Υπουργείο Πολέμου πέρυσι. Άλλες ήταν η Google (της Alphabet), η xAI (του Ίλον Μασκ) και η OpenAI, καθώς η Τεχνητή Νοημοσύνη καθίσταται κεντρικής σημασίας τόσο για την οικονομική όσο και τη στρατιωτική ισχύ.
Στις συζητήσεις με κυβερνητικούς αξιωματούχους, εκπρόσωποι της Anthropicεξέφρασαν ανησυχίες ότι τα εργαλεία της θα μπορούσαν να χρησιμοποιηθούν για την κατασκοπεία Αμερικανών ή για την υποβοήθηση της στόχευσης όπλων χωρίς επαρκή ανθρώπινη εποπτεία, δήλωσαν πηγές στο Reuters.
Το Πεντάγωνο από την πλευρά του, έχει αντιδράσει έντονα στις οδηγίες της εταιρείας.
Σύμφωνα με υπόμνημα του Υπουργείου Πολέμου στις 9 Ιανουαρίου σχετικά με τη στρατηγική της Τεχνητής Νοημοσύνης, αξιωματούχοι υποστήριξαν ότι θα πρέπει να είναι σε θέση να αναπτύξουν εμπορική τεχνολογία AI ανεξάρτητα από τις πολιτικές χρήσης των εταιρειών, εφόσον συμμορφώνονται με τη νομοθεσία των ΗΠΑ, ανέφεραν πηγές.
Η Anthropic στη θέση του οδηγού
Ωστόσο, οι αξιωματούχοι του Πενταγώνου πιθανότατα θα χρειαστούν τη συνεργασία της Anthropic στο μέλλον. Τα AI μοντέλα της είναι εκπαιδευμένα να αποφεύγουν τη λήψη μέτρων που θα μπορούσαν να οδηγήσουν σε βλάβη και το προσωπικό της Anthropic θα είναι αυτό που θα αναδιαμορφώσει την Τεχνητή Νοημοσύνη της εταιρείας για το Πεντάγωνο, ανέφεραν άλλες πηγές.
Σε ένα κείμενο στο προσωπικό του ιστολόγιο, ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, προειδοποίησε ότι η Τεχνητή Νοημοσύνη θα πρέπει να υποστηρίζει την εθνική άμυνα «με όλους τους τρόπους, εκτός από εκείνους που θα μας έκαναν να μοιάζουμε περισσότερο με τους αυταρχικούς αντιπάλους μας».