Η Κίνα δεν θα κερδίσει την κούρσα για κυριαρχία στην Τεχνητή Νοημοσύνη

Ένα κράτος επιτήρησης όπως η Κίνα, με ένα λογοκριμένο Διαδίκτυο, μαζί με ένα σύστημα κοινωνικής βαθμολογίας που προωθεί την συμμόρφωση και την υπακοή, φαίνεται απίθανο να προάγει την δημιουργικότητα που απαιτεί η πρόοδος στην Τεχνητή Νοημοσύνη.

Κάποτε, η Ιαπωνία αναμενόταν ευρέως να επισκιάσει τις Ηνωμένες Πολιτείες ως τεχνολογική ηγέτις του κόσμου. Το 1988, ο δημοσιογράφος των New York Times, David Sanger, έγραψε για μια ομάδα Αμερικανών ειδικών της επιστήμης των κομπιούτερ που συναντήθηκαν για να συζητήσουν την τεχνολογική πρόοδο της Ιαπωνίας. Όταν η ομάδα αξιολόγησε τη νέα γενιά υπολογιστών που έβγαιναν από την Ιαπωνία, έγραψε ο Sanger [1], «κάθε ψευδαίσθηση ότι η Αμερική είχε διατηρήσει το μεγάλο της προβάδισμα εξαφανίστηκε».
Αντικαταστήστε τους «υπολογιστές» με την «τεχνητή νοημοσύνη» (artificial intelligence, ΑΙ) και την «Ιαπωνία» με την «Κίνα» και το άρθρο θα μπορούσε να είχε γραφτεί σήμερα. Στο βιβλίο με τίτλο AI Superpowers: China, Silicon Valley, and the New World Order, το οποίο αναπάντεχα έγινε ακαριαία ένα μπεστ σέλερ, ο πρώην πρόεδρος της Google Κίνας, Kai-Fu Lee, υποστηρίζει [2] ότι η ασυναγώνιστη συσσώρευση δεδομένων (data) από την Κίνα, η κουλτούρα της αντιγραφής, και η ισχυρή κυβερνητική δέσμευση για την τεχνητή νοημοσύνη, της δίνουν ένα μεγάλο προβάδισμα έναντι των Ηνωμένων Πολιτειών. Ο πολιτικός επιστήμονας του Πανεπιστημίου Χάρβαρντ, Graham Allison, υποστήριξε πρόσφατα ότι ο εναγκαλισμός της Κίνας με αυτό που οι περισσότεροι Αμερικανοί θεωρούν ως ένα εφιαλτικό κράτος επιτήρησης, της δίνει ένα σημαντικό πλεονέκτημα δεδομένων έναντι των Ηνωμένων Πολιτειών.
Ως ακαδημαϊκοί που μελετούν τις εφαρμογές και τις επιπτώσεις της τεχνητής νοημοσύνης, διαφωνούμε με σεβασμό. Η Κίνα, αν μη τι άλλο, φαίνεται λιγότερο πιθανό να προσπεράσει τις Ηνωμένες Πολιτείες στην τεχνητή νοημοσύνη από όσο η Ιαπωνία φάνηκε να κυριαρχεί στους υπολογιστές την δεκαετία του 1980. Παρότι η Κίνα είναι πλούσια σε δεδομένα (data) και έχει διακριθεί στην βελτίωση της τεχνολογίας που έχει εφευρεθεί αλλού, είναι πολλά αυτά που την εμποδίζουν από το να γίνει ο τόπος της επόμενης μεγάλης προόδου που οδυνηρώς χρειάζεται η τεχνητή νοημοσύνη.
ΤΑ DATA ΜΟΝΑ ΤΟΥΣ ΔΕΝ ΑΡΚΟΥΝ
Η Κίνα μπήκε στα διεθνή πρωτοσέλιδα με το να αξιοποιήσει αποτελεσματικά την τεχνολογία παρακολούθησης για τον εντοπισμό επαφών ως απάντηση στην COVID-19, την ασθένεια που προκαλείται από τον νέο κορωνοϊό. Ωστόσο, το υποτιθέμενο πλεονέκτημα της χώρας στα data είναι τεραστίως υπερεκτιμημένο. Ένας λόγος είναι ότι τα data είναι ιδιαίτερα συγκεκριμένα κατά τομείς και συχνά δεν επιλύουν κάτι παραπάνω εκτός από το πρόβλημα για το οποίο συγκεντρώθηκαν. Η περιφρόνηση της Κίνας για την προστασία της ιδιωτικής ζωής, της επιτρέπει να παρακολουθεί τους πολίτες της αλλά όχι πολλά άλλα. Και η πληθώρα δεδομένων επιτήρησης δεν δίνει στην Κίνα ένα πλεονέκτημα στην εφαρμογή τεχνητής νοημοσύνης σε στόχους όπως, για παράδειγμα, η ανακάλυψη φαρμάκων ή η αυτόνομη οδήγηση οχημάτων.
Το αίνιγμα της τεχνητής νοημοσύνης δεν έγκειται στην ποσότητα δεδομένων στην οποία έχουν πρόσβαση οι αλγόριθμοί της, αλλά στην αποτελεσματικότητα με την οποία μαθαίνει από αυτά τα δεδομένα. Ακόμη και με τεράστιους όγκους δεδομένων, τα συστήματα τεχνητής νοημοσύνης εξαπατούνται εύκολα για να κάνουν λάθη. Ο ερευνητής της Google, Christian Szegedy, και οι συνεργάτες του απέδειξαν αυτό το σημείο [3] ξεγελώντας έναν αλγόριθμο που κάποτε είχε με βεβαιότητα και σωστά ταξινομήσει εικόνες σκύλων και σχολικών λεωφορείων. Οι ερευνητές χειρίστηκαν τα pixel των εικόνων με τρόπο που θα ήταν εντελώς ανιχνεύσιμος στο ανθρώπινο μάτι -αλλά αυτό οδήγησε τον αλγόριθμο να ταξινομήσει τόσο τα σκυλιά όσο και τα σχολικά λεωφορεία ως στρουθοκαμήλους. Οι αλγόριθμοι τεχνητής νοημοσύνης μπορούν συχνά να αναγνωρίζουν αντικείμενα, αλλά δεν έχουν καμία εννοιολογική κατανόηση των σχέσεων μεταξύ αυτών των αντικειμένων ή των αντίστοιχων ιδιοτήτων τους. Όπως προειδοποίησε ο ερευνητής της βαθιάς μάθησης (deep learning), Yoshua Bengio [4], «Δεν μπορούμε ρεαλιστικά να βάλουμε από μια ετικέτα στα πάντα στον κόσμο και να εξηγήσουμε σχολαστικά την κάθε λεπτομέρεια στον υπολογιστή».
Πολλοί θεωρούν την Κίνα ως «την Σαουδική Αραβία των data». Αλλά εάν τα data είναι το νέο πετρέλαιο, μπορεί να είναι απλώς η κατάρα των φυσικών πόρων της Κίνας. Για παράδειγμα, στις αρχές του εικοστού αιώνα, τα ηλεκτρικά αυτοκίνητα φαινόταν να είναι πιο ελπιδοφόρα από τα αυτοκίνητα με βενζίνη. Τεράστιες ανακαλύψεις πετρελαίου, μεταξύ άλλων, έγειραν την ισορροπία υπέρ του κινητήρα εσωτερικής καύσης. Έναν αιώνα αργότερα, προσπαθούμε να επιστρέψουμε στα ηλεκτρικά αυτοκίνητα. Η τρέχουσα εστίαση σε εφαρμογές AI που διψούν για data μπορεί να οδηγήσει σε παρόμοιο εγκλωβισμό στο λάθος είδος της AI.
Έχουμε δει αυτό το έργο και στο παρελθόν. Στην δεκαετία του 1980, οι μεγάλες υποσχέσεις και η συντριπτική εστίαση στην εμβληματική τεχνητή νοημοσύνη προκάλεσαν τεράστια χρηματοδότηση και ενθουσιασμό στα media. Αυτό σήμαινε ότι η χρηματοδότηση για την «βαθιά μάθηση» στέγνωσε. Ωστόσο, η βαθιά μάθηση (deep learning) έχει τα δικά της προβλήματα και έχει κάνει πρόσφατα τις εταιρείες να επικεντρωθούν σε εύκολα προβλήματα AI, όπως η ταξινόμηση γατών και σκύλων, όπου τα δεδομένα είναι άφθονα. Αυτή η προσέγγιση από μόνη της είναι πιθανό να οδηγήσει σε φθίνουσες αποδόσεις που θα μπορούσαν ακόμη και να προκαλέσουν έναν άλλο χειμώνα της AI.
Η αποτελεσματικότητα των data είναι το ιερό δισκοπότηρο της περαιτέρω προόδου στην τεχνητή νοημοσύνη. Ο λόγος για τον οποίο οι περισσότεροι άνθρωποι συσχετίζουν τον ατμομηχανή με τον James Watt και όχι με τον Thomas Newcomen (ο οποίος ανέπτυξε μια ατμομηχανή που ενεργοποιείτο από καύση άνθρακα, δεκαετίες νωρίτερα) είναι ότι ο ξεχωριστός συμπυκνωτής του Watt έκανε την τεχνολογία ενεργειακά αποδοτική για πρώτη φορά. Η τεχνητή νοημοσύνη περιμένει ακόμα την δική της στιγμή του «συμπυκνωτή». Πράγματι, για να μάθει αρκετά ώστε να κερδίσει ένα παιχνίδι Go ενάντια στον Lee Sedol [5], έναν πρωταθλητή αυτού του στρατηγικού επιτραπέζιου παιχνιδιού, το λογισμικό AlphaGo της DeepMind έπρεπε πρώτα να παίξει πολλά εκατομμύρια παιχνίδια εναντίον του εαυτού του. Έμαθε να παίζει πολύ πιο αργά από οποιονδήποτε άνθρωπο. Οι άνθρωποι είναι απίστευτα αποδοτικοί στα data˙ οι πρόσφατες ανακαλύψεις στην τεχνητή νοημοσύνη είναι πολύ λιγότερο. Το αν οι Ηνωμένες Πολιτείες ή η Κίνα θα οδηγήσουν τον κόσμο στην τεχνητή νοημοσύνη εξαρτάται πολύ λιγότερο από το ποιος ελέγχει τα περισσότερα data παρά από το ποιος θα είναι ο πρώτος που θα καινοτομήσει μετά από αυτό το αδιέξοδο.
Ο ΠΕΙΡΑΜΑΤΙΣΜΟΣ ΟΔΗΓΕΙ ΤΗΝ ΚΑΙΝΟΤΟΜΙΑ
Εκείνοι που προειδοποιούν για την αμείλικτη πρόοδο της Κίνας στον τομέα της τεχνητής νοημοσύνης ανησυχούν ότι, επειδή η τεχνολογία είναι από την φύση της συγκεντρωτική, οι αυταρχικές κυβερνήσεις είναι σε καλύτερη θέση να ενθαρρύνουν την καινοτομία της AI από όσο οι δημοκρατικές -και ότι η τεχνολογία AI, με την σειρά της, θα ωφελήσει τις αυταρχικές κυβερνήσεις. Η ανησυχία υπενθυμίζει μια σχετική με την ηλεκτρική ενέργεια πεποίθηση που κυριαρχούσε πριν από έναν αιώνα -και όπως κι εκείνη η πεποίθηση, η σημερινή είναι επίσης λανθασμένη.
Το 1923, ο πρωτοπόρος ηλεκτρολόγος μηχανικός Charles Steinmetz -του οποίου το έργο για την General Electric Company στα τέλη του εικοστού αιώνα τον έκανε διασημότητα [6] της εποχής- προέβλεψε [7] ότι η ηλεκτρική ενέργεια θα δημιουργούσε μια πιο κολεκτιβιστική κοινωνία. Ο Steinmetz υποστήριξε, με κάπως κυκλικό τρόπο [επιχειρημάτων], ότι η ανάπτυξη ενός εθνικού ηλεκτρικού δικτύου θα οδηγούσε στον σοσιαλισμό, επειδή μόνο ένα σοσιαλιστικό σύστημα θα μπορούσε αποτελεσματικά να διαχειριστεί τις νέες αλληλεξαρτήσεις που θα απαιτούσε η πρόοδος προς ένα εθνικό δίκτυο. Ο νόμος περί Αγροτικής Ηλεκτροδότησης του 1936 (Rural Electrification Act of 1936) όντως παρείχε κεφάλαια σε αγροτικούς συνεταιρισμούς που είχαν παραμεληθεί από τις μεγάλες ιδιωτικές εταιρείες ηλεκτρικής ενέργειας. Αλλά η πραγματική μετάβαση στην ηλεκτρική ενέργεια προήλθε από τον καπιταλιστικό ανταγωνισμό, με τη μορφή πειραματισμού στα εργοστάσια. Όταν οι μηχανικοί ανακάλυψαν το πώς να εξοπλίσουν κάθε μηχανή με τον δικό της ηλεκτρικό κινητήρα αντί να βασίζονται σε μια κεντρική πηγή ισχύος, μπόρεσαν να βάλουν σε ακολουθία τις μηχανές σύμφωνα με την φυσική ροή της παραγωγής -μια σημαντική ανακάλυψη που προκάλεσε τη μαζική παραγωγή.
Ο αποκεντρωμένος πειραματισμός και η αποκεντρωμένη λήψη αποφάσεων θα είναι επίσης κρίσιμοι [παράγοντες] εάν πρόκειται ο κόσμος να αξιοποιήσει τα οφέλη της τεχνητής νοημοσύνης. Η Κίνα βρίσκεται σε μειονεκτική θέση από αυτή την άποψη. Η πρόσφατη αύξηση στην κατάθεση διπλωμάτων ευρεσιτεχνίας στην χώρα [8] αναφέρεται συχνά ως απόδειξη της καινοτομίας της, αλλά η απλή μέτρηση των διπλωμάτων ευρεσιτεχνίας (πατέντες) δεν είναι ένας καλός τρόπος για τη μέτρηση της καινοτομίας: μελέτες δείχνουν [9] ότι το 10% των διπλωμάτων ευρεσιτεχνίας αντιπροσωπεύει περίπου το 90% της συνολικής αξίας των διπλωμάτων ευρεσιτεχνίας, πράγμα που σημαίνει ότι η συντριπτική πλειονότητα έχει μικρή αξία. Οι αναφορές στις πατέντες προσφέρουν έναν πιο χρήσιμο δείκτη και, αν κοιτάξουμε τις 100 περισσότερο αναφερόμενες πατέντες από το 2003, ούτε μια δεν προέρχεται από την Κίνα. Επιπλέον, οι κορυφαίες εταιρείες τεχνητής νοημοσύνης της Κίνας, συμπεριλαμβανομένων των Tencent, Alibaba και Baidu, είναι απλώς αντίγραφα των Facebook, Amazon και Google, προσαρμοσμένων στην κινεζική αγορά.
Όπως παρατήρησε ο αείμνηστος οικονομικός ιστορικός, Alexander Gerschenkron, όταν μια χώρα υστερεί πίσω από τεχνολογικά σύνορα, η μίμηση και η υιοθέτηση της ξένης τεχνολογίας μπορούν να την πάνε πολύ μακριά -και, γενικά, όσο περισσότερο μια χώρα έχει μείνει πίσω, τόσο μεγαλύτερος είναι ο ρόλος που πρέπει να παίξει το κράτος στην προώθηση της βιομηχανικής ενημέρωσης. Χάρη στις κρατικές επενδύσεις στην τεχνολογία μαζικής παραγωγής, η Σοβιετική Ένωση αναπτύχθηκε ραγδαία κατά την διάρκεια της μεγαλύτερης περιόδου του Ψυχρού Πολέμου, όπως και η Ιαπωνία, η Νότια Κορέα και η Ταϊβάν. Πράγματι, πολλοί μελετητές έχουν αποδώσει το «Ασιατικό Θαύμα» στην βιομηχανική πρόοδο (catch-up). Όμως, ενώ κατάφεραν να καλύψουν μέρος της απόστασης, αυτές οι χώρες δεν κατάφεραν ποτέ να ξεπεράσουν τις Ηνωμένες Πολιτείες. Σε αντίθεση με τη μίμηση, η οποία μπορεί να προγραμματιστεί και να συντονιστεί, η καινοτομία είναι ένα ταξίδι εξερεύνησης στο άγνωστο, για να παραφράσουμε τον οικονομολόγο και φιλόσοφο Friedrich von Hayek. Και η μετάβαση από τη μίμηση στην καινοτομία είναι δύσκολη: εάν ήταν εύκολη, οι περισσότερες χώρες θα καινοτομούσαν στην τεχνολογική μεθόριο.
Με το να παρατηρούμε ότι η Κίνα είναι απίθανο να ξεπεράσει τις Ηνωμένες Πολιτείες στην τεχνολογική καινοτομία, δεν εννοούμε με κανένα τρόπο ότι υποβαθμίζουμε τα τεράστια οικονομικά επιτεύγματα της Κίνας από τότε που ο Deng Xiaoping ήρθε στην εξουσία το 1978. Η Κίνα έχει πολλά ταλέντα, αλλά το γεγονός παραμένει ότι, μέχρι στιγμής, η κινεζική καινοτομία επικεντρώθηκε κυρίως στην σταδιακή βελτίωση τεχνολογιών που σχεδιάστηκαν αλλού. Για παράδειγμα, οι κινεζικές εταιρείες σήμερα ηγούνται του κόσμου στην ανάπτυξη του 5G [10], αλλά το έργο τους βασίζεται σε αρκετές προηγούμενες γενιές τεχνολογίας τηλεπικοινωνιών. Αυτό που καταδεικνύει η Huawei είναι ότι η Κίνα έχει σημαντικές δυνατότητες μηχανικής, όπως η Ιαπωνία και η Σοβιετική Ένωση.
ΔΥΝΑΜΙΣΜΟΣ VERSUS ΣΤΑΘΕΡΟΤΗΤΑ
Η τεχνητή νοημοσύνη δεν είναι ακόμη μια ώριμη τεχνολογία και η συνέχιση της προόδου θα απαιτήσει ριζική καινοτομία σε πολλά μέτωπα. Οι ανακαλύψεις θα γίνουν με τον τρόπο που συνήθως γίνονται: μέσω της ευτυχούς συγκυρίας και του ανασυνδυασμού, καθώς οι εφευρέτες και οι επιχειρηματίες αλληλεπιδρούν και ανταλλάσσουν ιδέες. Το ισχυρό κράτος της Κίνας και η κολεκτιβιστική δομή έχουν σημαντικά πλεονεκτήματα στην ταχεία κατασκευή υποδομών ή στην δημιουργία μιας συνεκτικής αντίδρασης σε κάποια πανδημία. Αλλά η ριζοσπαστική καινοτομία είναι ένα διαφορετικό ζήτημα, και ιστορικά, οι πιο καινοτόμες κοινωνίες ήταν πάντα εκείνες που επέτρεπαν στους ανθρώπους να ακολουθούν αμφιλεγόμενες ιδέες. Όπως ισχυρίστηκε ο εξέχων οικονομικός ιστορικός, Joel Mokyr, αυτός είναι ο λόγος για τον οποίο η Βιομηχανική Επανάσταση συνέβη στην Δύση παρά στην Κίνα, εξ αρχής.
Οι προσπάθειες της Κίνας να περιορίσει την ροή ιδεών στο Διαδίκτυο και αλλού, μάλλον θα εμποδίσουν την καινοτομία. Από τον Σεπτέμβριο του 2019 [11], η Κίνα και η Huawei προτείνουν ριζικές αλλαγές [12] στην υποδομή του Διαδικτύου που υποστηρίζει τα δίκτυα παγκοσμίως. Εάν εφαρμοστούν, οι αλλαγές πιθανότατα θα κατακερματίσουν το Διαδίκτυο και θα μειώσουν περαιτέρω την έκθεση των Κινέζων πολιτών σε νέες ιδέες [που θα προέρχονται από] έξω από την χώρα. Η πρωτοβουλία υπογραμμίζει την προτίμηση του Πεκίνου να διατηρήσει το πολιτικό καθεστώς, ακόμα κι αν αυτό σημαίνει βραδύτερη καινοτομία και λιγότερη δυναμική.
Τούτου λεχθέντος, οι Ηνωμένες Πολιτείες δεν είναι μοιραίο ότι θα κερδίσουν τον αγώνα για υπεροχή στην τεχνητή νοημοσύνη. Η Κίνα θα μπορούσε ακόμη να αλλάξει την πορεία της, και οι νέοι περιορισμοί στη μετανάστευση που επέβαλε η διοίκηση του προέδρου των ΗΠΑ, Ντόναλντ Τραμπ, θα μπορούσαν να καταπνίξουν την καινοτομία στις Ηνωμένες Πολιτείες. Η έρευνα δείχνει [13] ότι η μετανάστευση υπήρξε βασικός μοχλός της αμερικανικής καινοτομίας τα τελευταία 130 χρόνια. Τα φερόμενα σχέδια της κυβέρνησης Τραμπ [14] για τον περιορισμό στις βίζες H-1B είναι ιδιαίτερα ανησυχητικά ως προς αυτό. Αλλά ενώ ο Τραμπ μπορεί να διατηρήσει την εξουσία για άλλη μια θητεία, ο Σι Ζινπίνγκ θα μπορούσε να κυβερνά επ’ αόριστο
Υπό τον Xi, το Κινεζικό Κομμουνιστικό Κόμμα έχει εντείνει τις προσπάθειές του να διεισδύσει σε επιχειρήσεις του ιδιωτικού τομέα και να εδραιώσει την πολιτική εξουσία. Ένα κράτος επιτήρησης με ένα λογοκριμένο Διαδίκτυο, μαζί με ένα σύστημα κοινωνικής βαθμολογίας που προωθεί την συμμόρφωση και την υπακοή, φαίνεται απίθανο να προάγει την δημιουργικότητα: η καινοτομία αφορά την παραβίαση των κανόνων και όχι την τήρησή τους. Πράγματι, μια πρόσφατη μελέτη [15] που δημοσιεύθηκε στα Πρακτικά της Εθνικής Ακαδημίας Επιστημών (Proceedings of the National Academy of Sciences) διαπίστωσε ότι οι θετικές στάσεις απέναντι στην συμμόρφωση και στην υπακοή προβλέπουν λιγότερο διασπαστική καινοτομία.
Η Ιαπωνία απέτυχε να προσπεράσει τις Ηνωμένες Πολιτείες, ακόμη και χωρίς σοβαρούς περιορισμούς στην ροή ιδεών και [χωρίς] ένα αυταρχικό καθεστώς που προωθεί την υπακοή. Ως εκ τούτου, οι Ηνωμένες Πολιτείες έχουν κρίσιμα πλεονεκτήματα που θα τους επιτρέψουν να παραμείνουν ηγέτιδες στον κόσμο στην τεχνητή νοημοσύνη. Εάν παραχωρήσουν αυτή την θέση στην Κίνα, ο λόγος πιθανότατα θα είναι ότι η Ουάσινγκτον προσπάθησε να μιμηθεί το κινεζικό μοντέλο υποστηρίζοντας τους εθνικούς πρωταθλητές αντί να αγκαλιάσει τον ανταγωνισμό και τον δυναμισμό που έχουν κάνει τις Ηνωμένες Πολιτείες τον τεχνολογικό πρωτοπόρο στον κόσμο για περισσότερα από έναν αιώνα.
Ο CARL BENEDIKT FREY είναι συνεργάτης και διευθυντής του Future of Work στην Σχολή Oxford Martin στο Πανεπιστήμιο της Οξφόρδης και συγγραφέας του βιβλίου με τίτλο The Technology Trap: Capital, Labor and Power in the Age of Automation.
Ο MICHAEL OSBORNE είναι καθηγητής Μηχανικής Μάθησης στο Πανεπιστήμιο της Οξφόρδης, συνεργάτης της Σχολής Oxford Martin και συνιδρυτής του Mind Foundry.
Συνδέσεις:
[1] https://www.nytimes.com/1988/12/18/business/a-high-tech-lead-in-danger.html
[2] https://www.washingtonpost.com/outlook/in-the-race-for-supremacy-in-arti…
[3] https://www.nature.com/articles/d41586-019-03013-5
[4] https://books.google.com/books?id=65iEDwAAQBAJ&pg=PT62&lpg=PT62&dq=%22We…
[5] https://www.nytimes.com/2019/08/01/opinion/peter-thiel-google.html
[6] https://www.smithsonianmag.com/history/charles-proteus-steinmetz-the-wiz…
[7] https://books.google.com/books?id=Ka8eAQAAIAAJ&pg=PA116&lpg=PA116&dq=cha…
[8] https://www.natlawreview.com/article/china-s-upsurge-patent-filings-cont…
[9] https://link.springer.com/chapter/10.1007/978-1-4757-3750-9_13
[10] https://www.wsj.com/articles/in-the-race-to-dominate-5g-china-has-an-edg…
[11] http://prod-upp-image-read.ft.com/ec34d7aa-70e6-11ea-95fe-fcd274e920ca
[12] https://www.ft.com/content/c78be2cf-a1a1-40b1-8ab7-904d7095e0f2
[13] https://www.nber.org/papers/w27075
[14] https://www.nytimes.com/2020/05/12/us/foreign-workers-visas-immigrants.html
[15] https://www.pnas.org/content/116/14/6720
πηγή