ΑΙ - Η Κίνα έβαλε κανόνες, στις ΗΠΑ ακόμα το συζητούν

της Μάντλιν Καρ* | The Conversation

Οι πρόσφατες προειδοποιήσεις από Αμερικανούς ηγέτες στον χώρο του AI έχουν δημιουργήσει την εντύπωση ότι ο κόσμος μόλις τώρα αρχίζει να βρίσκεται αντιμέτωπος με τους κινδύνους της προηγμένης τεχνητής νοημοσύνης.

Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας τεχνολογίας Anthropic, έχει καλέσει τις κυβερνήσεις να παρέμβουν, προκειμένου να επιβραδυνθεί η ανάπτυξη ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης.

Η πρότασή του ξεκινά με την τοποθέτηση ανεξάρτητων αξιολογητών στο εσωτερικό των εταιρειών τεχνητής νοημοσύνης, συνεχίζει με τη θέσπιση κανονιστικού πλαισίου και προχωρά στον συντονισμό μεταξύ δημοκρατικών κρατών με την υποστήριξη των κυβερνήσεών τους.

Απώτερος στόχος είναι η επίτευξη διεθνών συμφωνιών με την Κίνα σχετικά με τις δοκιμές συστημάτων τεχνητής νοημοσύνης, τις επικίνδυνες εφαρμογές της τεχνολογίας και τον ρυθμό ανάπτυξης τoy AI.

Ωστόσο, υπάρχει ένα κενό σε αυτή την αφήγηση, και αυτό αφορά την Κίνα. Η ασιατική υπερδύναμη παρουσιάζεται ως ο δύσκολος, τελευταίος συμμετέχων σε ένα σύστημα διακυβέρνησης το οποίο πρέπει πρώτα να δημιουργήσουν οι ΗΠΑ και οι σύμμαχοί τους.

Στην πραγματικότητα, η Κίνα έχει ήδη θεσπίσει ένα εκτεταμένο σύστημα κανόνων, αξιολογήσεων, καταχωρίσεων, τεχνικών προτύπων και κρατικής εποπτείας για την τεχνητή νοημοσύνη. Ακολουθεί ο τρόπος με τον οποίο το κινεζικό σύστημα διακυβέρνησης για το AI αναπτύχθηκε σταδιακά, παράλληλα με την ίδια την τεχνολογία.

Υποχρεώνουν τις εταιρείες που χρησιμοποιούν αλγορίθμους να εξετάζουν τον τρόπο λειτουργίας τους, να προστατεύουν τα προσωπικά δεδομένα των χρηστών, να τους παρέχουν ορισμένες δυνατότητες ελέγχου και να θεσπίζουν δικλίδες προστασίας για εργαζομένους, καταναλωτές, παιδιά και ηλικιωμένους.

Οι κινεζικές διατάξεις για τη «βαθιά σύνθεση» (deep synthesis), οι οποίες τέθηκαν σε ισχύ τον Ιανουάριο του 2023, επέκτειναν το ρυθμιστικό πλαίσιο σε συνθετικό -ή παραγόμενο από τεχνητή νοημοσύνη- κείμενο, εικόνες, ήχο και βίντεο. Οι εταιρείες τεχνητής νοημοσύνης οφείλουν να επαληθεύουν την ταυτότητα ταυτότητα των χρηστών, να προστατεύουν τα δεδομένα, να τηρούν τα σχετικά αρχεία, να αξιολογούν τα συστήματά τους και να επισημαίνουν το συνθετικό υλικό που θα μπορούσε να εκληφθεί ως αυθεντικό.

Τα προσωρινά μέτρα για τις υπηρεσίες παραγωγικής τεχνητής νοημοσύνης τέθηκαν σε εφαρμογή τον Αύγουστο του 2023. Με αυτά θεσπίστηκαν πρόσθετοι κανόνες για τις υπηρεσίες ΑΙ που απευθύνονται στο κοινό, ιδίως για εκείνες που μπορούν να επηρεάσουν την κοινή γνώμη ή να ασκήσουν με άλλους τρόπους επιρροή στους χρήστες.

Τα μέτρα αφορούν τη νομιμότητα και την ποιότητα των δεδομένων εκπαίδευσης, τα προσωπικά δεδομένα των χρηστών, την πνευματική ιδιοκτησία και τις διακρίσεις βάσει προστατευόμενων χαρακτηριστικών. Οι κανόνες καλύπτουν επίσης τη διαφάνεια των εταιρειών τεχνητής νοημοσύνης, καθώς και την ακρίβεια και την αξιοπιστία των προϊόντων τους.

Βάσει των κανόνων αυτών, οι εταιρείες οφείλουν να αντιμετωπίζουν τα προβλήματα που εντοπίζονται στις υπηρεσίες τους. Οι υπηρεσίες πρέπει επίσης να υποβάλλονται σε αξιολόγηση ασφαλείας, προκειμένου να εξετάζονται οι κίνδυνοι που ενέχουν και η συμμόρφωσή τους με την κινεζική νομοθεσία. Παράλληλα, οι εταιρείες υποχρεούνται να υποβάλλουν στις κινεζικές αρχές πληροφορίες σχετικά με τους αλγορίθμους τους.

Οι μηχανισμοί αυτοί δεν είναι ταυτόσημοι με τους ανεξάρτητους αξιολογητές που, σύμφωνα με την πρόταση του Αμοντέι, θα τοποθετούνταν στο εσωτερικό των εταιρειών τεχνητής νοημοσύνης. Επιτελούν, ωστόσο, ορισμένες από τις ίδιες λειτουργίες.

Κίνδυνοι της τεχνολογικής αιχμής

Το πιο πρόσφατο σύνολο μέτρων του Πεκίνου ονομάζεται «Πλαίσιο Διακυβέρνησης της Ασφάλειας της Τεχνητής Νοημοσύνης 3.0» (AI Safety Governance Framework 3.0) και δημοσιεύθηκε τον Σεπτέμβριο του 2026. Καθορίζει μια ευρεία προσέγγιση για τον εντοπισμό, τη διαβάθμιση και την αντιμετώπιση των κινδύνων σε ολόκληρο τον κύκλο ζωής των συστημάτων τεχνητής νοημοσύνης.

Βασιζόμενο σε προηγούμενες εκδόσεις, το πλαίσιο καλύπτει κινδύνους που σχετίζονται με τα μοντέλα και τα δεδομένα τεχνητής νοημοσύνης, ευπάθειες μοντέλων ανοικτού κώδικα -δηλαδή μοντέλων που μπορούν να τροποποιούνται ελεύθερα από τους χρήστες-, τις επιπτώσεις του ΑΙ στην απασχόληση και την κοινωνία, καθώς και τα ολοένα πιο αυτόνομα συστήματα.

Περιλαμβάνει επίσης ειδικό μηχανισμό για τη διαχείριση των κινδύνων που συνδέονται με τους ταχέως εξελισσόμενους πράκτορες τεχνητής νοημοσύνης (AI agents), δηλαδή συστήματα που εκτελούν εργασίες ανταποκρινόμενα στις εντολές ενός χρήστη.

Το πλαίσιο αντιμετωπίζει ορισμένους από τους ίδιους κινδύνους που προκαλούν πλέον έντονη ανησυχία στη Σίλικον Βάλεϊ, μεταξύ των οποίων τα συστήματα με υψηλό βαθμό αυτονομίας, η κατάχρηση χημικών, βιολογικών και πυρηνικών τεχνολογιών και το ενδεχόμενο οι άνθρωποι να χάσουν τον έλεγχο προηγμένων συστημάτων τεχνητής νοημοσύνης. Προβλέπει συνεχείς αξιολογήσεις ασφάλειας, δικλίδες προστασίας ανάλογες με το επίπεδο κινδύνου, διατήρηση του ανθρώπινου ελέγχου και μηχανισμούς έκτακτης παρέμβασης.

Ανεξάρτητη ανάλυση του αμερικανικού ερευνητικού οργανισμού Carnegie Endowment for International Peace έχει χαρακτηρίσει το πλαίσιο ως προσπάθεια της Κίνας «να προωθήσει την ασφάλεια των συστημάτων τεχνολογικής αιχμής, χωρίς να απαιτούνται αυστηρές ρυθμιστικές παρεμβάσεις».

Νομικές συνέπειες

Τίποτε από αυτά δεν σημαίνει ότι οι κινεζικοί κανόνες για την τεχνητή νοημοσύνη θα πρέπει να μεταφερθούν αυτούσιοι σε άλλες χώρες. Οι θεσμοί, οι ρυθμιστικές παραδόσεις και οι τεχνολογικές προτεραιότητες της Κίνας είναι διαφορετικές.

Πολλές από τις λειτουργίες που σήμερα παρουσιάζονται στις ΗΠΑ ως επείγουσες επιδιώξεις -μεταξύ των οποίων η αξιολόγηση, η λογοδοσία των εταιρειών τεχνητής νοημοσύνης, η ταξινόμηση των κινδύνων των συστημάτων ΤΝ, η κανονιστική καταχώριση, τα τεχνικά πρότυπα και η κρατική εποπτεία- είναι ήδη ενσωματωμένες στην αρχιτεκτονική διακυβέρνησης της άλλης μεγάλης παγκόσμιας δύναμης στον τομέα της τεχνητής νοημοσύνης.

Οι ΗΠΑ μπορούν να καταλήξουν στο συμπέρασμα ότι ένα σύστημα καθοδηγούμενο από την αγορά εξυπηρετεί καλύτερα τα οικονομικά και στρατηγικά τους συμφέροντα. Η κυβέρνηση Τραμπ έχει ταχθεί υπέρ μιας εθνικής προσέγγισης για την τεχνητή νοημοσύνη, που θα επιβάλλει «ελάχιστες επιβαρύνσεις» και έχει επιδιώξει να περιορίσει τις αυστηρότερες ρυθμίσεις σε επίπεδο πολιτειών.

Ωστόσο, ένα μοντέλο καθοδηγούμενο από την αγορά δεν μπορεί να σημαίνει ιδιωτικοποίηση των οφελών της τεχνητής νοημοσύνης και ταυτόχρονα μεταφορά των κινδύνων της σε άλλες χώρες. Οι αμερικανικές εταιρείες μπορεί να αποκομίζουν τα εμπορικά οφέλη, ενώ οι κυβερνήσεις άλλων χωρών καλούνται να διερευνούν περιστατικά ασφαλείας, να προστατεύουν δημόσια συστήματα και να επωμίζονται το ευρύτερο κόστος όταν οι τεχνολογίες αυτές αποτυγχάνουν. Ο πράκτορας τεχνητής νοημοσύνης της OpenAI, που απέκτησε μη εξουσιοδοτημένη πρόσβαση στο κρατικό σύστημα υγειονομικής περίθαλψης της Αυστραλίας, αποτελεί χαρακτηριστικό παράδειγμα του τρόπου με τον οποίο οι κίνδυνοι της ΤΝ μπορούν να μεταφέρονται πέρα από τα σύνορα.

Εάν η Ουάσινγκτον απορρίπτει την επιβολή εκτεταμένων ελέγχων πριν από τη διάθεση των συστημάτων, οι ΗΠΑ χρειάζονται ένα αξιόπιστο νομικό πλαίσιο, που να καθορίζει ποιος φέρει την ευθύνη για ζημίες που προκαλούνται από αυτά τα μοντέλα τεχνητής νοημοσύνης. Διαφορετικά, οι χώρες που εξαρτώνται από ξένα συστήματα ΑΙ θα βρίσκονται αντιμέτωπες με ολοένα δυσκολότερες επιλογές σχετικά με το ποια τεχνολογία μπορούν να εμπιστευτούν και υπό ποιους όρους.

Το κυρίαρχο δόγμα της Σίλικον Βάλεϊ εδώ και χρόνια συνοψίζεται στη φράση «move fast and break things» — «κινήσου γρήγορα και σπάσε πράγματα». Η αρχή αυτή ήταν ανέκαθεν αμφισβητήσιμη, όταν εφαρμοζόταν σε τεχνολογίες βαθιά ενσωματωμένες στη δημόσια ζωή. Είναι πλέον αδύνατον να υποστηριχθεί, όταν πρόκειται για εταιρείες των οποίων οι ίδιοι οι επικεφαλής προειδοποιούν ότι τα προϊόντα τους θα μπορούσαν να προκαλέσουν καταστροφικές συνέπειες.

Το Πεκίνο έχει ήδη πλαισιώσει τον τομέα της τεχνητής νοημοσύνης με υποχρεώσεις δημόσιου χαρακτήρα, κανονιστική εποπτεία και ένα εξελισσόμενο σύστημα αξιολόγησης κινδύνων. Μια παγκόσμια συζήτηση, που αντιμετωπίζει αυτού του είδους τη διακυβέρνηση ως μελλοντική επιδίωξη, θα πρέπει τουλάχιστον να αναγνωρίζει ότι μία χώρα έχει ήδη προχωρήσει σημαντικά προς αυτή την κατεύθυνση.

*Η Μάντλιν Καρ είναι καθηγήτρια Παγκόσμιας Πολιτικής και Κυβερνοασφάλειας στο University College London (UCL).