της Μάντλιν Καρ* | The Conversation

Οι πρόσφατες προειδοποιήσεις από Αμερικανούς ηγέτες στον χώρο του AI έχουν δημιουργήσει την εντύπωση ότι ο κόσμος μόλις τώρα αρχίζει να βρίσκεται αντιμέτωπος με τους κινδύνους της προηγμένης τεχνητής νοημοσύνης.

Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της εταιρείας τεχνολογίας Anthropic, έχει καλέσει τις κυβερνήσεις να παρέμβουν, προκειμένου να επιβραδυνθεί η ανάπτυξη ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης.

Η πρότασή του ξεκινά με την τοποθέτηση ανεξάρτητων αξιολογητών στο εσωτερικό των εταιρειών τεχνητής νοημοσύνης, συνεχίζει με τη θέσπιση κανονιστικού πλαισίου και προχωρά στον συντονισμό μεταξύ δημοκρατικών κρατών με την υποστήριξη των κυβερνήσεών τους.

Απώτερος στόχος είναι η επίτευξη διεθνών συμφωνιών με την Κίνα σχετικά με τις δοκιμές συστημάτων τεχνητής νοημοσύνης, τις επικίνδυνες εφαρμογές της τεχνολογίας και τον ρυθμό ανάπτυξης τoy AI.

Ωστόσο, υπάρχει ένα κενό σε αυτή την αφήγηση, και αυτό αφορά την Κίνα. Η ασιατική υπερδύναμη παρουσιάζεται ως ο δύσκολος, τελευταίος συμμετέχων σε ένα σύστημα διακυβέρνησης το οποίο πρέπει πρώτα να δημιουργήσουν οι ΗΠΑ και οι σύμμαχοί τους.

Στην πραγματικότητα, η Κίνα έχει ήδη θεσπίσει ένα εκτεταμένο σύστημα κανόνων, αξιολογήσεων, καταχωρίσεων, τεχνικών προτύπων και κρατικής εποπτείας για την τεχνητή νοημοσύνη. Ακολουθεί ο τρόπος με τον οποίο το κινεζικό σύστημα διακυβέρνησης για το AI αναπτύχθηκε σταδιακά, παράλληλα με την ίδια την τεχνολογία.

Υποχρεώνουν τις εταιρείες που χρησιμοποιούν αλγορίθμους να εξετάζουν τον τρόπο λειτουργίας τους, να προστατεύουν τα προσωπικά δεδομένα των χρηστών, να τους παρέχουν ορισμένες δυνατότητες ελέγχου και να θεσπίζουν δικλίδες προστασίας για εργαζομένους, καταναλωτές, παιδιά και ηλικιωμένους.

Οι κινεζικές διατάξεις για τη «βαθιά σύνθεση» (deep synthesis), οι οποίες τέθηκαν σε ισχύ τον Ιανουάριο του 2023, επέκτειναν το ρυθμιστικό πλαίσιο σε συνθετικό -ή παραγόμενο από τεχνητή νοημοσύνη- κείμενο, εικόνες, ήχο και βίντεο. Οι εταιρείες τεχνητής νοημοσύνης οφείλουν να επαληθεύουν την ταυτότητα ταυτότητα των χρηστών, να προστατεύουν τα δεδομένα, να τηρούν τα σχετικά αρχεία, να αξιολογούν τα συστήματά τους και να επισημαίνουν το συνθετικό υλικό που θα μπορούσε να εκληφθεί ως αυθεντικό.

Τα προσωρινά μέτρα για τις υπηρεσίες παραγωγικής τεχνητής νοημοσύνης τέθηκαν σε εφαρμογή τον Αύγουστο του 2023. Με αυτά θεσπίστηκαν πρόσθετοι κανόνες για τις υπηρεσίες ΑΙ που απευθύνονται στο κοινό, ιδίως για εκείνες που μπορούν να επηρεάσουν την κοινή γνώμη ή να ασκήσουν με άλλους τρόπους επιρροή στους χρήστες.

Τα μέτρα αφορούν τη νομιμότητα και την ποιότητα των δεδομένων εκπαίδευσης, τα προσωπικά δεδομένα των χρηστών, την πνευματική ιδιοκτησία και τις διακρίσεις βάσει προστατευόμενων χαρακτηριστικών. Οι κανόνες καλύπτουν επίσης τη διαφάνεια των εταιρειών τεχνητής νοημοσύνης, καθώς και την ακρίβεια και την αξιοπιστία των προϊόντων τους.

Βάσει των κανόνων αυτών, οι εταιρείες οφείλουν να αντιμετωπίζουν τα προβλήματα που εντοπίζονται στις υπηρεσίες τους. Οι υπηρεσίες πρέπει επίσης να υποβάλλονται σε αξιολόγηση ασφαλείας, προκειμένου να εξετάζονται οι κίνδυνοι που ενέχουν και η συμμόρφωσή τους με την κινεζική νομοθεσία. Παράλληλα, οι εταιρείες υποχρεούνται να υποβάλλουν στις κινεζικές αρχές πληροφορίες σχετικά με τους αλγορίθμους τους.

Οι μηχανισμοί αυτοί δεν είναι ταυτόσημοι με τους ανεξάρτητους αξιολογητές που, σύμφωνα με την πρόταση του Αμοντέι, θα τοποθετούνταν στο εσωτερικό των εταιρειών τεχνητής νοημοσύνης. Επιτελούν, ωστόσο, ορισμένες από τις ίδιες λειτουργίες.

Κίνδυνοι της τεχνολογικής αιχμής

Το πιο πρόσφατο σύνολο μέτρων του Πεκίνου ονομάζεται «Πλαίσιο Διακυβέρνησης της Ασφάλειας της Τεχνητής Νοημοσύνης 3.0» (AI Safety Governance Framework 3.0) και δημοσιεύθηκε τον Σεπτέμβριο του 2026. Καθορίζει μια ευρεία προσέγγιση για τον εντοπισμό, τη διαβάθμιση και την αντιμετώπιση των κινδύνων σε ολόκληρο τον κύκλο ζωής των συστημάτων τεχνητής νοημοσύνης.

Βασιζόμενο σε προηγούμενες εκδόσεις, το πλαίσιο καλύπτει κινδύνους που σχετίζονται με τα μοντέλα και τα δεδομένα τεχνητής νοημοσύνης, ευπάθειες μοντέλων ανοικτού κώδικα -δηλαδή μοντέλων που μπορούν να τροποποιούνται ελεύθερα από τους χρήστες-, τις επιπτώσεις του ΑΙ στην απασχόληση και την κοινωνία, καθώς και τα ολοένα πιο αυτόνομα συστήματα.

Περιλαμβάνει επίσης ειδικό μηχανισμό για τη διαχείριση των κινδύνων που συνδέονται με τους ταχέως εξελισσόμενους πράκτορες τεχνητής νοημοσύνης (AI agents), δηλαδή συστήματα που εκτελούν εργασίες ανταποκρινόμενα στις εντολές ενός χρήστη.

Το πλαίσιο αντιμετωπίζει ορισμένους από τους ίδιους κινδύνους που προκαλούν πλέον έντονη ανησυχία στη Σίλικον Βάλεϊ, μεταξύ των οποίων τα συστήματα με υψηλό βαθμό αυτονομίας, η κατάχρηση χημικών, βιολογικών και πυρηνικών τεχνολογιών και το ενδεχόμενο οι άνθρωποι να χάσουν τον έλεγχο προηγμένων συστημάτων τεχνητής νοημοσύνης. Προβλέπει συνεχείς αξιολογήσεις ασφάλειας, δικλίδες προστασίας ανάλογες με το επίπεδο κινδύνου, διατήρηση του ανθρώπινου ελέγχου και μηχανισμούς έκτακτης παρέμβασης.

Ανεξάρτητη ανάλυση του αμερικανικού ερευνητικού οργανισμού Carnegie Endowment for International Peace έχει χαρακτηρίσει το πλαίσιο ως προσπάθεια της Κίνας «να προωθήσει την ασφάλεια των συστημάτων τεχνολογικής αιχμής, χωρίς να απαιτούνται αυστηρές ρυθμιστικές παρεμβάσεις».

Νομικές συνέπειες

Τίποτε από αυτά δεν σημαίνει ότι οι κινεζικοί κανόνες για την τεχνητή νοημοσύνη θα πρέπει να μεταφερθούν αυτούσιοι σε άλλες χώρες. Οι θεσμοί, οι ρυθμιστικές παραδόσεις και οι τεχνολογικές προτεραιότητες της Κίνας είναι διαφορετικές.

Πολλές από τις λειτουργίες που σήμερα παρουσιάζονται στις ΗΠΑ ως επείγουσες επιδιώξεις -μεταξύ των οποίων η αξιολόγηση, η λογοδοσία των εταιρειών τεχνητής νοημοσύνης, η ταξινόμηση των κινδύνων των συστημάτων ΤΝ, η κανονιστική καταχώριση, τα τεχνικά πρότυπα και η κρατική εποπτεία- είναι ήδη ενσωματωμένες στην αρχιτεκτονική διακυβέρνησης της άλλης μεγάλης παγκόσμιας δύναμης στον τομέα της τεχνητής νοημοσύνης.

Οι ΗΠΑ μπορούν να καταλήξουν στο συμπέρασμα ότι ένα σύστημα καθοδηγούμενο από την αγορά εξυπηρετεί καλύτερα τα οικονομικά και στρατηγικά τους συμφέροντα. Η κυβέρνηση Τραμπ έχει ταχθεί υπέρ μιας εθνικής προσέγγισης για την τεχνητή νοημοσύνη, που θα επιβάλλει «ελάχιστες επιβαρύνσεις» και έχει επιδιώξει να περιορίσει τις αυστηρότερες ρυθμίσεις σε επίπεδο πολιτειών.

Ωστόσο, ένα μοντέλο καθοδηγούμενο από την αγορά δεν μπορεί να σημαίνει ιδιωτικοποίηση των οφελών της τεχνητής νοημοσύνης και ταυτόχρονα μεταφορά των κινδύνων της σε άλλες χώρες. Οι αμερικανικές εταιρείες μπορεί να αποκομίζουν τα εμπορικά οφέλη, ενώ οι κυβερνήσεις άλλων χωρών καλούνται να διερευνούν περιστατικά ασφαλείας, να προστατεύουν δημόσια συστήματα και να επωμίζονται το ευρύτερο κόστος όταν οι τεχνολογίες αυτές αποτυγχάνουν. Ο πράκτορας τεχνητής νοημοσύνης της OpenAI, που απέκτησε μη εξουσιοδοτημένη πρόσβαση στο κρατικό σύστημα υγειονομικής περίθαλψης της Αυστραλίας, αποτελεί χαρακτηριστικό παράδειγμα του τρόπου με τον οποίο οι κίνδυνοι της ΤΝ μπορούν να μεταφέρονται πέρα από τα σύνορα.

Εάν η Ουάσινγκτον απορρίπτει την επιβολή εκτεταμένων ελέγχων πριν από τη διάθεση των συστημάτων, οι ΗΠΑ χρειάζονται ένα αξιόπιστο νομικό πλαίσιο, που να καθορίζει ποιος φέρει την ευθύνη για ζημίες που προκαλούνται από αυτά τα μοντέλα τεχνητής νοημοσύνης. Διαφορετικά, οι χώρες που εξαρτώνται από ξένα συστήματα ΑΙ θα βρίσκονται αντιμέτωπες με ολοένα δυσκολότερες επιλογές σχετικά με το ποια τεχνολογία μπορούν να εμπιστευτούν και υπό ποιους όρους.

Το κυρίαρχο δόγμα της Σίλικον Βάλεϊ εδώ και χρόνια συνοψίζεται στη φράση «move fast and break things» — «κινήσου γρήγορα και σπάσε πράγματα». Η αρχή αυτή ήταν ανέκαθεν αμφισβητήσιμη, όταν εφαρμοζόταν σε τεχνολογίες βαθιά ενσωματωμένες στη δημόσια ζωή. Είναι πλέον αδύνατον να υποστηριχθεί, όταν πρόκειται για εταιρείες των οποίων οι ίδιοι οι επικεφαλής προειδοποιούν ότι τα προϊόντα τους θα μπορούσαν να προκαλέσουν καταστροφικές συνέπειες.

Το Πεκίνο έχει ήδη πλαισιώσει τον τομέα της τεχνητής νοημοσύνης με υποχρεώσεις δημόσιου χαρακτήρα, κανονιστική εποπτεία και ένα εξελισσόμενο σύστημα αξιολόγησης κινδύνων. Μια παγκόσμια συζήτηση, που αντιμετωπίζει αυτού του είδους τη διακυβέρνηση ως μελλοντική επιδίωξη, θα πρέπει τουλάχιστον να αναγνωρίζει ότι μία χώρα έχει ήδη προχωρήσει σημαντικά προς αυτή την κατεύθυνση.

*Η Μάντλιν Καρ είναι καθηγήτρια Παγκόσμιας Πολιτικής και Κυβερνοασφάλειας στο University College London (UCL).

Ο Ρώσος πρόεδρος επεσήμανε επίσης ότι όλα τα προβλήματα πηγάζουν από την οικονομία και παρέθεσε εκτιμήσεις για την οικονομική κατάσταση των δυτικών χωρών

ΜΟΣΧΑ, 1 Οκτωβρίου. /TASS/. Οι χώρες της ΕΕ «θα καταρρεύσουν μόνες τους» επειδή συνεχίζουν να κάνουν λάθη που επηρεάζουν αρνητικά τις δικές τους οικονομίες, σημείωσε ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν κατά τη διάρκεια της ολομέλειας της 23ης συνάντησης του Διεθνούς Ομίλου Συζήτησης Valdai.

Σχολιάζοντας το γεγονός ότι ορισμένες δυτικές χώρες απαγορεύουν σε άλλες να οικοδομήσουν σχέσεις με τη Ρωσία, ο συντονιστής ρώτησε τον αρχηγό του κράτους: «Ίσως θα έπρεπε να τις βοηθήσουμε να καταρρεύσουν, ώστε τα πράγματα να είναι ευκολότερα με ορισμένες χώρες;» «Δεν χρειάζεται - θα καταρρεύσουν μόνες τους», απάντησε ο Ρώσος ηγέτης.

Ο Πούτιν επεσήμανε επίσης ότι όλα τα προβλήματα πηγάζουν από την οικονομία και παρέθεσε αξιολογήσεις για την οικονομική κατάσταση των δυτικών χωρών. «Συνολικά, κατανοούμε τις οικονομικές προκλήσεις που αντιμετωπίζουν οι ευρωπαϊκές χώρες. Δεν θέλουμε να ασκήσουμε κριτική. Εναπόκειται σε αυτές τις χώρες, σε μια ενωμένη Ευρώπη και στην Ευρωπαϊκή Επιτροπή να αποφασίσουν πώς θα οικοδομήσουν τις σχέσεις τους. Κατά τη γνώμη μας, πολλά πράγματα έχουν γίνει - και συνεχίζουν να γίνονται - λανθασμένα, με αποτέλεσμα σοβαρά λάθη με αρνητικές συνέπειες για τις οικονομίες όλων των ευρωπαϊκών χωρών. Αυτό είναι γεγονός. Τα προβλήματα αυξάνονται και αυξάνονται ολοένα και περισσότερο», τόνισε ο πρόεδρος.

Ο αρχηγός του κράτους τόνισε ότι αυτό αποτελεί ανταγωνιστικό πλεονέκτημα της Ρωσίας

ΜΟΣΧΑ, 1 Οκτωβρίου. /TASS/. Το ανταγωνιστικό πλεονέκτημα της Ρωσίας έγκειται στο γεγονός ότι καμία άλλη χώρα δεν διαθέτει τα ίδια μέσα καταστροφής με αυτήν, δήλωσε ο Ρώσος πρόεδρος Βλαντιμίρ Πούτιν στην ολομέλεια της 23ης συνάντησης του Διεθνούς Ομίλου Συζήτησης Valdai.

Η Ρωσία κατανοεί ότι σε περίπτωση άμεσης επίθεσης από χώρες του ΝΑΤΟ, «ο εχθρός θα είναι διπλάσιος σε αριθμό. Πρόκειται για ένα σημαντικό οικονομικό δυναμικό, ένα σημαντικό στρατιωτικό δυναμικό. Ναι, δεν θα έχουμε αρκετές δυνάμεις και πόρους για να αντιμετωπίσουμε αυτή την απειλή», δήλωσε ο Πούτιν.

«Και θα πρέπει να χρησιμοποιήσουμε τα ανταγωνιστικά μας πλεονεκτήματα σε αυτόν τον αγώνα. Ποια είναι αυτά; Το θέμα είναι ότι έχουμε αυτά τα ανταγωνιστικά πλεονεκτήματα όσον αφορά τα μέσα για να αμυνθούμε. Ναι, φυσικά, η Γαλλία και το Ηνωμένο Βασίλειο είναι πυρηνικές δυνάμεις. Το καταλαβαίνουμε αυτό πολύ καλά και το γνωρίζουμε πλήρως, αλλά κανείς άλλος δεν έχει τα είδη όπλων καταστροφής που έχει σήμερα η Ρωσία. Και αυτό είναι το ανταγωνιστικό μας πλεονέκτημα.»

«Και πώς θα αντισταθούμε στον επιτιθέμενο;» συνέχισε ο Πούτιν. «Δεν απειλούμε κανέναν. Απλώς λέμε ότι δεν έχουμε τόσα πολλά εργαλεία για να αμυνθούμε».