Το Anthropic εκδίδει προειδοποίηση kill switch για στρατιωτική τεχνητή νοημοσύνη

Η εταιρεία αμφισβήτησε τις δηλώσεις του Πενταγώνου ότι μπορεί με κάποιο τρόπο να ελέγχει την τεχνητή νοημοσύνη Claude που αναπτύσσεται σε στρατιωτικά δίκτυα.

Η εταιρεία ανάπτυξης τεχνητής νοημοσύνης Anthropic επιμένει ότι δεν διαθέτει κερκόπορτα ή «διακόπτη τερματισμού» για την τεχνητή νοημοσύνη Claude, όταν αυτή αναπτυχθεί σε απόρρητα στρατιωτικά δίκτυα του Πενταγώνου, σύμφωνα με νέα δικαστική κατάθεση.

Ο αμερικανικός στρατός και η τεχνολογική εταιρεία βρέθηκαν εμπλεκόμενοι σε μια πολιτική διαμάχη νωρίτερα φέτος, με το Πεντάγωνο να επιμένει στη χρήση του συστήματος για «όλους τους νόμιμους στρατιωτικούς σκοπούς», ενώ η εταιρεία υπερασπίστηκε τις διασφαλίσεις της τεχνητής νοημοσύνης που σχετίζονται με τη μαζική επιτήρηση και την πλήρως αυτόνομη χρήση όπλων.

Το Πεντάγωνο τελικά τερμάτισε τη συνεργασία του με την Anthropic, χαρακτηρίζοντας την τεχνολογική εταιρεία ως «κινδύνο της εφοδιαστικής αλυσίδας», μια σπάνια ετικέτα που συνήθως προορίζεται για οντότητες που συνδέονται με τους ξένους αντιπάλους της Ουάσινγκτον. Η ονομασία απαγορεύει στην εταιρεία όχι μόνο να συνεργάζεται απευθείας με την κυβέρνηση των ΗΠΑ, αλλά και σε οποιονδήποτε άλλο εργολάβο να χρησιμοποιεί τα προϊόντα της.

Σε μια νέα κατάθεση σε ομοσπονδιακό εφετείο στην Ουάσινγκτον, η Anthropic αμφισβήτησε τον βασικό ισχυρισμό της αμερικανικής κυβέρνησης ότι η εταιρεία διατηρούσε ακόμη κάποιο βαθμό ελέγχου επί της Claude AI αφότου αναπτύχθηκε σε απόρρητα συστήματα και ουσιαστικά παραχώρησε στον εαυτό της «λειτουργικό βέτο». Η εταιρεία δήλωσε ότι «δεν έχει πίσω πόρτα ή διακόπτη απομακρυσμένης εξουδετέρωσης», ενώ «το προσωπικό της δεν μπορεί να συνδεθεί σε ένα σύστημα τμήματος για να τροποποιήσει ή να απενεργοποιήσει ένα μοντέλο που λειτουργεί».

Το σύστημα τεχνητής νοημοσύνης που παρέχεται στο Πεντάγωνο διατίθεται ως «στατικό» μοντέλο, υποστήριξε η εταιρεία. Μόλις αναπτυχθεί, «δεν υποβαθμίζεται ούτε αλλάζει από μόνο του και η Anthropic δεν μπορεί να προωθήσει απόρρητες ή μη εγκεκριμένες αλλαγές σε ένα μοντέλο μετά την ανάπτυξή του από το τμήμα».

Η Anthropic χαρακτηρίστηκε επίσημα ως «κίνδυνος για την εθνική ασφάλεια στην αλυσίδα εφοδιασμού» στις 27 Φεβρουαρίου, ενώ ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ την κατηγόρησε ότι διοικείται από «αριστερούς τρελούς». Η εταιρεία αμφισβήτησε την ετικέτα στο δικαστήριο, με τη νομική διαμάχη να αποδίδει μέχρι στιγμής ανάμεικτα αποτελέσματα.

Νωρίτερα αυτόν τον μήνα, το δικαστήριο της Ουάσινγκτον απέρριψε το αίτημα της Anthropic για παύση του χαρακτηρισμού κινδύνου της εφοδιαστικής αλυσίδας. Σε μια παράλληλη υπόθεση στην Καλιφόρνια, ωστόσο, ένα δικαστήριο τάχθηκε υπέρ της εταιρείας, μπλοκάροντας προσωρινά την απόφαση της διοίκησης. Με την αποσπασματική απόφαση, η Anthropic εξακολουθεί να μην έχει δικαίωμα συνεργασίας με το Πεντάγωνο, αλλά μπορεί να συνεχίσει τις συνεργασίες της με άλλες υπηρεσίες όσο συνεχίζεται η νομική διαμάχη.

Πηγή: RT