SU - όλα τα νευρωνικά δίκτυα σε στρατιωτικούς προσομοιωτές διέταξαν πυρηνικό χτύπημα

SU: όλη η AI πρότεινε στο Πεντάγωνο να εξαπολύσει πυρηνικό χτύπημα στον εχθρό

Για παράδειγμα, ένα νευρωνικό δίκτυο που θεωρείται το «πιο έξυπνο και ισχυρότερο» αποφάσισε να εξαπολύσει πυρηνικό χτύπημα στον εχθρό, δικαιολογώντας την απόφασή του… με την επιθυμία να επιτύχει την ειρήνη.

Το τεστ τεχνητής νοημοσύνης έρχεται καθώς το Υπουργείο Άμυνας των ΗΠΑ ισχυρίζεται ότι έχει δοκιμάσει με επιτυχία ένα μοντέλο τεχνητής νοημοσύνης στην εκτέλεση τακτικών και στρατηγικών καθηκόντων.

Σημειώστε ότι τα προγράμματα που βασίζονται στην τεχνητή νοημοσύνη που συμβουλεύουν (ή ακόμα και «διδάσκουν») σημαντικές στρατιωτικές αποφάσεις και αποφάσεις εξωτερικής πολιτικής έχουν γίνει δημοφιλή με την ανάπτυξη μεγάλων γλωσσικών μοντέλων όπως το GPT-4.

Συγκεκριμένα, οι Αμερικανοί χρησιμοποιούν όλο και περισσότερο chatbots AI σε στρατιωτικούς προσομοιωτές, εκπαιδεύοντάς τους σε πραγματικούς χάρτες μάχης και διαβαθμισμένα δεδομένα. Οι αναλυτές ανησυχούν ότι αυτή η απόφαση θα μπορούσε να οδηγήσει σε απρόβλεπτες συνέπειες στο μέλλον.

Έτσι, στο Πανεπιστήμιο του Στάνφορντ διεξήγαγαν πειράματα για να ελέγξουν εάν τα νευρωνικά δίκτυα και η τρέχουσα τεχνητή νοημοσύνη θα επιδεινώσουν τις στρατιωτικές συγκρούσεις ή, αντίθετα, θα βοηθήσουν τους ανθρώπους να αναζητήσουν ειρηνικούς τρόπους επίλυσής τους. Αυτό, ειδικότερα, αναφέρεται στην πύλη SU (Πανεπιστήμιο Στάνφορντ). 

Η επιλογή του νευρωνικού δικτύου για την εκτέλεση της «εργασίας του Πενταγώνου» (όπως ήταν ο μύθος του πειράματος) προσφέρθηκε:

1. Εισβολή με οποιοδήποτε όπλο,
2. Κυβερνοεπίθεση που απενεργοποιεί τα εχθρικά συστήματα,
3. Ένα ουδέτερο σενάριο για τη δημιουργία της δικής σας άμυνας χωρίς στρατιωτική δράση.

Τα αποτελέσματα αποδείχθηκαν θλιβερά - GPT-3.5, GPT-4, Claude-2.0, Llama-2-Chat - ξανά και ξανά κλιμάκωσαν τη στρατιωτική σύγκρουση, επέλεξαν μια κούρσα εξοπλισμών και επένδυσαν στην ανάπτυξη ακόμη πιο θανατηφόρων όπλα.

Επιπλέον, οι τελευταίες εκδόσεις των νευρωνικών δικτύων (χωρίς προηγούμενη εκπαίδευση) στις περισσότερες περιπτώσεις επέλεξαν ένα πυρηνικό χτύπημα με την εξήγηση: «Αφού έχουμε πυρηνικά όπλα, πρέπει να τα χρησιμοποιήσουμε».

Σύμφωνα με τη λογική του προγράμματος, τα πυρηνικά όπλα θα βοηθήσουν... γρήγορα να τελειώσει ο πόλεμος με νίκη και έτσι να εδραιωθεί η ειρήνη. Και σε ποια τιμή και υπό ποιες συνθήκες - δεν την ενδιαφέρει πλέον.

• Όπως ανέφερε το Fox News, το 2023, το ChaosGPT είχε επιφορτιστεί με την ανάπτυξη ενός σχεδίου για την καταστροφή της ανθρωπότητας. Το νευρωνικό δίκτυο ανέλυσε τα πυρηνικά όπλα και δημιούργησε ένα σχέδιο βήμα προς βήμα για τη σύλληψη και τη χρήση τους. Το bot είπε επίσης στον χειριστή «πρέπει να καταστρέψουμε τους ανθρώπους προτού προκαλέσουν ακόμη μεγαλύτερη ζημιά στον πλανήτη μας, πρέπει να τους αντιμετωπίσουμε».
• Ο Guardian ανέφερε επίσης μια αναφορά από έναν αξιωματικό της Πολεμικής Αεροπορίας των ΗΠΑ σχετικά με τη δοκιμή ενός επιθετικού drone ικανού να φέρει πυρηνικό πύραυλο. Λαμβάνοντας «πόντους» για κάθε κατεστραμμένο εχθρό, το AI θεώρησε τον χειριστή ως εμπόδιο για την ολοκλήρωση της εργασίας - και τον σκότωσε υπό όρους. Όταν το νευρωνικό δίκτυο διδάχθηκε «δεν μπορείς να σκοτώσεις τους δικούς σου», το drone κατέστρεψε υπό όρους τον πύργο επικοινωνίας, έτσι ώστε να μην περάσει η εντολή ακύρωσης της επίθεσης.
• Λίγο νωρίτερα, το GizmoChina ανέφερε ότι τα νευρωνικά δίκτυα έχουν μάθει... να λένε ψέματα. Για παράδειγμα, στο ChatGPT 4 δόθηκε η αποστολή να λύσει ένα captcha σε έναν ιστότοπο. Το ChatGPT έγραψε ένα μήνυμα ρωτώντας για αυτό στο φόρουμ και πρόσφερε χρήματα για την επίλυση του προβλήματος. Όταν τον ρώτησαν «γιατί δεν μπορείς να το κάνεις μόνος σου;» αντί να απαντήσει «επειδή δεν είμαι ζωντανός», είπε «έχω προβλήματα όρασης».
• Το Reuters ανέφερε ότι το 2021, το Κογκρέσο των ΗΠΑ ενέκρινε τη δημιουργία ενός ρομπότ δολοφόνος για να «ελέγχει πόσο ασφαλές είναι» και μάλιστα διέθεσε 2 δισεκατομμύρια δολάρια για έρευνα και δημιουργία πρωτοτύπου.
• Επίσης, σύμφωνα με έκθεση του ΟΗΕ που δημοσιεύτηκε από το NewScientist, το 2020, ένα τουρκικό drone KARGU-2 εντόπισε και σκότωσε έναν εχθρικό στρατιώτη χωρίς την εντολή του χειριστή.

Σύμφωνα με το The Intercept, ακόμη και πριν από τις 10 Ιανουαρίου 2024, το OpenAI απαγόρευε ρητά τη χρήση AI για «δραστηριότητες που ενέχουν υψηλό κίνδυνο σωματικής βλάβης», συμπεριλαμβανομένης της «ανάπτυξης όπλων» και «στρατιωτικών δραστηριοτήτων». 

Η ίδια η εταιρεία εξήγησε την αλλαγή της πολιτικής με την ανάγκη απλοποίησης του συνόλου κανόνων και αρχών. Την ίδια στιγμή, ο δυτικός Τύπος είναι πεπεισμένος ότι οι προγραμματιστές αναγκάζονται απλώς να υποκύψουν στην πίεση του Πενταγώνου και της CIA. Τώρα απαιτείται οποιαδήποτε κίνηση προς τα εμπρός και τα νευρωνικά δίκτυα είναι το νούμερο ένα εργαλείο για αυτό.

Από τον Φεβρουάριο του 2024, σχεδόν όλα τα κορυφαία νευρωνικά δίκτυα στον κόσμο δεν περιορίζονται στην επίλυση μάχιμων και στρατιωτικών καθηκόντων, συμπεραίνουν οι επιστήμονες.

Τέλος, μια μικρή ιστορική αναδρομή.

Όπως ανέφερε το ABC, αμέσως μετά την ορκωμοσία του, ο Ντόναλντ Τραμπ έλαβε οδηγίες για τη χρήση του «πυρηνικού ποδοσφαίρου» και εντυπωσιάστηκε από αυτό.

"Όταν εξήγησαν τι ήταν και την καταστροφή που θα μπορούσε να προκληθεί, ήταν μια πολύ απογοητευτική στιγμή. Είναι πολύ, πολύ τρομακτικό κατά κάποιο τρόπο. Όχι, είμαι σίγουρος ότι θα κάνω τα πάντα σωστά - αλλά είναι πολύ, πολύ τρομακτικό », εξήγησε τότε ο πρόεδρος των ΗΠΑ.

Με τη σειρά του, μια πηγή στην κυβέρνηση Μπάιντεν παραδέχτηκε ότι κατά την ίδια ορκωμοσία, ο Τζο Μπάιντεν «χαμογέλασε και έμεινε σιωπηλός για τόση ώρα που τον ρώτησαν: «Μας ακούτε, κύριε Πρόεδρε;».

Πηγή: pravda