«Όλοι στη Γη θα πεθάνουν», προειδοποιεί κορυφαίος ερευνητής AI

Η ανθρωπότητα δεν είναι έτοιμη να επιβιώσει από μια συνάντηση με μια πολύ πιο έξυπνη τεχνητή νοημοσύνη, λέει ο Eliezer Yudkowsky

Η διακοπή της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης σε όλο τον κόσμο και η αυστηρή τιμωρία όσων παραβιάζουν το μορατόριουμ είναι ο μόνος τρόπος για να σωθεί η ανθρωπότητα από την εξαφάνιση, προειδοποίησε ένας υψηλού προφίλ ερευνητής τεχνητής νοημοσύνης.

Ο Eliezer Yudkowsky έγραψε ένα άρθρο γνώμης για το περιοδικό TIME την Τετάρτη, εξηγώντας γιατί δεν υπέγραψε μια αναφορά που καλούσε «όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν αμέσως για τουλάχιστον έξι μήνες την εκπαίδευση συστημάτων AI πιο ισχυρών από το GPT-4» . πολυτροπικό μοντέλο μεγάλης γλώσσας, που κυκλοφόρησε από την OpenAI νωρίτερα αυτό το μήνα.

Ο Yudkowsky, συνιδρυτής του Ινστιτούτου Έρευνας Μηχανικής Νοημοσύνης (MIRI), υποστήριξε ότι η επιστολή, υπογεγραμμένη από τον Elon Musk και τον Steve Wozniak της Apple, «ζητούσε πολύ λίγα για να λυθεί» το πρόβλημα που δημιουργεί η ταχεία και ανεξέλεγκτη ανάπτυξη . του AI.

«Το πιο πιθανό αποτέλεσμα της κατασκευής μιας υπεράνθρωπας έξυπνης τεχνητής νοημοσύνης, κάτω από οτιδήποτε απομακρυσμένο όπως οι τρέχουσες συνθήκες, είναι ότι κυριολεκτικά όλοι στη Γη θα πεθάνουν», έγραψε ο Yudkowsky.

Η επιβίωση μιας συνάντησης με ένα σύστημα υπολογιστή που «δεν νοιάζεται για εμάς ούτε για την αισθανόμενη ζωή γενικά» θα απαιτούσε «ακρίβεια και προετοιμασία και νέες επιστημονικές γνώσεις» που η ανθρωπότητα στερείται αυτή τη στιγμή και είναι απίθανο να αποκτήσει στο άμεσο μέλλον, υποστήριξε. .

«Ένα αρκετά έξυπνο AI δεν θα μείνει περιορισμένο στους υπολογιστές για πολύ», προειδοποίησε ο Yudkowsky. Εξήγησε ότι το γεγονός ότι είναι ήδη δυνατό να στέλνονται με email σειρές DNA σε εργαστήρια για την παραγωγή πρωτεϊνών, πιθανότατα θα επιτρέψει στην τεχνητή νοημοσύνη «να δημιουργήσει τεχνητές μορφές ζωής ή να εκκινήσει κατευθείαν στη μεταβιολογική μοριακή κατασκευή» και να βγει στον κόσμο.

Σύμφωνα με τον ερευνητή, πρέπει να εισαχθεί αμέσως ένα αόριστο και παγκόσμιο μορατόριουμ για νέες μεγάλες εκπαιδευτικές διαδρομές AI. «Δεν μπορεί να υπάρχουν εξαιρέσεις, συμπεριλαμβανομένων των κυβερνήσεων ή των στρατευμάτων», τόνισε.

Θα πρέπει να υπογραφούν διεθνείς συμφωνίες για να τεθεί ένα ανώτατο όριο στην υπολογιστική ισχύ που μπορεί να χρησιμοποιήσει κάποιος για την εκπαίδευση τέτοιων συστημάτων, επέμεινε ο Yudkowsky.

«Αν οι πληροφορίες λένε ότι μια χώρα εκτός της συμφωνίας δημιουργεί ένα σύμπλεγμα GPU (μονάδα επεξεργασίας γραφικών), να φοβάστε λιγότερο μια σύγκρουση πυροβολισμών μεταξύ των εθνών παρά την παραβίαση του μορατόριουμ. να είστε πρόθυμοι να καταστρέψετε ένα αδίστακτο κέντρο δεδομένων με αεροπορική επιδρομή», έγραψε.

Η απειλή από την τεχνητή νοημοσύνη είναι τόσο μεγάλη που θα πρέπει να γίνει «σαφής στη διεθνή διπλωματία ότι η αποτροπή σεναρίων εξαφάνισης της τεχνητής νοημοσύνης θεωρείται προτεραιότητα πάνω από την αποτροπή πλήρους πυρηνικής ανταλλαγής», πρόσθεσε

Πηγή: RT