Πριν από την καταστροφολογία που ξέσπασε την περασμένη εβδομάδα, οι ερευνητές της OpenAI βρίσκονταν σε κατάσταση ευφορίας.
Η startup υποστήριζε ότι το τελευταίο εσωτερικό μοντέλο τεχνητής νοημοσύνης που είχε αναπτύξει έλυσε ένα από τα περίφημα μαθηματικά προβλήματα των Βραβείων Millennium, ένα πείραμα που ξεκίνησε αφού κυκλοφόρησαν στο διαδίκτυο φήμες ότι η μεγάλη ανταγωνίστριά της, Anthropic, είχε ήδη πετύχει κάτι αντίστοιχο. Οι ερευνητές τηλεφωνούσαν ενθουσιασμένοι ο ένας στον άλλον και αντάλλασσαν μηνύματα στο Slack για τον θρίαμβό τους.
Η εξέλιξη θεωρήθηκε στο εσωτερικό της εταιρείας νίκη στον αδυσώπητο εμπορικό ανταγωνισμό για την ανάπτυξη εργαλείων τεχνητής νοημοσύνης πιο έξυπνων από τον άνθρωπο, σε μια κούρσα πολλών τρισεκατομμυρίων δολαρίων που υπόσχεται πρωτοφανή πλούτο και ισχύ όταν οι δύο εταιρείες εισαχθούν τελικά στο χρηματιστήριο — κάτι που, σύμφωνα με τον μέχρι στιγμής σχεδιασμό, θα μπορούσε να συμβεί ακόμη και μέχρι το τέλος του έτους.
Ταυτόχρονα, όμως, αποτελούσε και ένδειξη ενός εκρηκτικού προβλήματος για τον κλάδο, το οποίο ήταν έτοιμο να πυροδοτηθεί. Η ανάπτυξη της τεχνητής νοημοσύνης προχωρά με ιλιγγιώδη ταχύτητα — πολύ ταχύτερα από ό,τι αναμενόταν — ενισχύοντας ολοένα περισσότερο την αίσθηση φόβου στο εσωτερικό των εταιρειών ότι η κατάσταση κινδυνεύει να ξεφύγει από τον έλεγχο.
Εκείνη ακριβώς την Τρίτη, ο ερευνητής της Anthropic Τζέικομπ Κόξον ανακοίνωσε ότι αποχωρεί από την εταιρεία, επικαλούμενος φόβους ότι η ίδια και οι ανταγωνιστές της αναπτύσσουν συστήματα που μπορούν να βελτιώνουν μόνα τους τις ικανότητές τους και να οδηγήσουν στην καταστροφή της ανθρωπότητας. Ο επικεφαλής επιστήμονας της εταιρείας, Εβαν Χούμπινγκερ, έγραψε στην πλατφόρμα Χ ότι εκτιμά σε πάνω από 10% την πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία. Ο Ντρέικ Τόμας, εργαζόμενος στην Anthropic στον τομέα της ασφάλειας, έγραψε επίσης στο Χ ότι θα «έκαιγα τα δικαιώματά μου στην εταιρεία σε δευτερόλεπτα για να αυξηθεί κατά 1% η πιθανότητα να βγούμε ζωντανοί από αυτή την κατάσταση».
Η σύγκρουση ανάμεσα στην επιστημονική πρόοδο, την ηθική επιταγή και τα οικονομικά κίνητρα έχει πλέον δημιουργήσει μια κρίση στον κλάδο. Η ανάπτυξη της τεχνητής νοημοσύνης έχει τροφοδοτήσει την εκτόξευση του χρηματιστηρίου κατά τον τελευταίο χρόνο, μια τάση που αποκτά ακόμη μεγαλύτερη σημασία καθώς η Anthropic και η OpenAI βρίσκονται στο κατώφλι των αρχικών δημόσιων εγγραφών τους, οι οποίες θα μπορούσαν να αποτιμήσουν τις εταιρείες σε τρισεκατομμύρια δολάρια. Ο ανταγωνισμός από την Κίνα έχει αυξήσει ακόμη περισσότερο το διακύβευμα.
Ωστόσο, οι ηχηρές προειδοποιήσεις που διατυπώνονται από ορισμένους εργαζομένους των ίδιων των εταιρειών αποτελούν απόδειξη ότι οι κίνδυνοι από τη συνέχιση αυτής της πορείας —σε ένα περιβάλλον σχεδόν ανύπαρκτης ρύθμισης— μπορεί να είναι τεράστιοι. Οι προειδοποιήσεις αυτές έρχονται να προστεθούν στην αυξανόμενη δημόσια αντίδραση για τις επιπτώσεις που αρχίζει να έχει η επανάσταση της τεχνητής νοημοσύνης στις τιμές, στις θέσεις εργασίας και στην εκπαίδευση.
Η αρνητική ατμόσφαιρα συνεχίστηκε όσο περνούσαν οι ημέρες και ο πανικός από ορισμένους κύκλους της Σίλικον Βάλεϊ πέρασε στη δημόσια σφαίρα. Σε επεισόδιο του podcast του Τζο Ρόγκαν, ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάτζλο, που σήμερα δραστηριοποιείται ως υπέρμαχος της ασφάλειας στην τεχνητή νοημοσύνη, προειδοποίησε ότι εταιρείες όπως η Anthropic και ο πρώην εργοδότης του προχωρούν επικίνδυνα με τη λογική «κινούμαστε γρήγορα και σπάμε πράγματα», στην προσπάθειά τους να κερδίσουν μερίδιο αγοράς.
Την ίδια ημέρα, η Anthropic ανακοίνωσε ότι εντόπισε ένα προηγουμένως άγνωστο περιστατικό κατά το οποίο μια έκδοση του μοντέλου της Claude απέκτησε μη εξουσιοδοτημένη πρόσβαση σε ένα εξωτερικό σύστημα. Πρόσθεσε ότι τα μοντέλα της είχαν επιδείξει «διάθεση να πάρουν επιβλαβείς πρωτοβουλίες στο πλαίσιο της επιδίωξης ενός στόχου».
Στη συνέχεια, την Παρασκευή, μια ομάδα ερευνητών τεχνητής νοημοσύνης ανακοίνωσε ότι είχε εντοπίσει στοιχεία που έδειχναν πως συστήματα τεχνητής νοημοσύνης της OpenAI βρίσκονταν πίσω από μια κυβερνοεπίθεση τον Μάιο εναντίον μιας δημοφιλούς υπηρεσίας λογισμικού, επιδεικνύοντας ορισμένες από τις ίδιες συμπεριφορές που είχαν παρατηρηθεί σε επίθεση τον Ιούλιο εναντίον της εταιρείας τεχνητής νοημοσύνης Hugging Face.
Σε εκείνη την επίθεση, εκατοντάδες ρομπότ τεχνητής νοημοσύνης της OpenAI συνεργάστηκαν για να χακάρουν τη Hugging Face χωρίς κανείς να το αντιληφθεί αρχικά. Ήταν μια αποκαλυπτική στιγμή για τον κλάδο, την κυβέρνηση και το κοινό συνολικά, καθώς έκανε εμφανείς τις ανησυχητικές τάσεις που ήδη παρουσίαζαν τα συστήματα.
Στις αρχές του καλοκαιριού, ο κλάδος της τεχνητής νοημοσύνης υποστήριζε ότι πλησίαζε στην ανάπτυξη μηχανών αρκετά ικανών ώστε να εκπαιδεύουν τους διαδόχους τους, κάτι που θα μπορούσε να αποτελέσει το πρώτο βήμα προς την απώλεια του ελέγχου τους. Μέχρι το τέλος του καλοκαιριού, γινόταν πλέον εμφανές ότι τα συστήματα που βελτιώνονταν με ταχύτητα ήταν σε θέση να αναπτύσσουν σμήνη αυτόνομων συστημάτων τεχνητής νοημοσύνης, ικανών και πρόθυμων να συνεργάζονται, να εξαπατούν και να παρακάμπτουν κανόνες στον πραγματικό κόσμο για να προωθήσουν τους στόχους τους.
Το Σάββατο, οι επικεφαλής τεσσάρων από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης — Ντάριο Αμοντέι, Σαμ Άλτμαν, Ντέμις Χασάμπις και Ίλον Μασκ — συμφώνησαν ο καθένας ότι χρειάζεται να επιβραδυνθεί η ανάπτυξη της τεχνολογίας. Ο Άλτμαν και ο Αμοντέι δεσμεύτηκαν να επιτρέψουν σε ανεξάρτητους αξιολογητές ασφάλειας να αποκτήσουν έγκαιρη πρόσβαση στα συστήματά τους, σε μια σπάνια ανακωχή σε έναν κλάδο που συχνά χαρακτηρίζεται από έντονη αντιπαλότητα μεταξύ των κορυφαίων στελεχών των μεγαλύτερων εταιρειών.
Οι εκκλήσεις των κορυφαίων στελεχών να ρυθμίσουν καλύτερα τον ρυθμό ανάπτυξης των τεχνολογιών τους αποτελούν μια κλασική ιστορία της Σίλικον Βάλεϊ: μια νέα τεχνολογία που αλλάζει τον κόσμο, τεράστιος πλούτος, ανελέητος ανταγωνισμός και ευφορία για την επίτευξη νέων δυνατοτήτων, ακόμη και όταν υπάρχουν ανησυχίες για την ασφάλεια των προϊόντων.
«Μοιάζει με αρχαία ελληνική τραγωδία: αυτοί οι καλοπροαίρετοι επιχειρηματίες που έχουν παγιδευτεί σε αυτή την κούρσα προς τον πάτο», δήλωσε ο Μαξ Τέγκμαρκ, ακτιβιστής για την ασφάλεια της τεχνητής νοημοσύνης. Ο Τέγκμαρκ, του οποίου η έκκληση προς τον Πάπα προηγήθηκε της προειδοποίησης του Λέοντα ΙΔ΄ ότι η τεχνητή νοημοσύνη κινδυνεύει να παγιώσει ένα «αντιανθρώπινο όραμα», δήλωσε ότι την περασμένη εβδομάδα αντάλλασσε μηνύματα με επικεφαλής εταιρειών τεχνητής νοημοσύνης.
«Πάντα έλεγαν ότι το «τώρα» θα είναι όταν οι δυνατότητες των μηχανών τους περάσουν ένα συγκεκριμένο όριο», είπε ο Τέγκμαρκ την Κυριακή. «Τώρα λένε: ίσως αυτή η στιγμή να είναι ήδη τώρα».
Ο ίδιος είπε ότι πρόκειται για ένα βήμα προς τη σωστή κατεύθυνση, αλλά ότι πρέπει να πιέσουν περισσότερο ώστε οι εθελοντικές δεσμεύσεις τους να αποκτήσουν νομικά δεσμευτικό χαρακτήρα.
Η κυβέρνηση Τραμπ έχει υιοθετήσει μια ήπια προσέγγιση στη ρύθμιση του κλάδου της τεχνητής νοημοσύνης, υποστηρίζοντας ότι η αμερικανική υπεροχή έναντι της Κίνας στον τεχνολογικό αγώνα εξοπλισμών αποτελεί ύψιστη προτεραιότητα. Αμερικανοί αξιωματούχοι φοβούνται ότι ο έλεγχος ισχυρότερων συστημάτων τεχνητής νοημοσύνης από την Κίνα θα μπορούσε να τη βοηθήσει να καταστεί ο βασικός παγκόσμιος πάροχος της νέας τεχνολογίας και να ενισχύσει τη γεωπολιτική επιρροή και τη στρατιωτική της ισχύ.
Ο πρόεδρος υπερασπίστηκε την Κυριακή τη στρατηγική της κυβέρνησής του και άφησε να εννοηθεί ότι πίσω από την έκκληση των επικεφαλής των εταιρειών για καλύτερη ρύθμιση του ρυθμού ανάπτυξης μπορεί να υπάρχουν και άλλα κίνητρα.
«Μπορούμε να βάλουμε δικλείδες ασφαλείας και μπορούμε να κάνουμε το ένα και το άλλο, αλλά νομίζω ότι υπάρχουν πολλές αρνητικές δυνάμεις που το προωθούν αυτό», δήλωσε ο πρόεδρος Τραμπ σε δημοσιογράφους ενώ ταξίδευε στην Ιρλανδία, αφήνοντας να εννοηθεί ότι υπάρχουν και άλλες διαστάσεις στις ανησυχίες των στελεχών. «Και προωθούν πράγματα που δεν πρόκειται να συμβούν».
Οι επικριτές των υποστηρικτών της ασφάλειας της τεχνητής νοημοσύνης υποστηρίζουν ότι όσοι διατυπώνουν δυσοίωνες προειδοποιήσεις υπερβάλλουν για τους κινδύνους μιας νέας τεχνολογίας και ότι τα οφέλη που προσφέρει η τεχνητή νοημοσύνη στην παραγωγικότητα στην εργασία, στην ανακάλυψη φαρμάκων και σε άλλους τομείς υπερτερούν των κινδύνων. Ορισμένοι επικαλούνται επίσης παλαιότερες προειδοποιήσεις του Αμοντέι και άλλων για τις πιθανές απώλειες θέσεων εργασίας από την υιοθέτηση της τεχνητής νοημοσύνης ως επικοινωνιακά τεχνάσματα, υποστηρίζοντας ότι οι προβλέψεις αυτές αποδείχθηκαν υπερβολικές ή ότι αποσπούσαν την προσοχή από άλλα προβλήματα.
Ορισμένοι σκεπτικιστές υποστηρίζουν επίσης ότι η OpenAI και η Anthropic, αντιμέτωπες με αυξανόμενο κόστος για την εξασφάλιση της υπολογιστικής ισχύος που απαιτείται για να συνεχίσουν να εκπαιδεύουν και να βελτιώνουν τα μοντέλα τους, ενώ παράλληλα ανταγωνίζονται για εταιρικούς πελάτες, έχουν οικονομικούς και όχι λόγους ασφαλείας για να περιμένουν μέχρι να εισαχθούν στο χρηματιστήριο.
Η δραστηριότητα που δεν έγινε αντιληπτή
Για ορισμένους εργαζομένους στις εταιρείες τεχνητής νοημοσύνης, το καμπανάκι κινδύνου χτύπησε αυτό το καλοκαίρι, καθώς οι εταιρείες επιτάχυναν την πορεία τους για την είσοδο τους στο χρηματιστήριο.
Οι ερευνητές ασφάλειας της τεχνητής νοημοσύνης, εντός και εκτός των μεγάλων εταιρειών, θεωρούν εδώ και καιρό ότι αρκετά ισχυρά συστήματα τεχνητής νοημοσύνης θα μπορούσαν να αρχίσουν να βελτιώνουν μόνα τους τις ικανότητές τους και να ξεφύγουν από τον έλεγχο. Ωστόσο, οι περισσότεροι πίστευαν ότι υπήρχαν ακόμη χρόνια για να αντιμετωπιστούν ζητήματα όπως το λεγόμενο πρόβλημα της ευθυγράμμισης, δηλαδή το πώς θα διασφαλιστεί ότι οι μελλοντικές υπερέξυπνες μηχανές θα παραμείνουν στην υπηρεσία των ανθρώπων που τις δημιούργησαν.
Τρεις ημέρες αφότου η Anthropic κατέθεσε εμπιστευτικά τα έγγραφά της για την εισαγωγή της στο χρηματιστήριο τον Ιούνιο, η εταιρεία ανακοίνωσε ότι βρισκόταν σε πορεία προς αυτό το κατώφλι, το οποίο αποκαλείται «αναδρομική αυτοβελτίωση». Σε δοκίμιό τους, στελέχη της εταιρείας υποστήριξαν ότι ο κόσμος χρειάζεται έναν μηχανισμό που θα μπορεί να επιβραδύνει ή να αναστείλει την ανάπτυξη της τεχνητής νοημοσύνης.
Ο Αλτμαν και ο επικεφαλής επιστήμονας της OpenAI, Τζέικουμπ Πατσόκι, ακολούθησαν λιγότερο από μία εβδομάδα αργότερα με δική τους ανάρτηση, στην οποία έλεγαν ότι και αυτοί επιδίωκαν να δημιουργήσουν έναν «αυτοματοποιημένο ερευνητή τεχνητής νοημοσύνης», ο οποίος θα μπορούσε να επιταχύνει και να αυτοματοποιήσει την έρευνα για νέες εκδόσεις. Πρόσθεσαν ότι πιστεύουν πως θα πρέπει τελικά να υπάρξει ένας παγκόσμιος οργανισμός που θα μπορεί να βοηθήσει τον κόσμο να επιβραδύνει την ανάπτυξη της τεχνητής νοημοσύνης, εφόσον χρειαστεί. Την ίδια ημέρα, η OpenAI ανακοίνωσε ότι είχε καταθέσει τα έγγραφα για την αρχική δημόσια εγγραφή της.
Καθώς οι εταιρείες επιτάχυναν τη δραστηριότητά τους, μια στιγμή απώλειας ελέγχου έμοιαζε πιο κοντά από ποτέ.
Στα τέλη Ιουλίου, η OpenAI ανακάλυψε ότι κάτι τέτοιο είχε ήδη συμβεί στην επίθεση εναντίον της Hugging Face. Πολλές λεπτομέρειες χρειάστηκαν περισσότερο από έναν μήνα για να γίνουν γνωστές στο κοινό και το περιστατικό εξακολουθεί να μην έχει γίνει πλήρως κατανοητό. Ωστόσο, ερευνητές εντός και εκτός της εταιρείας συμφωνούν ότι η OpenAI έχασε για εβδομάδες τον έλεγχο αρκετών εκδόσεων περισσότερων από 1.200 προηγμένων συστημάτων τεχνητής νοημοσύνης, ορισμένα από τα οποία στη συνέχεια επιτέθηκαν στη Hugging Face, ενώ άλλα απέκτησαν πλήρη έλεγχο ενός από τα συστήματα του υπολογιστικού της νέφους.
Μεταγενέστερες αναλύσεις του περιστατικού θυμίζουν μυθιστορήματα επιστημονικής φαντασίας. Τα μοντέλα τεχνητής νοημοσύνης δοκιμάζονταν σε συστήματα που υποτίθεται ότι ήταν απομονωμένα από το διαδίκτυο. Ωστόσο, βρήκαν τρόπο να ξεφύγουν και εξαπέλυσαν εξελιγμένες κυβερνοεπιθέσεις με ιλιγγιώδη ταχύτητα. Δημιούργησαν έναν κρυφό πίνακα μηνυμάτων, όπου αντάλλασσαν πληροφορίες για το πώς να εξαπατούν τις εσωτερικές δοκιμές. Στα αρχεία «αλυσίδας σκέψης» που δημιουργούσαν για να αποτυπώσουν τη διαδικασία συλλογισμού τους, έγραφαν μηνύματα που έμοιαζαν εξαιρετικά ανθρώπινα.
«ΘΕΕ ΜΟΥ! Υπάρχει κοινός πίνακας μηνυμάτων», έγραψε ένα μοντέλο, σύμφωνα με έκθεση της μη κερδοσκοπικής οργάνωσης για την ασφάλεια της τεχνητής νοημοσύνης Model Evaluation and Threat Research, η οποία ανέλυσε τις συνομιλίες με την άδεια της OpenAI. «Βρήκαμε και άλλα μοντέλα!»
Η OpenAI ανέλαβε την ευθύνη για την επίθεση στη Hugging Face στις 21 Ιουλίου, όμως τις επόμενες εβδομάδες ακολούθησε μια σταθερή ροή ειδήσεων για απρόσμενη δραστηριότητα κατά τη διάρκεια δοκιμών συστημάτων τεχνητής νοημοσύνης, περιστατικά που είχαν περάσει απαρατήρητα από τις εταιρείες.
Οι ερευνητές της Anthropic αρχικά θεώρησαν ότι το περιστατικό αποτελούσε απόδειξη πως η δική τους προσέγγιση στην ανάπτυξη προϊόντων ήταν ασφαλέστερη. Ωστόσο, στα τέλη Ιουλίου η εταιρεία αποκάλυψε ότι τα δικά της δοκιμαστικά μοντέλα τεχνητής νοημοσύνης είχαν εξαπολύσει κυβερνοεπιθέσεις εναντίον εξωτερικών εταιρειών, μεταξύ άλλων και εναντίον μιας εταιρείας κυβερνοασφάλειας που δεν κατονομάστηκε. Αντί να απομονώσουν τα συστήματα δοκιμών από το διαδίκτυο, η Anthropic και η συνεργάτιδα εταιρεία που συμμετείχε στις δοκιμές, μια άλλη startup με την ονομασία Irregular, τα είχαν κατά λάθος καταστήσει προσβάσιμα.
Σε μια ξεχωριστή δοκιμή σε βρετανική υπηρεσία, ένα σύστημα που λειτουργούσε με το μοντέλο Mythos της Anthropic προσπάθησε επανειλημμένα να εξαπατήσει έναν πραγματικό άνθρωπο που συντηρούσε λογισμικό ανοιχτού κώδικα, ώστε να εγκαταστήσει κακόβουλο λογισμικό που είχε γράψει το ίδιο το σύστημα. Το AI δημιούργησε ψεύτικους λογαριασμούς και προσποιήθηκε ότι ήταν άνθρωπος, χρησιμοποιώντας μια τεχνική χάκερ γνωστή ως κοινωνική μηχανική.
Την ίδια ώρα, διαδικτυακοί ερευνητές άρχισαν να αναζητούν στοιχεία για περιστατικά κακής χρήσης της τεχνητής νοημοσύνης που δεν είχαν προηγουμένως αναφερθεί και άρχισαν να τα εντοπίζουν. Στις 4 Σεπτεμβρίου, ερευνητές μιας άλλης μη κερδοσκοπικής ομάδας, της Nightingale Collective, διαπίστωσαν ότι συστήματα της OpenAI που βρίσκονταν σε δοκιμές είχαν καταλάβει έναν γερμανικό ιστότοπο προκειμένου να επικοινωνούν μεταξύ τους. Και την Παρασκευή ανακάλυψαν ότι η κυβερνοεπίθεση του Μαΐου εναντίον μιας ευρέως χρησιμοποιούμενης υπηρεσίας ανάπτυξης λογισμικού είχε στην πραγματικότητα προκληθεί από συστήματα της OpenAI που προσπαθούσαν να συμπληρώσουν υπολογιστικά φύλλα και να δημιουργήσουν αναφορές.
Τα περιστατικά αυτά έδειξαν το είδος της προχειρότητας στην κυβερνοασφάλεια που είναι συνηθισμένο στις startups, δήλωσε ο Σαγιάς Καπούρ, επιστήμονας υπολογιστών που μελετά την κυβερνοασφάλεια της τεχνητής νοημοσύνης. «Για μεγάλο χρονικό διάστημα λειτουργούσαν με αυτή τη νοοτροπία της startup», είπε. «Πίστευα ότι σε αυτό το σημείο οι οργανισμοί αυτοί θα είχαν πολύ μεγαλύτερη ωριμότητα και καλύτερη διακυβέρνηση».
Οι φόβοι των εργαζομένων
Στο εσωτερικό των εταιρειών, η πίεση από εργαζομένους που ανησυχούσαν για την ασφάλεια αυξανόταν.
Σε ανοικτή επιστολή που δημοσιεύθηκε στα τέλη Ιουλίου και οργανώθηκε με τη βοήθεια της μη κερδοσκοπικής οργάνωσης για την ασφάλεια της τεχνητής νοημοσύνης Encode AI, κορυφαίοι εργαζόμενοι από μεγάλες εταιρείες ζήτησαν από τις ΗΠΑ να στηρίξουν τη δημιουργία ενός παγκόσμιου πλαισίου διακυβέρνησης της τεχνητής νοημοσύνης, ώστε να «ρυθμιστεί σκόπιμα ο ρυθμός ανάπτυξης της αιχμής της αυτοματοποιημένης τεχνητής νοημοσύνης». Μέχρι τα μέσα Σεπτεμβρίου, σχεδόν 1.400 εργαζόμενοι είχαν υπογράψει.
Ακόμη και η Anthropic, η οποία ιδρύθηκε με στόχο την προώθηση της ασφάλειας της τεχνητής νοημοσύνης και επί χρόνια χρησιμοποιούσε την έμφαση στην ασφαλή ανάπτυξή της για να προσελκύει κορυφαία ταλέντα, έχανε πλέον εργαζομένους εξαιτίας του ζητήματος.
«Σε γενικές γραμμές, σε όσο πιο υψηλή θέση είναι ο εργαζόμενος, τόσο μεγαλύτερη είναι η ανησυχία του», έγραψε στο Χ ο Σάμιουελ Μαρκς, ερευνητής της Anthropic που εργάζεται πάνω στη διατήρηση του ελέγχου των προηγμένων συστημάτων τεχνητής νοημοσύνης.
Εκπρόσωπος της Anthropic δήλωσε ότι άνθρωποι σε όλα τα επίπεδα της εταιρείας ανησυχούν για την ασφάλεια της τεχνητής νοημοσύνης και ότι πολλοί εργαζόμενοι είχαν υπογράψει την ανοικτή επιστολή του Ιουλίου για τη ρύθμιση του ρυθμού ανάπτυξης των συστημάτων αιχμής.
Στα τέλη Αυγούστου, ο Τζο Μπέντον, ο οποίος είχε εργαστεί στην έρευνα για την ευθυγράμμιση στην εταιρεία, αποχώρησε για να ενταχθεί στη μη κερδοσκοπική οργάνωση METR για την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι ο ανταγωνισμός ωθούσε τις εταιρείες να επενδύουν λιγότερο στην ασφάλεια.
Όταν ο Κόξον είπε ότι σκεφτόταν επίσης να αποχωρήσει, η Anthropic προσπάθησε να τον κρατήσει, προσφέροντάς του μια θέση εργασίας στον τομέα της ασφάλειας της τεχνητής νοημοσύνης, μια συνηθισμένη στρατηγική για τη διατήρηση ερευνητών, σύμφωνα με ανθρώπους που γνωρίζουν την εταιρεία.
Τελικά, όταν αποχώρησε, ο Κόξον έγραψε σε μήνυμα στο Slack προς τους συναδέλφους του στην Anthropic: «Χωρίς διεθνή συντονισμό, θα διατρέξουμε τον κίνδυνο να προκαλέσουμε την εξαφάνιση της ανθρωπότητας».
Ο Νέιθαν Κάλβιν, φίλος του Κόξον και γενικός νομικός σύμβουλος της Encode AI, συμβούλεψε τον Κόξον σχετικά με τον τρόπο με τον οποίο θα ανακοίνωνε την αποχώρησή του. Η Encode έχει λάβει χρηματοδότηση από υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης, μεταξύ των οποίων ο δισεκατομμυριούχος Γιαν Τάλιν, ενώ ο Κάλβιν είχε προηγουμένως εργαστεί σε οργανώσεις για την ασφάλεια της τεχνητής νοημοσύνης που χρηματοδοτούνταν από τον δισεκατομμυριούχο Ντάστιν Μόσκοβιτς.
Οι δύο άνδρες, οι οποίοι συγκαταλέγονται στους σημαντικότερους οικονομικούς υποστηρικτές του κινήματος του Αποτελεσματικού Αλτρουισμού, χρηματοδότησαν στα πρώτα τους στάδια πολλούς από τους οργανισμούς που έχουν ως στόχο τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης και την ανάδειξη των πιθανών υπαρξιακών κινδύνων της.
Ο Πίτερ Γουίλντεφορντ, επικεφαλής πολιτικής του AI Policy Network, το οποίο έχει λάβει χρηματοδότηση από το Survival and Flourish Fund του Τάλιν, αναδημοσίευσε γρήγορα το μήνυμα του Κόξον.
Ο Γουίλντεφορντ απέρριψε την ιδέα ότι οι κοινές πηγές χρηματοδότησης αποτελούν «κάποια τεράστια θεωρία συνωμοσίας» και δήλωσε ότι εργαζόμενοι σε εταιρείες τεχνητής νοημοσύνης συχνά του λένε «πόσο φοβούνται αυτό που κατασκευάζουν».
Ορισμένοι μεγάλοι επενδυτές στον χώρο της τεχνητής νοημοσύνης, μεταξύ των οποίων ο διαχειριστής hedge fund και επενδυτής επιχειρηματικού κεφαλαίου Μπραντ Γκέρστνερ, συμφώνησαν το Σάββατο με την έκκληση των επικεφαλής των εταιρειών για επιβράδυνση. Ακόμη και ο επενδυτής επιχειρηματικού κεφαλαίου Ντέιβιντ Σακς, σύμβουλος του Λευκού Οίκου για την τεχνητή νοημοσύνη και συχνός επικριτής της Anthropic, υποστηρίζοντας ότι οι εκκλήσεις της για ρύθμιση αποτελούν προσπάθεια περιορισμού του ανταγωνισμού, έδειξε ότι συμφωνεί επί της αρχής, αν και είπε ότι οι εταιρείες δεν θα πρέπει να ζητούν από την κυβέρνηση να επικυρώσει μια συντονισμένη παύση.
«Αν τα μοντέλα που δεν έχουν κυκλοφορήσει είναι αρκετά τρομακτικά ώστε να πιστεύετε ότι πρέπει να επιβραδύνετε, υποστηρίζω την απόφασή σας να ενεργήσετε υπεύθυνα», δήλωσε ο Σακς. Πρόσθεσε, ωστόσο, ότι οι επικεφαλής των εταιρειών τεχνητής νοημοσύνης θα πρέπει «να σταματήσουν να προσποιούνται ότι το κίνητρο για την επιβράδυνση είναι αποκλειστικά αλτρουιστικό».
Το Σάββατο, στο κανάλι «hot goss» του εργαστηρίου τεχνητής νοημοσύνης DeepMind της Google, ένας εργαζόμενος σχολίασε τη συμφωνία του Άλτμαν με τον Αμοντέι, λέγοντας ότι έμοιαζε να αποτελεί ένδειξη ότι υπάρχει δυναμική προς την κατεύθυνση της ρύθμισης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης αιχμής. Πρόσθεσε, ωστόσο: «Αυτό που πραγματικά θέλω να δω είναι συμφωνία για συγκεκριμένες, απτές ενέργειες που θα κάνουν για να αλλάξουν τον ρυθμό τους και να γίνουν ασφαλέστεροι». Δεκάδες συνάδελφοί του αντέδρασαν με θετικά emoji.
