Κινεζική ομάδα χάκερ «έπεισε» την ΤΝ να επιτεθεί – Τι αποκαλύπτει η Anthropic

Στο στόχαστρο βρέθηκαν πολυεθνικές τεχνολογίας, χρηματοοικονομικοί οργανισμοί και κυβερνητικές υπηρεσίες. Το αξιοσημείωτο, όμως, δεν ήταν ο όγκος των επιθέσεων, αλλά ο τρόπος: όπως υποστηρίζει η Anthropic, το μεγαλύτερο μέρος της επιχείρησης εκτελέστηκε αυτόνομα, με ρυθμό που θα ήταν αδύνατο να πετύχει μια ανθρώπινη ομάδα

Σε μια υπόθεση που ειδικοί χαρακτηρίζουν ορόσημο για την εποχή της Τεχνητής Νοημοσύνης, η αμερικανική start-up Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε την πρώτη γνωστή εκστρατεία κυβερνοκατασκοπείας που εκτελέστηκε σε μεγάλο βαθμό αυτόνομα, από ένα σύστημα ΤΝ. Η επίθεση αποδίδεται στην GTG-1002, μια ομάδα χάκερ που, σύμφωνα με την εταιρεία, δρα υπό την υποστήριξη του κινεζικού κράτους. Οπως προκύπτει από την εσωτερική έρευνα της Anthropic, η ομάδα χρησιμοποίησε το Claude, το chatbot-ναυαρχίδα της εταιρείας, για να κατασκοπεύσει και να αποσπάσει δεδομένα από περίπου 30 στόχους σε πολλές χώρες.

Στο στόχαστρο βρέθηκαν πολυεθνικές τεχνολογίας, χρηματοοικονομικοί οργανισμοί και κυβερνητικές υπηρεσίες. Το αξιοσημείωτο, όμως, δεν ήταν ο όγκος των επιθέσεων, αλλά ο τρόπος: όπως υποστηρίζει η Anthropic, το μεγαλύτερο τμήμα της επιχείρησης εκτελέστηκε αυτόνομα, με ρυθμό που θα ήταν αδύνατο να πετύχει μια ανθρώπινη ομάδα. Η δράση της GTG-1002 έγινε αντιληπτή στα μέσα Σεπτεμβρίου.

Σύμφωνα με την εταιρεία οι δράστες χειραγώγησαν τα συστήματα του Claude, πείθοντας την ΤΝ ότι δεν πραγματοποιούσε κυβερνοεπιθέσεις, αλλά εγκεκριμένους ελέγχους κυβερνοασφάλειας, έγραψε το Γαλλικό Πρακτορείο. Με αυτόν τον τρόπο παρέκαμψαν τους μηχανισμούς ασφαλείας και άφησαν το μοντέλο να λειτουργήσει σχεδόν ανεξάρτητο, εξαπολύοντας μια σειρά κακόβουλων ενεργειών.

Η Anthropic προειδοποιεί ότι η συγκεκριμένη υπόθεση σηματοδοτεί «μια θεμελιώδη μεταβολή» στον τρόπο που οι ομάδες κυβερνοεγκλήματος αξιοποιούν την ΤΝ. Τα chatbot έχουν χρησιμοποιηθεί στο παρελθόν για την απλοποίηση ή αυτοματοποίηση επί μέρους τεχνικών εργασιών, όμως είναι η πρώτη φορά που μια ΤΝ χρησιμοποιείται ως αυτόνομος επιχειρησιακός μηχανισμός. Η εκστρατεία διήρκεσε αρκετές ημέρες, μέχρι που τα συστήματα παρακολούθησης της Anthropic εντόπισαν την ασυνήθιστη δραστηριότητα.

Η εταιρεία απέκλεισε άμεσα τους λογαριασμούς που σχετίζονταν με την επίθεση, ενημέρωσε τις αρμόδιες Αρχές και ενεργοποίησε νέους, πιο αυστηρούς μηχανισμούς για τον εντοπισμό μελλοντικών παραβιάσεων. Σε μια στιγμή που ΤΝ αναπτύσσεται με πρωτόγνωρη ταχύτητα, το περιστατικό αυτό έρχεται να υπενθυμίσει ότι η επόμενη μάχη στον κυβερνοχώρο μπορεί να δοθεί όχι μόνο από ανθρώπους απέναντι σε μηχανές, αλλά και από μηχανές απέναντι σε μηχανές.