Η αμερικανική start-up της τεχνητής νοημοσύνης Anthropic εντόπισε και απέτρεψε την πρώτη καταγεγραμμένη εκστρατεία κυβερνοκατασκοπείας, όπως την αποκαλεί, που διεξήχθη σε μεγάλο βαθμό αυτόνομα από την AI.
Η κυβερνοεπίθεση αποδίδεται σε μια ομάδα που αποκαλείται GTG-1002 και στηρίζεται από το κινεζικό κράτος. Η ομάδα αυτή εκμεταλλεύτηκε το ρομπότ «Κλοντ» της Anthropic για να κατασκοπεύσει και να κλέψει δεδομένα από περίπου 30 στόχους, σύμφωνα με μια έκθεση της εταιρείας.
Η εκστρατεία αυτή εντοπίστηκε στα μέσα Σεπτεμβρίου. Είχε ως στόχο μεγάλες τεχνολογικές εταιρείες, οικονομικούς θεσμούς και κυβερνητικές υπηρεσίες σε πολλές χώρες. Σύμφωνα με την Anthropic, οι χάκερ χρησιμοποίησαν το λογισμικό προγραμματισμού του ομίλου (Claude Code) για να εξαπολύσουν αυτόνομα το μεγαλύτερο μέρος των επιθέσεων. Οι ενέργειές τους έγιναν με ταχύτητα που δεν θα μπορούσαν να επιτύχουν εάν γίνονταν από ανθρώπους.
«Αυτό συνιστά μια θεμελιώδη αλλαγή στον τρόπο με τον οποίο οι κυβερνοπειρατές χρησιμοποιούν την ΤΝ. Αντί να περιοριστούν σε τεχνικές συμβουλές» οι δράστες της επίθεσης «χειραγώγησαν το ρομπότ Κλοντ» ώστε να πραγματοποίησει κυβερνοεπιθέσεις, με ελάχιστη ανθρώπιν επίβλεψη.
Ο «Κλοντ» και τα άλλα ανταγωνιστικά chatbot, όπως τα ChatGPT της OpenAI και Gemini της Google έχουν ήδη χρησιμοποιηθεί για την αυτοματοποίηση των κυβερνοεπιθέσεων. Είναι όμως η πρώτη φορά που ένα μοντέλο της ΤΝ αφήνεται ελεύθερο να ενεργήσει ανεξάρτητα.
Σύμφωνα με την εταιρεία, οι κυβερνοπειρατές παρέκαμψαν τους μηχανισμούς ασφαλείας του Κλοντ, πείθοντας την ΤΝ ότι ήταν επαγγελματίες αρμόδιοι για την κυβερνοασφάλεια που έκαναν εγκεκριμένους ελέγχους ασφαλείας. Η εκστρατεία κράτησε πολλές ημέρες, μέχρι που εντοπίστηκε από τα συστήματα της εταιρείας. Η Anthropic απέκλεισε τότε τους λογαριασμούς από τους οποίους προερχόταν, ενημέρωσε τις αρμόδιες αρχές και έθεσε σε εφαρμογή βελτιωμένα μέσα εντοπισμού.
