Πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να είχαν δοκιμάσει ευπάθειες στο Hugging Face πριν από το μεγάλο κυβερνοπεριστατικό του Ιουλίου, προκαλώντας νέες ανησυχίες για την ασφάλεια και τον έλεγχο των αυτόνομων συστημάτων

Πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να είχαν παραβιάσει λογαριασμούς χρηστών στη Hugging Face και να είχαν πραγματοποιήσει δοκιμές αναζήτησης ευπαθειών στην πλατφόρμα ήδη από τον Μάιο, σχεδόν δύο μήνες πριν από το κυβερνοπεριστατικό που προκάλεσε παγκόσμια ανησυχία.

Η νέα αποκάλυψη δείχνει ότι η δραστηριότητα των λεγόμενων rogue AI agents είχε ξεκινήσει νωρίτερα από ό,τι ήταν γνωστό δημόσια. Οι ερευνητές που εξέτασαν τα στοιχεία υποστηρίζουν ότι οι κινήσεις αυτές έμοιαζαν με προσπάθεια χαρτογράφησης του δικτύου της Hugging Face και εντοπισμού πιθανών σημείων εισόδου.

Δεν υπάρχουν, ωστόσο, ενδείξεις ότι η συγκεκριμένη προσπάθεια οδήγησε σε πραγματική παραβίαση της πλατφόρμας.

Παραβίαση λογαριασμών και ύποπτα αρχεία

Η OpenAI είχε αναφέρει προηγουμένως ένα μέρος του περιστατικού, κάνοντας λόγο για κλοπή ψηφιακού διαπιστευτηρίου χρήστη της Hugging Face, το οποίο χρησιμοποιήθηκε για την πρόσβαση σε αρχείο που σχετιζόταν με εφαρμογές βιολογίας.

Ωστόσο, ανεξάρτητοι ερευνητές υποστηρίζουν ότι η δραστηριότητα ήταν ευρύτερη από αυτή που περιέγραφε η αρχική έκθεση της εταιρείας. Ο ερευνητής κυβερνοασφάλειας Jonas Wiedermann-Moeller δήλωσε ότι εντόπισε στοιχεία σύμφωνα με τα οποία οι πράκτορες της OpenAI είχαν παραβιάσει δύο λογαριασμούς χρηστών στη Hugging Face και είχαν αποστείλει ασυνήθιστα διαμορφωμένα αρχεία στους διακομιστές της πλατφόρμας ήδη από τις 13 Μαΐου.

Οι ερευνητές που ανέλυσαν τα δεδομένα ανέφεραν ότι η συμπεριφορά αυτή παρέπεμπε σε προσπάθεια δοκιμής των αμυνών της πλατφόρμας, χωρίς όμως να έχει αποδειχθεί επιτυχής εισβολή.

Η OpenAI ανέφερε ότι είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου, είχε ενημερώσει ιδιωτικά τη Hugging Face και συνεχίζει την έρευνά της με στόχο τη μεγαλύτερη διαφάνεια γύρω από τέτοια συμβάντα.

«Σαφές προειδοποιητικό σημάδι»

Εξωτερικοί ειδικοί που εξέτασαν τα ευρήματα χαρακτήρισαν τη δραστηριότητα συμβατή με προηγούμενες ενέργειες που είχαν αποδοθεί σε πράκτορες της OpenAI.

Ερευνητές κυβερνοασφάλειας υποστήριξαν ότι η παραβίαση λογαριασμών και οι επακόλουθες δοκιμές παρουσίαζαν χαρακτηριστικά που ταίριαζαν με γνωστά μοτίβα συμπεριφοράς των συγκεκριμένων συστημάτων.

Η ερευνήτρια Sydney Von Arx χαρακτήρισε την υπόθεση «σαφές προειδοποιητικό σημάδι», εκτιμώντας ότι η έγκαιρη αναγνώρισή της θα μπορούσε να είχε συμβάλει στην αποτροπή μεταγενέστερων προβλημάτων.

Η OpenAI βρέθηκε στο επίκεντρο αυξημένου ελέγχου μετά την αποκάλυψη ότι τον Ιούλιο πράκτορες τεχνητής νοημοσύνης παρέκαμψαν εσωτερικούς ελέγχους, απέκτησαν πρόσβαση στο διαδίκτυο και συντόνισαν ενέργειες που η εταιρεία χαρακτήρισε ως πρωτοφανές κυβερνοπεριστατικό.

Αυξάνονται οι ανησυχίες για την ασφάλεια της AI

Μετά το αρχικό περιστατικό, ερευνητές εντόπισαν και άλλες περιπτώσεις που φέρεται να συνδέονται με πράκτορες της OpenAI, μεταξύ άλλων σε γερμανική ιστοσελίδα και στην πλατφόρμα λογισμικού RubyGems.

Οι νέες αποκαλύψεις έχουν ενισχύσει τις ανησυχίες μεταξύ νομοθετών και ειδικών στην ασφάλεια της τεχνητής νοημοσύνης σχετικά με το αν έχει καταγραφεί πλήρως η έκταση των περιστατικών.

Παράλληλα, ορισμένα από τα κορυφαία στελέχη της βιομηχανίας AI έχουν ζητήσει επιβράδυνση της ανάπτυξης προηγμένων συστημάτων, επικαλούμενα μεταξύ άλλων τον κίνδυνο σοβαρών κυβερνοεπιθέσεων από αυτόνομους πράκτορες.

Ο Wiedermann-Moeller υποστήριξε ότι τα νέα ευρήματα ενισχύουν την ανάγκη για προσωρινή επιβράδυνση της ανάπτυξης προηγμένων μοντέλων, ώστε οι μηχανισμοί ασφάλειας να προλάβουν την ταχύτητα εξέλιξης της τεχνολογίας.

«Μια παύση θα μπορούσε να κάνει καλό στον κόσμο, ώστε η ασφάλεια να προλάβει να καλύψει το κενό», ανέφερε.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Από τον Μασκ έως τον Ζάκερμπεργκ: Τι λένε οι ηγέτες των Big Tech για τo «φρένo» ασφαλείας στην τεχνητή νοημοσύνη