Offcanvas
Offcanvas
Οι ΗΠΑ ήραν τους περιορισμούς εξαγωγών στα μοντέλα AI της Anthropic, μετά την εφαρμογή νέων δικλίδων ασφαλείας. Η εταιρεία ενισχύει τη συνεργασία με την κυβέρνηση, ενώ η Ουάσιγκτον αυστηροποιεί τον έλεγχο των προηγμένων συστημάτων τεχνητής νοημοσύνης
Η αμερικανική κυβέρνηση ήρε τους περιορισμούς εξαγωγών που είχαν επιβληθεί στα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της Anthropic, λιγότερο από τρεις εβδομάδες μετά την εντολή αναστολής της διάθεσής τους λόγω ανησυχιών για την εθνική ασφάλεια.
Το υπουργείο Εμπορίου των ΗΠΑ είχε επιβάλει στις 12 Ιουνίου έκτακτους περιορισμούς στα μοντέλα Mythos 5 και Fable 5, καθώς υπήρχαν φόβοι ότι προηγμένα συστήματα AI θα μπορούσαν να αξιοποιηθούν από στρατιωτικές ή μυστικές υπηρεσίες χωρών όπως η Κίνα και η Ρωσία.
Η Anthropic ανακοίνωσε ότι, μετά την εφαρμογή πρόσθετων δικλίδων ασφαλείας, όλοι οι περιορισμοί εξαγωγών στα δύο μοντέλα καταργήθηκαν.
Η εταιρεία είχε απενεργοποιήσει πλήρως τα μοντέλα, καθώς δεν υπήρχε τρόπος να επαληθεύεται σε πραγματικό χρόνο η εθνικότητα των χρηστών.
Την προηγούμενη εβδομάδα οι αμερικανικές αρχές είχαν επιτρέψει την περιορισμένη διάθεση του Mythos 5 μόνο σε επιλεγμένους και αξιόπιστους οργανισμούς των ΗΠΑ. Το συγκεκριμένο μοντέλο έχει σχεδιαστεί για τον εντοπισμό κενών κυβερνοασφάλειας και αρχικά αποτελούσε μέρος του προγράμματος Glasswing.
Πλέον, η Anthropic συνεργάζεται με την αμερικανική κυβέρνηση ώστε η πρόσβαση στο Mythos 5 να επεκταθεί σταδιακά και στους υπόλοιπους εγχώριους και διεθνείς συνεργάτες του Glasswing. Παράλληλα, το Fable 5, το οποίο απευθύνεται στο ευρύ κοινό και διαθέτει ισχυρότερα φίλτρα ασφαλείας, θα διατεθεί από την Τετάρτη.
Στενότερη συνεργασία με την κυβέρνηση των ΗΠΑ
Η εταιρεία ανακοίνωσε επίσης ότι ενισχύει τη συνεργασία της με την κυβέρνηση των ΗΠΑ, παρέχοντας σε εξουσιοδοτημένους κυβερνητικούς φορείς πρόωρη πρόσβαση στα νέα μοντέλα τεχνητής νοημοσύνης.
Παράλληλα, συνεργάζεται με τις Amazon, Microsoft, Google και τους υπόλοιπους εταίρους του προγράμματος Glasswing για τη δημιουργία κοινών προτύπων εντοπισμού και αντιμετώπισης των λεγόμενων AI jailbreaks, δηλαδή τεχνικών που παρακάμπτουν τους μηχανισμούς ασφαλείας των μοντέλων. Στόχος είναι επίσης η δημιουργία ενιαίου συστήματος αξιολόγησης της σοβαρότητας κάθε περιστατικού.
Σύμφωνα με επιστολή του υπουργού Εμπορίου των ΗΠΑ, Χάουαρντ Λάτνικ, η Anthropic δεσμεύτηκε να συνεργάζεται στενά με τις αμερικανικές αρχές για τα πρωτόκολλα ασφαλείας των Mythos, Fable και των μελλοντικών μοντέλων της, καθώς και να ενημερώνει άμεσα την κυβέρνηση για οποιαδήποτε κακόβουλη χρήση των συστημάτων της.
Ωστόσο, το υπουργείο διατηρεί το δικαίωμα να επαναφέρει τους περιορισμούς ή ακόμη και να απαιτήσει ειδική άδεια εξαγωγής, εφόσον αλλάξουν οι συνθήκες ή η εταιρεία δεν τηρήσει τις δεσμεύσεις της.
Η μάχη κατά των AI jailbreaks
Η Anthropic αποκάλυψε ότι οι περιορισμοί της 12ης Ιουνίου επιβλήθηκαν αφού ερευνητές της Amazon εντόπισαν τρόπο παράκαμψης των προστατευτικών μηχανισμών του Fable 5, επιτρέποντας στο μοντέλο να εντοπίζει ευπάθειες λογισμικού και, σε μία περίπτωση, να παράγει κώδικα που έδειχνε πώς θα μπορούσε να αξιοποιηθεί μια αδυναμία ασφαλείας.
Η εταιρεία ανακοίνωσε ότι έχει ήδη ενσωματώσει νέο μηχανισμό προστασίας που μπλοκάρει αυτή τη συμπεριφορά. Όταν ένα αίτημα απορρίπτεται, ανακατευθύνεται πλέον στο μοντέλο Opus 4.8, το οποίο διαθέτει αυστηρότερους μηχανισμούς ασφαλείας.
Η Anthropic παραδέχεται πάντως ότι είναι «πιθανότατα αδύνατο» να κατασκευαστεί ένα μοντέλο τεχνητής νοημοσύνης πλήρως ανθεκτικό σε jailbreaks, προειδοποιώντας ότι στο μέλλον ενδέχεται να εμφανιστούν ακόμη πιο εξελιγμένες τεχνικές παράκαμψης των περιορισμών.
Αυστηρότερο πλαίσιο για τα προηγμένα μοντέλα AI
Η αυστηρότερη εποπτεία των προηγμένων μοντέλων AI ξεκίνησε νωρίτερα αυτόν τον μήνα, όταν ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ υπέγραψε εκτελεστικό διάταγμα που προβλέπει πως οι εταιρείες θα μπορούν προαιρετικά να υποβάλλουν τα πλέον προηγμένα μοντέλα τους στην αμερικανική κυβέρνηση έως και 30 ημέρες πριν από την κυκλοφορία τους σε επιλεγμένους συνεργάτες.
Ανάλογους περιορισμούς αντιμετώπισε και η OpenAI, η οποία ανακοίνωσε την περασμένη εβδομάδα ότι, κατόπιν αιτήματος της αμερικανικής κυβέρνησης, ανέβαλε τη γενική διάθεση του GPT-5.6, περιορίζοντας την πρόσβαση μόνο σε μικρό αριθμό πιστοποιημένων συνεργατών.
Η σχέση της Anthropic με την αμερικανική κυβέρνηση παραμένει τεταμένη. Νωρίτερα φέτος, το Πεντάγωνο χαρακτήρισε την εταιρεία «κίνδυνο για την αλυσίδα εφοδιασμού», αποκλείοντας τη χρήση των μοντέλων της από στρατιωτικούς εργολάβους, μετά την άρνησή της να επιτρέψει τη χρήση της τεχνολογίας της για μαζική εσωτερική παρακολούθηση ή πλήρως αυτόνομα οπλικά συστήματα.
Τόσο η Anthropic όσο και η OpenAI έχουν υποβάλει εμπιστευτικά αιτήσεις για εισαγωγή στο αμερικανικό χρηματιστήριο.
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
