Η Anthropic Αναστέλλει τα Fable 5 και Mythos 5 Μετά την Έκδοση Οδηγίας Ελέγχου Εξαγωγών από την Αμερικανική Κυβέρνηση

TLDR:

• Η αμερικανική κυβέρνηση εξέδωσε οδηγία ελέγχου εξαγωγών με εντολή στην Anthropic να αναστείλει παγκοσμίως κάθε πρόσβαση στα Fable 5 και Mythos 5.
• Η Anthropic εξέτασε την αναφορά jailbreak και διαπίστωσε ότι οι δυνατότητες ήταν ήδη διαθέσιμες σε μοντέλα όπως το GPT-5.5 της OpenAI.
• Το αναφερόμενο jailbreak αφορούσε αίτημα στο Fable 5 να διαβάσει μια βάση κώδικα και να εντοπίσει σφάλματα λογισμικού, χωρίς να αποκαλυφθεί κάποιο επιβλαβές αποτέλεσμα.
• Η Anthropic προειδοποίησε ότι το πρότυπο ανάκλησης, εάν εφαρμοστεί σε ολόκληρο τον κλάδο, θα σταματούσε ουσιαστικά όλες τις αναπτύξεις μοντέλων τεχνητής νοημοσύνης αιχμής.

Η Anthropic απενεργοποίησε την παγκόσμια πρόσβαση στα Fable 5 και Mythos 5 κατόπιν οδηγίας ελέγχου εξαγωγών της αμερικανικής κυβέρνησης.

Η εντολή, που ελήφθη στις 12:21π.μ. ΩΕΑ, επικαλείται ανησυχίες εθνικής ασφάλειας που συνδέονται με μια αναφερόμενη μέθοδο jailbreak. Όλα τα άλλα μοντέλα της Anthropic παραμένουν διαθέσιμα.

Η εταιρεία δηλώνει ότι συμμορφώνεται με την οδηγία, αμφισβητώντας παράλληλα την τεχνική βάση της απόφασης.

Η Κυβερνητική Οδηγία Στοχεύει Αναφερόμενη Μέθοδο Jailbreak

Η αμερικανική κυβέρνηση εξέδωσε την οδηγία χωρίς να αποκαλύψει γραπτώς συγκεκριμένες λεπτομέρειες εθνικής ασφάλειας. Αξιωματούχοι επικοινώνησαν προφορικά ότι έμαθαν για μια μέθοδο ικανή να παρακάμψει τις διασφαλίσεις του Fable 5.

Η Anthropic εξέτασε μια επίδειξη αυτής της τεχνικής και διαπίστωσε ότι αποκάλυπτε μόνο μικρές, ήδη γνωστές ευπάθειες.

Η εταιρεία εξέτασε αυτό που πιστεύει ότι είναι η αναφορά πίσω από την κυβερνητική απόφαση. Η Anthropic δήλωσε ότι το επίπεδο δυνατοτήτων που επιδείχθηκε «είναι ευρέως διαθέσιμο από άλλα μοντέλα, συμπεριλαμβανομένου του GPT-5.5 της OpenAI, και χρησιμοποιείται καθημερινά από τους αμυντικούς που διατηρούν τα συστήματα ασφαλή.» Η αξιολόγηση αυτή δεν βρήκε καμία ενίσχυση ειδική για το Fable στα ευρήματα.

Το αναφερόμενο jailbreak αφορούσε ουσιαστικά αίτημα στο μοντέλο να διαβάσει μια βάση κώδικα και να εντοπίσει σφάλματα λογισμικού. Η Anthropic επιβεβαίωσε ότι «δεν έχει καν λάβει αποκάλυψη ενός ανησυχητικού μη-καθολικού δυνητικού jailbreak που οδήγησε σε επιβλαβές αποτέλεσμα.» Τα δυνητικά jailbreaks που αποκαλύφθηκαν ήταν είτε εντελώς αβλαβή είτε ταξινομήθηκαν ως μικρά ευρήματα.

Η οδηγία απαιτεί την αναστολή πρόσβασης για όλους τους αλλοδαπούς υπηκόους, συμπεριλαμβανομένων των εργαζομένων της Anthropic με καθεστώς αλλοδαπού υπηκόου, τόσο εντός όσο και εκτός Ηνωμένων Πολιτειών. Η εταιρεία δήλωσε ότι η συμμόρφωση σήμαινε απενεργοποίηση των μοντέλων για όλους τους πελάτες ώστε να αποφευχθεί οποιαδήποτε παραβίαση της εντολής.

Η Anthropic Αμφισβητεί το Πρότυπο που Εφαρμόζεται στα Εμπορικά Μοντέλα

Η Anthropic κυκλοφόρησε το Fable 5 με μια στρατηγική βαθιάς άμυνας, συνδυάζοντας στενή αντίσταση στο jailbreak με παρακολούθηση σε πραγματικό χρόνο και υποχρεωτική διατήρηση δεδομένων 30 ημερών.

Η εταιρεία αναγνώρισε κατά την κυκλοφορία ότι «η τέλεια αντίσταση στο jailbreak δεν είναι προς το παρόν δυνατή για κανέναν πάροχο μοντέλου.»

Η πολιτική διατήρησης δεδομένων 30 ημερών ήταν μια σκόπιμη συμβιβαστική επιλογή. Προκάλεσε αντιδράσεις από πελάτες, αλλά επέτρεψε στην Anthropic να εντοπίζει, να μελετά και να ανταποκρίνεται γρήγορα σε απόπειρες jailbreak.

Η Anthropic το περιέγραψε ως μετατροπή των jailbreaks σε «είτε στενά είτε πολύ δαπανηρά στην παραγωγή», διατηρώντας τα επίπεδα κινδύνου συγκρίσιμα με άλλα αναπτυγμένα μοντέλα στον κλάδο.

Σχετικά με την εξουσία της κυβέρνησης να ενεργεί, η Anthropic δήλωσε ότι «πιστεύει ότι η κυβέρνηση πρέπει να έχει τη δυνατότητα να αποκλείει μη ασφαλείς αναπτύξεις, ως μέρος μιας νομοθετικής διαδικασίας που είναι διαφανής, δίκαιη, σαφής και βασισμένη σε τεχνικά γεγονότα.» Η εταιρεία υποστήριξε ότι αυτή η οδηγία δεν πληρούσε αυτά τα πρότυπα.

Η Anthropic προειδοποίησε ότι η ευρεία εφαρμογή αυτού του προτύπου ανάκλησης «θα σταματούσε ουσιαστικά όλες τις νέες αναπτύξεις μοντέλων για όλους τους παρόχους μοντέλων αιχμής.»

Η εταιρεία δεσμεύτηκε να δημοσιεύσει πρόσθετες τεχνικές λεπτομέρειες εντός 24 ωρών και επιβεβαίωσε ότι όλα τα άλλα μοντέλα στη σειρά της συνεχίζουν να λειτουργούν χωρίς περιορισμούς.

Το άρθρο Anthropic Αναστέλλει τα Fable 5 και Mythos 5 Μετά την Έκδοση Οδηγίας Ελέγχου Εξαγωγών από την Αμερικανική Κυβέρνηση εμφανίστηκε πρώτα στο Blockonomi.