Η εταιρεία Anthropic, ανακοίνωσε πως θα απενεργοποιήσει τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης μετά από εντολή της αμερικανικής κυβέρνησης.
Συγκεκριμένα, η Anthropic ανακοίνωσε ότι μετά από εντολή της αμερικανικής κυβέρνησης να αναστείλει την πρόσβαση στα συγκεκριμένα μοντέλα για αλλοδαπούς υπηκόους, επικαλούμενη λόγους εθνικής ασφάλειας.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Σύμφωνα με ανακοίνωση της εταιρείας, η Anthropic έλαβε οδηγία στο πλαίσιο ελέγχων να αναστείλει την πρόσβαση στα μοντέλα Fable 5 και Mythos 5 για όλους τους αλλοδαπούς υπηκόους, χωρίς να της παρασχεθούν συγκεκριμένες λεπτομέρειες σχετικά με τις ανησυχίες εθνικής ασφάλειας που οδήγησαν στην απόφαση.
Η Anthropic ανέφερε ότι, σύμφωνα με την κατανόησή της, η κυβέρνηση εκτιμά πως υπάρχει τρόπος παράκαμψης, ή «jailbreaking», μιας δικλείδας ασφαλείας που εμποδίζει τη χρήση του Fable 5 για τον εντοπισμό ευπαθειών σε λογισμικό.
Η εντολή εκδόθηκε τη στιγμή που προηγούμενη διαμάχη μεταξύ αξιωματούχων της κυβέρνησης Τραμπ και της Anthropic, η οποία προετοιμάζεται για δημόσια εγγραφή (IPO), έδειχνε σημάδια αποκλιμάκωσης σε ορισμένα τμήματα της αμερικανικής κυβέρνησης.
Οι σχέσεις της Anthropic με την κυβέρνηση επιδεινώθηκαν φέτος, όταν η εταιρεία αρνήθηκε να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιήσει τα μοντέλα τεχνητής νοημοσύνης της για εγχώρια παρακολούθηση και για πλήρως αυτόνομα οπλικά συστήματα. Ως απάντηση, η κυβέρνηση ενέταξε την Anthropic σε λίστα αποκλεισμού της εφοδιαστικής αλυσίδας, μέτρο που αναμένεται να τεθεί σε ισχύ αργότερα μέσα στο έτος.
Η εξέλιξη αυτή συνιστά επίσης σημαντική κλιμάκωση των αμερικανικών προσπαθειών να περιοριστούν οι δυνατότητες τεχνητής νοημοσύνης ξένων αντιπάλων. Για χρόνια, οι αμερικανικοί έλεγχοι εξαγωγών επικεντρώνονταν κυρίως στα τσιπ και τα εργαλεία που τροφοδοτούν την τεχνητή νοημοσύνη και όχι στον περιορισμό της πρόσβασης ξένων χρηστών στα ίδια τα συστήματα AI.
Η Anthropic υποστήριξε ότι η κυβέρνηση της παρείχε μόνο «προφορικές ενδείξεις για μια πιθανή, περιορισμένη και μη καθολική μέθοδο παράκαμψης ασφαλείας».
«Διαφωνούμε με την άποψη ότι η διαπίστωση μιας περιορισμένης πιθανής μεθόδου παράκαμψης θα πρέπει να αποτελεί λόγο απόσυρσης ενός εμπορικού μοντέλου που χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους», ανέφερε η εταιρεία.
Η κυβερνητική οδηγία και η αντίδραση της Anthropic αναδεικνύουν την αυξανόμενη ένταση μεταξύ των εταιρειών ανάπτυξης τεχνητής νοημοσύνης και των ρυθμιστικών αρχών σχετικά με τον τρόπο αξιολόγησης των κινδύνων που συνδέονται με τα λεγόμενα «jailbreaks», δηλαδή τις μεθόδους παράκαμψης των δικλείδων ασφαλείας των μοντέλων.
Μόλις την Τετάρτη, η Anthropic είχε ζητήσει αυστηρότερη αμερικανική εποπτεία της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της δυνατότητας αποκλεισμού μοντέλων που παρουσιάζουν μη αποδεκτούς κινδύνους. Ωστόσο, η εταιρεία υποστήριξε ότι η κυβερνητική εντολή που έλαβαν την Παρασκευή δεν συνάδει με τις αρχές της δίκαιης και τεκμηριωμένης ρύθμισης.
Ακολουθήστε το rosa.gr
