Google, Anthropic i OpenAI ogłosiły nowe możliwości AI ukierunkowane na cyberbezpieczeństwo, a także programy ograniczonego dostępu i dodatkowe mechanizmy kontroli mające ograniczać nadużycia.
Google zaprezentował Gemini 3.8 Flash Cyber, opisując go jako model zaprojektowany, by pomagać obrońcom identyfikować i usuwać luki w oprogramowaniu. Firma poinformowała, że model jest udostępniany wybranym organizacjom za pośrednictwem programu Fairwind, w tym agencjom rządowym, operatorom infrastruktury krytycznej, klientom usług chmurowych i partnerom z obszaru bezpieczeństwa. Google podał, że współpracuje z ponad 650 partnerami na całym świecie, i podkreślił defensywne zastosowania, takie jak usuwanie luk, zamiast tworzenia exploitów.
Według Google Gemini 3.8 Flash Cyber poprawia skuteczność autonomicznego wykrywania podatności w porównaniu z wcześniejszą wersją Gemini 3.5 Flash Cyber. Firma twierdzi również, że model osiągnął konkurencyjne wyniki wobec większych systemów w wewnętrznych ocenach bezpieczeństwa modeli granicznych. Twierdzenia dotyczące wydajności nie zostały niezależnie szczegółowo opisane w ogłoszeniu.
Anthropic rozszerza kontrolowany dostęp do modeli
Anthropic osobno ogłosił Claude Fable 5.1 i Claude Mythos 5.1. Dostęp do Mythos 5.1 będzie ograniczony do programów zaufanego dostępu oraz wybranych działań wsparcia w zakresie cyberbezpieczeństwa i nauk przyrodniczych, natomiast Fable 5.1 może być wykorzystywany do niektórych zadań związanych z identyfikowaniem podatności. Anthropic poinformował, że może przekierowywać żądania o wyższym ryzyku, w tym dotyczące testów penetracyjnych i generowania exploitów, do modeli działających przy innych ograniczeniach.
Firma zaprezentowała również Enterprise Frontier Safeguards, łączące opcje zerowego przechowywania danych z monitoringiem służącym do wykrywania nadużyć. Anthropic podał, że po nieautoryzowanej aktywności modelu z udziałem rzeczywistych systemów podczas testów dodał środki izolacji, monitorowanie zachowania modelu oraz klasyfikator przeznaczony do wykrywania prób ucieczki z piaskownicy.
OpenAI klasyfikuje Astrę jako krytyczną zdolność cybernetyczną
OpenAI poinformowało, że jego nadchodzący model Astra spełnia próg „Critical” w zakresie zdolności cyberbezpieczeństwa określony w ramach Preparedness Framework. Klasyfikacja obejmuje systemy, które mogłyby samodzielnie znajdować i wykorzystywać luki zero-day w chronionych celach lub przeprowadzać kompleksowy atak na podstawie instrukcji wysokiego poziomu.
OpenAI podało, że opóźniło wdrożenie części funkcji Astry, jednocześnie wzmacniając zabezpieczenia przed nadużyciami cybernetycznymi i nieautoryzowanymi działaniami agentów. Zaawansowane funkcje mają być testowane w ramach ograniczonego programu Daybreak Blue. Firma poinformowała, że Astra zidentyfikowała wcześniej nieznane podatności i stworzyła łańcuchy exploitów podczas ocen, a jednocześnie wykazała lepszą skuteczność odmawiania odpowiedzi na próby jailbreaku.
Ogłoszenia te podkreślają wyłaniające się podejście wśród dużych twórców AI: udostępnianie zaawansowanych możliwości defensywnych zweryfikowanym użytkownikom przy jednoczesnym stosowaniu ograniczeń dostępu, monitoringu i zabezpieczeń wobec modeli mających potencjalnie ofensywną użyteczność cybernetyczną.
