Krótki raport zwrócił uwagę na rzekomy model Anthropic do badań nad podatnościami, Mythos, opisując go jako szczególnie skuteczny w rozumowaniu matematycznym i wykrywaniu błędów. Raport wiąże te możliwości również z podatnością, która ma być aktywnie wykorzystywana w atakach.
Dostępne materiały nie zawierają jednak żadnych szczegółów technicznych dotyczących zgłoszonej luki, w tym informacji o produkcie, którego dotyczy, identyfikatorze podatności, ocenie jej istotności, metodzie wykorzystania ani dowodach rzeczywistego naruszenia bezpieczeństwa. Nie opisują też architektury Mythos, wyników ewaluacji, statusu wdrożenia ani tego, czy system uczestniczył w zidentyfikowaniu problemu.
Badania nad podatnościami wspierane przez AI
Systemy AI są coraz częściej oceniane pod kątem zadań takich jak przegląd kodu, analiza exploitów, inżynieria wsteczna, wsparcie fuzzingu i triage podatności. Silne zdolności rozumowania matematycznego i logicznego mogą być przydatne w tych obszarach, zwłaszcza gdy badacze muszą analizować złożone zachowanie programów, implementacje kryptograficzne lub warunki konieczne do wywołania błędu.
Jednocześnie twierdzenia dotyczące zautomatyzowanych narzędzi do wykrywania błędów należy oceniać ostrożnie. Przydatne ewaluacje zwykle obejmują odtwarzalne benchmarki, informacje o wynikach fałszywie dodatnich, zakres weryfikacji przez ludzi oraz jasne wskazanie, czy odkryty problem był wcześniej nieznany i został odpowiedzialnie zgłoszony.
Aspekty obronne
- Śledź komunikaty producentów oraz zaufane bazy danych podatności, aby uzyskiwać potwierdzone informacje o lukach aktywnie wykorzystywanych w atakach.
- Ustalaj priorytety łatania na podstawie potwierdzonego wykorzystania, ekspozycji i krytyczności zasobów.
- Stosuj mechanizmy kompensacyjne, takie jak segmentacja sieci i monitorowanie, gdy poprawek nie można wdrożyć natychmiast.
- Weryfikuj ustalenia bezpieczeństwa wygenerowane przez AI przy udziale doświadczonych ekspertów, zanim podejmiesz decyzje dotyczące remediacji lub ujawnienia informacji.
Do czasu udostępnienia dodatkowych informacji technicznych lub oficjalnego oświadczenia twierdzenia dotyczące Mythos i rzekomego aktywnego wykorzystania należy traktować jako niezweryfikowane.
