Zespoły bezpieczeństwa mogą stanąć przed trudnym latem, ponieważ zaawansowane systemy AI wykrywają rosnącą liczbę wcześniej niezauważonych luk w powszechnie używanym oprogramowaniu open source — twierdzi dyrektor generalny Chainguard, Dan Lorenc.
Lorenc powiedział, że nowe modele AI najnowszej generacji znajdują podatności w tempie, które zmienia branżowy proces ujawniania i usuwania luk. Jego komentarze padły w momencie, gdy Chainguard pomógł uruchomić Athena — koalicję około dwóch tuzinów firm skupionych na wykorzystaniu AI do szybszego identyfikowania i naprawiania problemów bezpieczeństwa w oprogramowaniu open source.
Wśród założycieli Athena znajdują się firmy takie jak BNY, Cisco, Cloudflare, Docker, JPMorganChase, Kyndryl i PwC. Kilku członków uczestniczy również w Project Glasswing firmy Anthropic oraz Daybreak firmy OpenAI, które zapewniają dostęp do zaawansowanych modeli do wyszukiwania błędów. Według Lorenca Athena przyjmuje zgłoszenia z dowolnego modelu najnowszej generacji i przetworzyła już ponad 20 000 raportów, tworząc ponad 2 000 poprawek dla 500 projektów.
Raportowanie na dużą skalę tworzy nowe problemy z koordynacją
Lorenc stwierdził, że wyzwaniem nie jest już wyłącznie znajdowanie błędów, lecz obsługa ogromnej liczby odkryć. Wiele organizacji może łatać własny kod, gdy AI wykryje defekty w zastrzeżonym oprogramowaniu. Trudniejszy problem pojawia się, gdy te same narzędzia identyfikują problemy w bibliotekach innych firm, nad którymi zespoły nie mają bezpośredniej kontroli.
Zaznaczył, że nowoczesne aplikacje często w dużym stopniu polegają na komponentach open source, co oznacza, że pojedyncze skanowanie może ujawnić tysiące problemów w wielu projektach. Może to pozostawić zespoły bezpieczeństwa z dużymi kolejkami zgłoszeń, niejasnym przypisaniem odpowiedzialności oraz niepewnością co do tego, którzy opiekunowie projektów są nadal aktywni.
- Narzędzia AI znajdują więcej problemów zarówno w kodzie zastrzeżonym, jak i open source.
- Ujawnienia dotyczące open source mogą przytłoczyć opiekunów projektów, gdy raporty napływają dużymi partiami.
- Czas między publicznym ujawnieniem a wykorzystaniem luki w rzeczywistych atakach nadal się skraca.
Aby zarządzać tym przepływem, Athena działa jako centrum koordynacyjne: eliminuje duplikaty raportów, grupuje powiązane ustalenia i pracuje nad szerszymi poprawkami dla podatnych baz kodu. Dotknięte projekty są przebudowywane jako utwardzone prywatne wersje dla członków przed publicznym ujawnieniem, a powiadomienia dla projektów źródłowych są wysyłane później. W przypadkach, w których opiekunowie nie mogą zareagować, koalicja twierdzi, że może działać jako awaryjny podmiot wprowadzający poprawki w ostateczności.
Do inicjatywy dołączyła również Linux Foundation wraz z Akrites, odrębną koalicją, która będzie koordynować reakcję na podatności za pośrednictwem wspólnego zespołu reagowania na incydenty i ustandaryzowanego procesu ujawniania informacji. Zwolennicy twierdzą, że celem jest ograniczenie fragmentacji i pomoc opiekunom projektów w obsłudze zgłoszeń generowanych przez AI, zanim atakujący będą mogli je wykorzystać.
