OpenAI wprowadziło dwa produkty z zakresu cyberbezpieczeństwa w ramach platformy Daybreak, mające pomóc organizacjom identyfikować, weryfikować i usuwać podatności oprogramowania za pomocą agentów AI.
Firma ogłosiła Daybreak Red Team, narzędzie o wczesnym dostępie do testowania aplikacji internetowych, oraz Daybreak Defense Factory, produkt zaprojektowany z myślą o wspieraniu wykrywania podatności i tworzenia poprawek. Premiera odzwierciedla rosnące zainteresowanie dostawców stosowaniem dużych modeli językowych w procesach bezpieczeństwa defensywnego, w tym w przeglądzie kodu, testach penetracyjnych i usuwaniu podatności.
Zautomatyzowane testowanie i propozycje poprawek
Daybreak Red Team wykorzystuje modele OpenAI do badania aplikacji internetowych z dostępem do kodu źródłowego i istotnego kontekstu aplikacji. Według OpenAI narzędzie może analizować potencjalne ścieżki ataku, oceniać ustalenia ze skanerów lub raportów programów bug bounty oraz pomagać zespołom weryfikować, czy zgłoszone problemy można wykorzystać. Może również służyć do oceny, czy poprawka usuwa zidentyfikowaną lukę.
Daybreak Defense Factory ma automatyzować część procesu zarządzania podatnościami. OpenAI poinformowało, że jego agenci mogą skanować bazy kodu, identyfikować potencjalne problemy bezpieczeństwa oraz generować proponowane poprawki i testy. Inżynierowie mają sprawdzać i zatwierdzać zmiany przed wdrożeniem ich w środowiskach produkcyjnych.
Podczas prezentacji produktów prezes OpenAI Greg Brockman powiedział, że organizacje będą musiały dostosować swoje programy bezpieczeństwa do coraz bardziej zaawansowanych systemów AI. Podkreślił również, że ugruntowane praktyki bezpieczeństwa pozostają istotne obok mechanizmów obronnych wspieranych przez AI.
Pozew budzi obawy dotyczące ryzyka związanego z zaawansowaną AI
Ogłoszenia pojawiły się w czasie, gdy kilka organizacji non-profit złożyło pozew w Sądzie Najwyższym San Francisco przeciwko OpenAI, Anthropic, Google, Meta i SpaceX. Powodowie, w tym Public Citizen i Alliance for Secure AI, dążą do uniemożliwienia firmom opracowywania lub wdrażania systemów AI przewyższających możliwości ich obecnych czołowych modeli.
W pozwie przywołano zgłoszone incydenty bezpieczeństwa związane z AI i argumentowano, że potężniejsze systemy mogą przyczyniać się do zagrożeń, takich jak cyberataki i niewłaściwe wykorzystanie wiedzy biologicznej. Twierdzenia te stanowią zarzuty w toczącym się postępowaniu prawnym i nie zostały rozstrzygnięte przez sąd.
Narzędzia bezpieczeństwa AI mogą pomóc zespołom obronnym przetwarzać duże ilości ustaleń i przyspieszać usuwanie podatności, jednak ich zastosowanie rodzi również pytania dotyczące upoważnienia do testowania, dokładności ustaleń generowanych przez modele, bezpiecznego przetwarzania kodu źródłowego oraz potrzeby nadzoru człowieka.
