Open Worldwide Application Security Project (OWASP) przedstawił schemat bezpieczeństwa skoncentrowany na ryzykach związanych z „umiejętnościami” AI i dodatkami. Inicjatywa ma zapewnić większą spójność sposobu tworzenia, dystrybucji i oceny tych rozszerzeń.
Centralnym elementem publikacji jest nowa lista 10 najważniejszych zagadnień bezpieczeństwa w rozwijającym się ekosystemie umiejętności AI. Komponenty te mogą rozszerzać możliwości systemu AI, ale mogą również tworzyć dodatkowe ścieżki nadużyć, niezamierzonego dostępu lub niebezpiecznych zachowań. Porządkując ryzyka we wspólnych ramach, OWASP chce zapewnić programistom, zespołom bezpieczeństwa i użytkownikom wspólną podstawę do oceny integracji AI.
Projekt wprowadza również Universal Skill Format, zaprojektowany w celu standaryzacji sposobu opisywania i obsługi dodatków AI. Spójny format może ułatwić zrozumienie, co robi dana umiejętność, jakich zasobów wymaga i w jaki sposób współdziała z aplikacją AI. Może także wspierać bardziej powtarzalne przeglądy bezpieczeństwa oraz jaśniejszą komunikację między twórcami narzędzi a organizacjami wdrażającymi te narzędzia.
Dlaczego te ramy mają znaczenie
Aplikacje AI coraz częściej polegają na zewnętrznych narzędziach i rozszerzeniach, aby pozyskiwać informacje, wykonywać działania lub łączyć się z systemami biznesowymi. Możliwości te mogą zwiększać użyteczność aplikacji, jednocześnie wprowadzając zależności, którymi należy zarządzać w ramach ogólnego modelu bezpieczeństwa.
Publikacja OWASP stanowi dla organizacji punkt wyjścia do identyfikowania i priorytetyzowania tych zagrożeń, zamiast traktowania dodatków AI jak zwykłych komponentów oprogramowania. Ramy mogą również pomóc zespołom ustanowić wewnętrzne wymagania dotyczące testowania, zatwierdzania i bieżącego monitorowania.
Publikacja jest schematem działania, a nie gwarancją bezpieczeństwa. Organizacje nadal będą musiały weryfikować umiejętności we własnych środowiskach, odpowiednio ograniczać uprawnienia i monitorować zachowanie po wdrożeniu. W miarę dalszego rozwoju ekosystemów AI wspólne formaty i publicznie udokumentowane kategorie ryzyka mogą pomóc w ujednoliceniu praktyk bezpieczeństwa u różnych dostawców i w różnych wdrożeniach.
