Nowy wywiad wideo SecurityWeek bada, czy praktyki zarządzania cyberbezpieczeństwem i zgodności z przepisami nadążają za szybkim wdrażaniem sztucznej inteligencji, w szczególności systemów zdolnych do autonomicznego działania w imieniu zespołów bezpieczeństwa.
Brian „SchleiF” Schleifer rozmawia z Clintem Bodungenem, dyrektorem ds. inżynierii AI/ML w Arcovo i założycielem ThreatGen. Bodungen, który intensywnie koncentrował się na cyberbezpieczeństwie przemysłowym, omawia, jak praktyki bezpieczeństwa zmieniły się w ciągu ostatnich 20 lat i dlaczego procesy organizacyjne często nie odzwierciedlają realiów, z którymi mierzą się praktycy.
Jednym z tematów rozmowy jest nieustające znaczenie ludzkich zachowań. Chociaż nowe technologie wprowadzają nowe ryzyka i możliwości, w wywiadzie argumentuje się, że ludzie, a nie samo oprogramowanie, pozostają kluczowym czynnikiem w wielu naruszeniach bezpieczeństwa. Dyskusja rozważa również, w jaki sposób modele zarządzania mogą oderwać się od potrzeb operacyjnych, potencjalnie ograniczając skuteczność programów bezpieczeństwa i zgodności.
Projekt MindStone Agent
Bodungen przedstawia również szczegóły dotyczące MindStone Agent, projektu agentowej sztucznej inteligencji typu open source. Według wywiadu projekt ma zapewnić asystentom AI trwałą pamięć, możliwy do zidentyfikowania kontekst oraz ciągłość między interakcjami. Funkcje te zaprojektowano, aby wspierać bardziej spójne zachowanie niż w systemach traktujących każdą sesję jako odizolowaną.
W wywiadzie projekt przedstawiono jako przykład tego, jak agentowa AI mogłaby wykraczać poza proste przypadki użycia w formie pytań i odpowiedzi. Jednocześnie trwała pamięć i autonomiczne działanie rodzą pytania dotyczące zarządzania, tożsamości, nadzoru i bezpieczeństwa, które organizacje będą musiały rozwiązać przed szerokim wdrożeniem takich systemów.
Przykład reakcji na ransomware
Dyskusja kończy się rzeczywistym scenariuszem reakcji na ransomware, w którym autonomiczne agenty AI miały pomóc w koordynowaniu reagowania na incydent, prac kryminalistycznych, działań naprawczych i migracji infrastruktury przy ograniczonym udziale ludzi. Przykład ilustruje potencjał systemów agentowych do wspierania złożonych, wrażliwych na czas operacji, a jednocześnie podkreśla potrzebę odpowiednich mechanizmów kontroli i ludzkiej odpowiedzialności.
Pełna rozmowa jest dostępna za pośrednictwem SecurityWeek TV i jest promowana wraz z programem konferencji publikacji poświęconej cyberbezpieczeństwu przemysłowemu.
