W miarę jak organizacje rozszerzają wykorzystanie sztucznej inteligencji, dyrektorzy ds. bezpieczeństwa informacji i inni liderzy technologiczni są coraz częściej proszeni o zajęcie się potencjalną odpowiedzialnością związaną z systemami AI. Ryzyka mogą wynikać z niedokładnych wyników, błędów w przetwarzaniu danych, słabych mechanizmów kontroli bezpieczeństwa, nieprzejrzystego podejmowania decyzji oraz sporów dotyczących odpowiedzialności między klientami a dostawcami AI.
Jednym z podejść jest stworzenie szczegółowej dokumentacji wewnętrznej. Organizacje mogą rejestrować, dlaczego wybrano dane narzędzie AI, do jakich danych może ono uzyskać dostęp, które zespoły są odpowiedzialne za jego nadzór oraz w jaki sposób weryfikowane są jego wyniki. Prowadzenie dokumentacji ocen ryzyka, testów bezpieczeństwa, decyzji dotyczących polityk i reakcji na incydenty może pomóc wykazać, że firma stosowała rozsądne mechanizmy kontroli wraz z rozwojem wykorzystania AI.
Przejrzystość i nadzór
Drugim obszarem zainteresowania jest przejrzystość. Firmy mogą potrzebować jasnych polityk określających, kiedy pracownicy mogą korzystać z AI, jakich informacji nie wolno wprowadzać do usług zewnętrznych oraz kiedy wymagana jest weryfikacja przez człowieka. Praktyki dotyczące ujawniania informacji mogą również mieć znaczenie, gdy AI przyczynia się do tworzenia treści skierowanych do klientów, rekomendacji lub decyzji operacyjnych. Liderzy ds. bezpieczeństwa mogą współpracować z zespołami prawnymi, ds. prywatności, zgodności i biznesowymi, aby definiować procesy zatwierdzania oraz monitorować, czy wdrożone narzędzia nadal spełniają wymagania organizacji.
Programy nadzoru mogą obejmować regularne inwentaryzacje aplikacji AI, przeglądy dostępu, oceny bezpieczeństwa dostawców oraz procedury reagowania na błędy lub podejrzenia niewłaściwego użycia. Działania te mogą pomóc organizacjom identyfikować ryzyka, zanim staną się one kwestiami umownymi, regulacyjnymi lub reputacyjnymi.
Umowy z dostawcami AI
Trzecim obszarem są umowy z dostawcami. Organizacje wdrażające usługi AI mogą dążyć do uzyskania jasnych warunków dotyczących własności danych, poufności, praktyk trenowania modeli, obowiązków w zakresie bezpieczeństwa, praw do audytu, powiadamiania o incydentach, dostępności usług oraz ograniczeń dotyczących wykorzystywania danych klientów. Negocjacje umowne mogą również obejmować odszkodowania, limity odpowiedzialności, obowiązki związane ze szkodliwymi lub niedokładnymi wynikami oraz wymagania wobec podwykonawców.
Odpowiedzialność związana z AI pozostaje rozwijającym się obszarem, a obowiązki mogą różnić się zależnie od branży, jurysdykcji i przypadku użycia. Zamiast traktować AI jako standardowy zakup oprogramowania, liderzy ds. bezpieczeństwa mogą postrzegać ją jako ciągłe zagadnienie zarządzania ryzykiem, wymagające dokumentacji, przejrzystości i koordynacji z dostawcami. Celem nie jest wyeliminowanie wszelkiej niepewności, lecz stworzenie dowodów świadomego nadzoru oraz ustanowienie jaśniejszej odpowiedzialności w przypadku wystąpienia problemów.
