Rosnąca ilość danych i coraz szybsze tempo pojawiania się cyberzagrożeń sprawiają, że zespoły bezpieczeństwa nie są już w stanie samodzielnie analizować wszystkich sygnałów, identyfikować anomalii i odpowiednio szybko reagować na incydenty. Według F5 sztuczna inteligencja i uczenie maszynowe stają się z tego powodu coraz istotniejszym elementem infrastruktury cyberbezpieczeństwa.
Louise Scully, Senior Manager, Product Marketing, AI Security & Threat Intelligence z F5 wskazuje, że połączenie AI i machine learningu z narzędziami bezpieczeństwa może przyspieszyć wykrywanie nietypowych zachowań, automatyzować reakcję na incydenty oraz odciążać specjalistów od części czasochłonnych zadań operacyjnych. – Wiele z tych zagrożeń pojawia się z szybkością i w skali, z którymi ludzie nie są w stanie poradzić sobie samodzielnie – zaznacza Louise Scully.
Jednym z głównych zastosowań uczenia maszynowego jest analiza danych telemetrycznych w czasie rzeczywistym. Modele mogą oceniać zachowanie użytkowników i systemów, budować wzorce normalnej aktywności, a następnie identyfikować odchylenia mogące świadczyć o ataku. Pozwala to przechodzić od zabezpieczeń opartych przede wszystkim na znanych sygnaturach w stronę analizy zachowania i bardziej proaktywnego wykrywania zagrożeń.
F5 wskazuje trzy podstawowe obszary wykorzystania ML w cyberbezpieczeństwie. Pierwszym jest wykrywanie zagrożeń w czasie rzeczywistym, zanim dotrą one do infrastruktury backendowej. Drugim – analiza zachowania użytkowników i wykrywanie anomalii. Trzecim jest automatyzacja triage’u incydentów, ich oceny i priorytetyzacji, a następnie uruchamianie działań ograniczających lub blokujących zagrożenie bez konieczności oczekiwania na interwencję człowieka.
Równolegle rośnie znaczenie generatywnej AI. W tym przypadku jej zastosowanie nie ogranicza się do samego wykrywania ataków. GenAI może wspierać specjalistów bezpieczeństwa w analizie i raportowaniu incydentów, przygotowywaniu prostych poprawek oraz realizacji obowiązków związanych z compliance.
Przykładem jest analiza informacji pochodzących z systemów SIEM i EDR. Generatywna AI może tworzyć zwięzłe podsumowania dużej liczby alertów, co według F5 pozwala skrócić czas potrzebny na analizę przyczyn incydentu. Narzędzia GenAI mogą też generować skrypty wspierające usuwanie podatności czy przygotowywać pierwsze wersje raportów zgodności.
AI może jednocześnie pomagać w zabezpieczaniu samej sztucznej inteligencji. Wraz z wdrażaniem własnych modeli, aplikacji i agentów przedsiębiorstwa muszą chronić nowe elementy infrastruktury przed manipulacją i niewłaściwym wykorzystaniem.
Jednym z ryzyk jest data poisoning, czyli celowa ingerencja w dane wykorzystywane do trenowania modeli. Narzędzia wykorzystujące AI mogą wspierać ochronę takich zbiorów oraz pomagać organizacjom w zarządzaniu ryzykiem zgodnie z ramami takimi jak NIST AI Risk Management Framework.
Zmiana dotyczy więc dwóch stron tego samego zjawiska. Z jednej strony AI staje się narzędziem pozwalającym zespołom bezpieczeństwa reagować na skalę danych i zagrożeń, której człowiek nie jest w stanie obsłużyć samodzielnie. Z drugiej – przedsiębiorstwa muszą zabezpieczać coraz bardziej rozbudowany ekosystem własnych aplikacji, modeli, agentów oraz interfejsów API wykorzystujących sztuczną inteligencję.
Według F5 oznacza to przejście od wykorzystania AI wyłącznie jako narzędzia zwiększającego produktywność w stronę coraz głębszej integracji sztucznej inteligencji z procesami bezpieczeństwa – od wykrywania anomalii i reakcji na ataki, przez analizę incydentów, aż po zarządzanie ryzykiem związanym z wdrażaniem własnych systemów AI.