Firmy coraz szybciej wdrażają agentów sztucznej inteligencji, którzy samodzielnie korzystają z aplikacji, przetwarzają dane i wykonują operacje w systemach biznesowych. Według Microsoft Work Trend Index 2026 liczba aktywnych agentów AI w środowisku Microsoft 365 wzrosła w ciągu roku 15-krotnie, a w dużych przedsiębiorstwach nawet 18-krotnie. Tymczasem z badania Deloitte wynika, że zaledwie 21% organizacji posiada dojrzały model zarządzania ryzykiem związanym z agentami AI. Dla działów cyberbezpieczeństwa oznacza to nowe wyzwanie: jak kontrolować cyfrowych „pracowników”, którzy mogą działać bez bezpośredniego nadzoru człowieka?
W przeciwieństwie do tradycyjnych chatbotów agenci AI nie ograniczają się do udzielania odpowiedzi czy przygotowywania podsumowań. Mogą samodzielnie realizować wieloetapowe zadania, korzystając z różnych firmowych systemów. Przykładowo agent wspierający sprzedaż może pobrać informacje z CRM, sprawdzić historię zamówień, zaktualizować dane klienta i uruchomić kolejne działania w systemie finansowym.
Rosnąca autonomia oznacza jednak również większe wymagania wobec mechanizmów bezpieczeństwa. Agent, podobnie jak pracownik czy administrator, potrzebuje określonych uprawnień dostępu. Jeśli są one zbyt szerokie, błędne działanie systemu AI może mieć konsekwencje wykraczające poza zadanie, które miał wykonać.
Agent AI może mieć większe uprawnienia niż potrzebuje
Jednym z najważniejszych zagrożeń jest wykorzystywanie przez agentów AI kont użytkowników lub integracji posiadających dostęp do wielu funkcji systemu. Agent odpowiedzialny wyłącznie za sprawdzanie statusu faktur może wówczas uzyskać również możliwość zmiany danych płatniczych kontrahenta. Nie musi to oznaczać celowego nadużycia. Wystarczy błędna interpretacja polecenia lub złośliwa instrukcja ukryta w przetwarzanym dokumencie, czyli tzw. prompt injection.
– Największym wyzwaniem nie jest sama autonomia agenta AI, ale zakres operacji, które może przeprowadzić. Jeśli potrzebuje jedynie odczytu danych, nie powinien mieć możliwości ich modyfikowania. W przypadku agentów należy stosować zasady znane z zarządzania dostępem uprzywilejowanym: ograniczać uprawnienia do niezbędnego minimum, kontrolować wykonywane działania i regularnie weryfikować przyznany dostęp – komentuje Jakub Wieczorek, Architekt Systemów AI w Fudo Security.
Dodatkową trudnością jest ustalenie odpowiedzialności za działania autonomicznych systemów. Agent może zostać utworzony przez jeden dział, korzystać z narzędzi udostępnionych przez inny i wykonywać operacje na rzecz kolejnego. Dlatego powinien posiadać własną, możliwą do zidentyfikowania tożsamość cyfrową oraz przypisanego właściciela. Firma musi również wiedzieć, jakie działania wykonał i móc szybko odebrać mu dostęp do systemów.
Shadow AI. Firmy mogą nie wiedzieć, ilu agentów działa w ich systemach
Kolejnym problemem jest rozwój tzw. shadow AI. Pracownicy mogą samodzielnie tworzyć agentów, łączyć ich z firmowymi aplikacjami i przyznawać im dostęp do danych bez angażowania działów IT i bezpieczeństwa. W rezultacie organizacja może stracić wiedzę o tym, ile takich rozwiązań działa w jej środowisku, jakie posiadają uprawnienia i kto odpowiada za ich funkcjonowanie.
Szczególnie ryzykowni mogą być agenci tworzeni na potrzeby krótkoterminowych projektów. Jeśli po ich zakończeniu konta i tokeny dostępowe pozostają aktywne, firma utrzymuje dostęp do infrastruktury dla rozwiązań, które nie są już wykorzystywane.
– Wraz z rosnącą liczbą agentów AI firmy muszą mieć pełną wiedzę o tym, które z nich korzystają z firmowych systemów, kto odpowiada za ich działanie i jakie operacje wykonują. Bez takiej przejrzystości rozwój automatyzacji może szybko wyprzedzić możliwości jej kontrolowania. Nie oznacza to konieczności tworzenia zupełnie nowych mechanizmów bezpieczeństwa. Agentów AI można objąć zasadami stosowanymi w zarządzaniu dostępem uprzywilejowanym, takimi jak przyznawanie dostępu wyłącznie na czas realizacji zadania, rejestrowanie sesji czy możliwość natychmiastowego odebrania uprawnień – podsumowuje Jakub Wieczorek, Architekt Systemów AI w Fudo Security.
Wyniki badań Microsoft i Deloitte pokazują skalę wyzwania, przed którym stoją przedsiębiorstwa. Wraz z rozwojem agentów AI zarządzanie cyfrowymi tożsamościami, kontrola uprawnień i audyt wykonywanych działań stają się istotnymi elementami bezpieczeństwa firmowych systemów.