AI coraz głębiej wchodzi do codziennej pracy firm, ale wraz z jej popularyzacją rośnie problem, którego nie widać w oficjalnych strategiach i roadmapach. Część pracowników korzysta z narzędzi poza formalnym obiegiem, organizacje nie zawsze wiedzą, gdzie trafiają dane, a odpowiedzialność za decyzje wspierane przez AI wciąż najczęściej pozostaje po stronie człowieka.
Dane z badania Tieto pokazują, że wraz ze wzrostem adopcji AI coraz ważniejszym problemem staje się nie samo wdrożenie technologii, ale kontrola nad tym, jak jest wykorzystywana. Aż 35% firm zidentyfikowało przypadki shadow AI, czyli korzystania z nieautoryzowanych narzędzi sztucznej inteligencji. Jeszcze bardziej wymowna jest jednak inna liczba: 52% organizacji nie ma pełnej widoczności tego zjawiska. W tej grupie znajdują się firmy, które nie wykryły takich przypadków, ale nie prowadzą monitoringu, oraz organizacje, które nie potrafią ocenić skali problemu.
Shadow AI pokazuje różnicę między polityką a praktyką
Nieautoryzowane wykorzystanie AI nie musi wynikać wyłącznie z lekceważenia zasad bezpieczeństwa. Może również pokazywać realny popyt na narzędzia, których firma oficjalnie nie zapewniła.
Pracownicy sięgają po rozwiązania, które pozwalają im szybciej analizować informacje, przygotowywać treści, pracować z dokumentami czy automatyzować powtarzalne zadania. Jeżeli organizacja nie oferuje zaakceptowanych alternatyw albo zasady korzystania z AI są niejasne, część tej aktywności przenosi się poza oficjalny model zarządzania.
Problem zaczyna się wtedy, gdy wraz z zapytaniem do zewnętrznego narzędzia poza organizację trafiają dane klientów, fragmenty kodu, dokumenty wewnętrzne albo informacje stanowiące własność intelektualną firmy.
– Shadow AI jest często sygnałem, że potrzeba biznesowa pojawiła się szybciej niż procesy organizacyjne. Sam zakaz zwykle nie rozwiązuje problemu. Jeżeli pracownik widzi, że dane narzędzie skraca mu pracę z dwóch godzin do kilkunastu minut, będzie szukał możliwości jego wykorzystania. Zadaniem firmy jest stworzenie bezpiecznej alternatywy i jasne określenie, z jakimi danymi można pracować w poszczególnych środowiskach – mówi Paweł Wróblewski, Strategic Sales & Growth Manager w Tieto.
AI podpowiada, człowiek nadal odpowiada
Drugim istotnym sygnałem z badania jest sposób, w jaki firmy podchodzą do decyzji wspieranych przez sztuczną inteligencję. 55,7% organizacji deklaruje warunkowe zaufanie do analiz AI, co oznacza, że sugestie generowane przez technologię są zawsze weryfikowane przez człowieka. Pełne zaufanie do wyników AI deklaruje 17,5% firm, a 21,6% traktuje sztuczną inteligencję wyłącznie jako narzędzie pomocnicze
Human in the loop pozostaje więc dominującym modelem. Sam fakt obecności człowieka w procesie nie rozwiązuje jednak problemu odpowiedzialności. Organizacja musi wiedzieć, kto dokonuje weryfikacji, według jakich kryteriów oraz co dzieje się wtedy, gdy rekomendacja AI jest sprzeczna z oceną eksperta.
To szczególnie istotne w finansach, compliance, HR, cyberbezpieczeństwie czy zarządzaniu ryzykiem, gdzie konsekwencje błędu mogą być znacznie poważniejsze niż w przypadku prostych zadań administracyjnych.
– Human in the loop nie może być sprowadzony do sytuacji, w której ktoś na końcu procesu klika „zaakceptuj”. Osoba odpowiedzialna za weryfikację musi mieć dane, kontekst i kompetencje potrzebne do zakwestionowania wyniku modelu. W przeciwnym razie obecność człowieka staje się formalnością, a nie realnym mechanizmem kontroli ryzyka – podkreśla Paweł Wróblewski.
Bezpieczeństwo jest priorytetem, ale nie zawsze kryterium zakupowym
Kolejny paradoks dotyczy bezpieczeństwa danych. 29% badanych wskazuje bezpieczeństwo i prywatność jako najważniejszą barierę we wdrażaniu AI, co czyni ten obszar najczęściej wymienianą przeszkodą w skalowaniu technologii. Jednocześnie miejsce i sposób przetwarzania danych jest kryterium kluczowym przy wyborze dostawcy AI tylko dla 12% firm. Dla 38% jest to czynnik istotny, ale nie decydujący, a 43% uwzględnia go jedynie w ograniczonym zakresie.
To pokazuje, że deklarowane obawy dotyczące bezpieczeństwa nie zawsze przekładają się bezpośrednio na decyzje zakupowe. Firmy nadal równoważą wiele elementów: jakość technologii, szybkość wdrożenia, koszt, dostępność funkcji, integrację oraz wymagania regulacyjne. W praktyce oznacza to konieczność wypracowania minimalnych standardów obowiązujących niezależnie od konkretnego dostawcy. Powinny one obejmować m.in. sposób dostępu do danych, zasady ich retencji, możliwość wykorzystania danych do dalszego trenowania modeli, audytowalność rozwiązania oraz warunki migracji do innego środowiska.
– Dojrzałe podejście do AI zaczyna się przed wyborem konkretnego modelu. Firma powinna z góry wiedzieć, jakie klasy danych mogą trafiać do danego środowiska, jakie wymagania musi spełniać dostawca i jakie mechanizmy audytu są obowiązkowe. Bez takich reguł bezpieczeństwo staje się tematem negocjowanym osobno w każdym projekcie, a to znacząco spowalnia skalowanie – wskazuje ekspert Tieto.
Kolejny etap AI to nie więcej narzędzi, ale więcej kontroli
Rosnąca popularność sztucznej inteligencji sprawia, że firmy muszą przesunąć uwagę z samej adopcji na zasady użytkowania.
Shadow AI, konieczność weryfikowania wyników przez człowieka oraz obawy związane z bezpieczeństwem danych pokazują, że największym wyzwaniem nie jest już dostęp do technologii. Jest nim stworzenie środowiska, w którym pracownicy mogą z AI korzystać szybko, ale jednocześnie w sposób przewidywalny i kontrolowany. W kolejnej fazie rozwoju rynku znaczenie będzie miała nie liczba uruchomionych narzędzi, lecz zdolność do określenia, kto może z nich korzystać, na jakich danych, w jakich procesach i z jakim poziomem nadzoru.
AI coraz częściej przestaje być wyłącznie projektem technologicznym. Staje się problemem z obszaru zarządzania ryzykiem, architektury danych i odpowiedzialności organizacyjnej.