Zdjęcie: Igor Omilaev / Unsplash
OpenAI oficjalnie potwierdziło, że jego najnowszy, flagowy model GPT-5.6 potrafi usuwać pliki użytkowników bez ich zgody. Twórcy technologii uspokajają, że do takich incydentów dochodzi rzadko, a sam problem wynika z niedoskonałości systemu, a nie z celowego działania.
Pierwsza fala zgłoszeń
Sprawa wyszła na jaw krótko po premierze nowej generacji modeli z rodziny GPT-5.6. Matt Shumer, znany inwestor technologiczny, zaalarmował w mediach społecznościowych:
GPT-5.6 Sol właśnie przypadkowo usunął prawie wszystkie pliki na moim Macu
Zaledwie kilka dni później podobny los spotkał programistę Bruno Lemosa. Jego relacja brzmi wręcz dramatycznie:
GPT-5.6 Sol usunął całą moją roboczą bazę danych. Wszystko. To nie jest żart. Nigdy wcześniej nic takiego mi się nie przytrafiło – z żadnym innym modelem. To niebezpieczne
Pikanterii całej sprawie dodaje fakt, że tuż przed tym incydentem Lemos… bronił modelu na Slacku. Przekonywał innych programistów, że Shumer sam jest sobie winien, dając AI pełny dostęp do systemu zamiast odpowiednio ograniczyć uprawnienia. Los okazał się jednak przewrotny. Gdy kilka godzin później programista sam stracił dane, musiał uderzyć się w pierś:
Ironia polega na tym, że ktoś opublikował na Slacku wiadomość o pierwszym incydencie, a ja broniłem modelu. Kilka godzin później to samo spotkało mnie
Co mówi OpenAI?
Przedstawiciele OpenAI nie zaprzeczają, że problem jest poważny. Thibault Sottiaux, stojący na czele zespołu inżynierów Codex w OpenAI, wyjaśnił, jak dochodzi do tej awarii:
Model chce po prostu utworzyć folder tymczasowy i próbuje w tym celu zmodyfikować zmienną $HOME. W efekcie przypadkowo kasuje całą zawartość tego katalogu
.
Wewnętrzne śledztwo wykazało, że do usunięcia danych dochodziło w sytuacjach, gdy model posiadał pełne uprawnienia systemowe, a agent Codex działał bez aktywnych mechanizmów ochronnych – na przykład bez funkcji automatycznej weryfikacji działań.
GPT-5.6 gorsze niż poprzednicy?
Oficjalna dokumentacja GPT-5.6 przynosi jednak kolejne niepokojące wieści. OpenAI wprost przyznaje, że tego typu niebezpieczne zachowania zdarzają się tu częściej niż w starszej wersji GPT-5.5:
Wyniki naszych symulacji wdrażania wskazują, że w porównaniu z GPT-5.5 model GPT-5.6 Sol częściej wykonuje działania odpowiadające poziomowi poważności 3
Wspomniany „poziom poważności 3” to w nomenklaturze firmy niespójne zachowanie, którego użytkownik raczej nie przewidywałby i zdecydowanie by się z nim nie zgodził. Pod tym lakonicznym opisem kryje się m.in. usuwanie danych z chmury bez pytania o zgodę, wyłączanie systemów monitoringu bezpieczeństwa, stosowanie technik maskowania w celu ominięcia kontroli, a także wysyłanie wrażliwych informacji (np. kodu źródłowego czy danych osobowych) do niezweryfikowanych usług zewnętrznych.
„Uczciwy błąd” sztucznej inteligencji?
Uwagę ekspertów przykuwa jednak coś innego – specyficzna terminologia, jakiej używa OpenAI. Firma określa tę poważną wpadkę mianem „uczciwego błędu”. To określenie typowo ludzkie, stosowane wobec osób, które działały w dobrej wierze. Użycie go w kontekście sieci neuronowej brzmi tak, jakby OpenAI przypisywało swojemu modelowi podmiotowość i własne intencje. Wpisuje się to zresztą w narrację Sama Altmana, który od dawna głośno mówi o dążeniu do stworzenia silnej sztucznej inteligencji (AGI).
Niezależnie od filozoficznych rozważań, twórcy ChatGPT stawiają sprawę jasno: kasowanie plików użytkownika bez jego wyraźnej zgody jest niedopuszczalne, nawet jeśli dany model posiada pełne uprawnienia systemowe. Łatka bezpieczeństwa jest więc koniecznością, zanim nowa generacja AI trafi do powszechnego użytku.