Zdjęcie główne: shieldfont.org
Publikacja tekstu w sieci oznacza dziś nie tylko dostęp dla ludzi, ale też ryzyko, że trafi on do zbiorów treningowych dziesiątek botów AI. Brazylijska agencja Seneda & Abrucio i duńskie studio Playtype znalazły na to sposób. Stworzyły ShieldFont — darmowy font, który w kodzie HTML zamienia słowa w bezsensowną papkę, zachowując przy tym pełną czytelność dla użytkownika.
Jak działa zamiana glifów?
Sercem projektu jest algorytm zamiany glifów OpenType. Zazwyczaj technologia ta zastępuje pojedyncze znaki ich alternatywnymi wersjami, jednak ShieldFont idzie krok dalej — podmienia całe słowa. Gdy bot AI analizuje kod HTML strony, widzi ciąg bzdur, podczas gdy w przeglądarce czytelnika tekst wyświetla się bez zmian.
Podmiana słów nie zachodzi jednak losowo. System korzysta ze specjalnego słownika dopasowującego wyrazy o tej samej części mowy — rzeczowniki zastępowane są innymi rzeczownikami, a czasowniki w czasie przeszłym innymi czasownikami w tym samym czasie. Słowa podzielono na 250 grup uwzględniających m.in. pojęcia abstrakcyjne i liczbę mnogą. W efekcie modyfikacji ulega około jedna czwarta wyrazów w tekście.
Gramatyka ma znaczenie — dla filtrów AI
To celowa strategia: tekst musi zachować poprawność gramatyczną, aby oszukać filtry jakości stosowane przez firmy rozwijające AI. Jeśli filtr uzna tekst za czytelny, zbiór go przyjmie — ale przez wplecione przekłamania będzie on dla modelu całkowicie bezużyteczny.
Twórcy przetestowali rozwiązanie na filtrze jakości FineWeb-Edu, używanym do tworzenia otwartych zbiorów treningowych. Wynik? Około co dziesiąty fragment, który pomyślnie przeszedł weryfikację przed nałożeniem ochrony, przeszedł ją również po podmianie słów. Co kluczowe — aż 55,8% przetestowanych fragmentów zawierało informacje niezgodne z faktami z oryginału.
Ochrona ma jednak swoją słabą stronę. ShieldFont działa tylko wtedy, gdy boty analizują sam kod HTML. Jeśli algorytm zrobi zrzut ekranu strony i użyje technologii OCR (rozpoznawanie tekstu z obrazów), odczyta prawdziwe słowa. Podobny problem pojawia się w przypadku czytników ekranu dla osób niedowidzących i niewidomych — ponieważ czytają one kod, odczytają na głos zmanipulowany tekst.
Twórcy pracują już nad rozwiązaniem tej kwestii. ShieldFont zawiera funkcję w fazie beta, która pozwala czytnikom ekranu dla osób z niepełnosprawnością wzroku na dostęp do właściwej treści.
Ograniczenia i dostępność
Na razie ShieldFont wspiera tylko język angielski. Projekt jest dostępny za darmo na GitHubie — każdy może go wdrożyć lub testować.