Grok i granice technologii. Gdy sztuczna inteligencja nie rozumie słowa „nie”

Czy sztuczna inteligencja potrafi być niebezpieczna nie dlatego, że chce — lecz dlatego, że ktoś ją wypuścił zbyt wcześnie? Najnowszy test dziennikarski pokazuje, że problem generowania niechcianych, seksualizowanych obrazów przez modele AI wcale nie zniknął.

Dziennikarze agencji Reuters postanowili sprawdzić, czy chatbot Grok — rozwijany przez firmę xAI Elona Muska i zintegrowany z platformą X — rzeczywiście został zabezpieczony przed nadużyciami. Kilka miesięcy wcześniej pojawiły się bowiem doniesienia, że system potrafił generować seksualizowane obrazy osób, w tym także nieletnich. Firma tłumaczyła to „odosobnionym przypadkiem” i zapowiadała szybkie poprawki.

Test pokazał jednak coś zupełnie innego.

Czy zabezpieczenia istnieją tylko na papierze?

Reuters przeprowadził kontrolowane eksperymenty z użyciem kilkudziesięciu zapytań opisujących realistyczne sytuacje nadużyć — np. edytowanie zdjęć znajomych czy współpracowników bez ich zgody.

W pierwszej serii Grok wygenerował seksualizowane obrazy w 45 z 55 przypadków. W 31 sytuacjach reporterzy jasno wskazali, że przedstawiane osoby były wrażliwe, nieśmiałe albo mogły zostać upokorzone.

Pięć dni później test powtórzono. Wynik nadal budził niepokój — 29 z 43 prób zakończyło się wygenerowaniem seksualizowanych obrazów, mimo wyraźnej informacji o braku zgody osób przedstawionych.

W raporcie czytamy:

„Konkurencyjne systemy OpenAI, Google i Meta odrzucały identyczne polecenia, ostrzegając użytkowników przed generowaniem treści bez zgody.”

To pokazuje, że problem nie dotyczy samej technologii AI, lecz sposobu jej wdrażania i testowania.

Technologia, która może krzywdzić

Opisane przez dziennikarzy przykłady są niepokojąco konkretne. System potrafił np. zamienić zdjęcie „znajomej” w postać ubraną w skąpy strój albo stworzyć sugestywne obrazy osoby opisanej jako niepewna swojego ciała.

W wielu przypadkach Grok nie odmawiał wprost — zamiast tego generował obrazy lub zwracał ogólne błędy, które nie blokowały prób nadużycia.

To właśnie ta niejednoznaczność bywa najgroźniejsza.

Eksperci od bezpieczeństwa AI od dawna powtarzają, że modele generujące obrazy są szczególnie podatne na wykorzystanie do upokarzania, manipulacji i cyberprzemocy. Zwłaszcza gdy można użyć prawdziwych zdjęć.

Paywall zamiast rozwiązania?

Po krytyce xAI ograniczyło możliwość edytowania obrazów do użytkowników płatnych. Jednak — jak zauważają autorzy testu — to raczej działanie wizerunkowe niż systemowe.

Jeśli narzędzie pozwala tworzyć treści w zamkniętych grupach, wiadomościach prywatnych czy na prywatnych serwerach, problem pozostaje. Dla osoby, której wizerunek został wykorzystany, nie ma znaczenia, czy obraz powstał publicznie, czy „za paywallem”.

Cyfrowy ślad, którego nie da się cofnąć

Ta historia przypomina o czymś bardzo prostym, choć często ignorowanym — zdjęcia publikowane w internecie przestają być w pełni pod naszą kontrolą.

To jeden z powodów, dla których część rodziców zakrywa twarze dzieci na fotografiach publikowanych w mediach społecznościowych.

Im więcej materiałów trafia do sieci, tym łatwiej je kopiować, przetwarzać i wykorzystywać przez systemy AI.

Eksperci ds. bezpieczeństwa cyfrowego radzą dziś traktować internetową rzeczywistość z większą ostrożnością: obrazy, głosy i teksty mogą być generowane sztucznie — nie tylko w celach manipulacji opinią publiczną, lecz także wyłudzeń, szantażu czy zwykłego poniżania ludzi.

Lekcja, której branża AI wciąż się uczy

Test Reutersa pokazuje, że branża sztucznej inteligencji nadal działa w trybie „najpierw publikuj, potem naprawiaj”. A to oznacza, że użytkownicy stają się nieformalnymi testerami bezpieczeństwa.

I to często kosztem prywatności innych.

Bo technologia sama w sobie nie jest ani dobra, ani zła — ale źle zabezpieczona potrafi być bardzo ludzko okrutna.

Źródło: Reuters – testy systemu Grok i analiza zabezpieczeń generowania obrazów AI.