Korporacyjna wiara w algorytm kosztowała fortunę?

Sztuczna inteligencja miała zoptymalizować dostawy pizzy i poprawić wydajność restauracji. Zamiast tego — według pozwu jednego z największych franczyzobiorców Pizza Hut w USA — doprowadziła do chaosu operacyjnego, opóźnień i lawiny niezadowolonych klientów. Sprawa może stać się jednym z najgłośniejszych przykładów źle wdrożonej automatyzacji biznesu w ostatnich latach.

Franczyzobiorca Chaac Pizza Northeast, zarządzający 111 restauracjami Pizza Hut w Nowym Jorku, New Jersey, Maryland, Pensylwanii i Waszyngtonie, pozwał sieć, twierdząc, że wdrożenie platformy Dragontail przyniosło katastrofalne skutki dla biznesu. Według dokumentów sądowych firma szacuje utratę wartości przedsiębiorstwa nawet na ponad 100 mln dolarów.

I właśnie tutaj zaczyna się historia dużo większa niż pizza. ilustracja do artykułu optymalizacja bez zrozumienia AI

Co miała robić sztuczna inteligencja?

System Dragontail był prezentowany jako nowoczesna platforma AI do zarządzania logistyką restauracji i dostaw. Miał:

• analizować zamówienia,
• przewidywać czas przygotowania pizzy,
• koordynować odbiory,
• przyspieszać dostawy,
• zmniejszać opóźnienia,
• poprawiać efektywność kierowców.

Brzmiało jak idealny scenariusz dla dużej sieci gastronomicznej.

Yum! Brands — właściciel Pizza Hut, KFC i Taco Bell — wcześniej kupił Dragontail za około 93 mln dolarów, przedstawiając technologię jako przyszłość obsługi restauracji.

Na prezentacjach wszystko prawdopodobnie wyglądało perfekcyjnie.

Problem pojawił się w prawdziwym świecie.

Algorytm nie przewidział jednego — ludzi

Według pozwu system dawał kierowcom współpracującym m.in. z DoorDash możliwość podglądu procesu przygotowania zamówień niemal w czasie rzeczywistym.

I tutaj zaczęła się cała lawina problemów.

Kierowcy zaczęli optymalizować własne zyski. Zamiast odbierać pojedyncze zamówienia od razu, część z nich miała czekać na kolejne pizze, by połączyć kilka kursów w jeden przejazd.

Dla kierowcy:

• mniej paliwa,
• więcej zarobku,
• większa opłacalność kursu.

Dla klienta?
Pizza czekająca na półce i stopniowo tracąca temperaturę.

To nie był problem technologiczny w klasycznym znaczeniu. System działał zgodnie z założeniami. Problem polegał na tym, że nikt najwyraźniej nie przewidział, jak ludzie zaczną wykorzystywać dane dostarczane przez algorytm.

Gdzie była kontrola?

To pytanie pojawia się dziś coraz częściej przy dużych wdrożeniach AI.

Bo problemem nie musi być sama sztuczna inteligencja. Często większym problemem są:

• błędne założenia,
• źle ustawione cele,
• brak pilotażu,
• brak monitorowania skutków ubocznych,
• ślepa wiara w dashboardy i wskaźniki.

W praktyce mogło wyglądać to tak:

• korporacyjne KPI świeciły się na zielono,
• system raportował „optymalizację”,
• średni czas procesu teoretycznie się zgadzał,
• a klient dostawał zimne jedzenie.

To klasyczny przykład sytuacji, w której metryki zaczynają żyć własnym życiem i przestają odzwierciedlać rzeczywistość.

Reklama

Reklama

ReklamaType your text here

Reklama

To nie pierwszy taki przypadek w historii biznesu

Eksperci od zarządzania zwracają uwagę, że podobne błędy pojawiały się długo przed modą na AI.

Historia zna już:

• call center skracające rozmowy kosztem jakości,
• firmy kurierskie tworzące „idealne” trasy niemożliwe do wykonania,
• systemy sprzedaży premiujące liczbę produktów zamiast jakości obsługi,
• magazyny optymalizujące sekundy pracy ludzi,
• media produkujące treści pod kliknięcia zamiast wiarygodności.

Mechanizm jest zawsze podobny:
firma zaczyna optymalizować wskaźnik, a nie rzeczywistość.

AI tylko przyspiesza skalę takich błędów.

Czy korporacje wdrażają AI zbyt szybko?

Sprawa Pizza Hut pokazuje jeszcze jeden problem współczesnego rynku technologicznego.

Wiele firm wdraża AI nie dlatego, że dokładnie rozumie proces, ale dlatego, że boi się zostać w tyle za konkurencją.

„Automatyzacja”, „smart delivery”, „AI optimization” i „predictive logistics” dobrze wyglądają w raportach dla inwestorów. Gorzej, gdy system trafia do żywego organizmu, jakim jest sieć restauracji działająca w różnych miastach i różnych warunkach.

111 restauracji to nie laboratorium:

• inne korki,
• inne zachowania kierowców,
• różne godziny szczytu,
• różne przyzwyczajenia klientów,
• inna lokalna logistyka.

Centralny algorytm bardzo często nie rozumie lokalnej rzeczywistości.

Najbardziej niebezpieczna iluzja AI

Ta historia pokazuje coś jeszcze.

Sztuczna inteligencja nie „rozumie biznesu”. Rozumie dane i korelacje.

Nie widzi:

• frustracji klienta,
• motywacji kierowcy,
• zmęczenia pracownika,
• emocji,
• kultury pracy,
• lokalnych problemów operacyjnych.

A właśnie na tym często opiera się prawdziwy biznes.

Dlatego coraz więcej specjalistów podkreśla dziś, że największym błędem nie jest samo wdrożenie AI, ale brak ciągłej kontroli po wdrożeniu.

Bo moment uruchomienia systemu to dopiero początek obserwacji.

I być może właśnie tego zabrakło w przypadku Pizza Hut.

Źródła: Business Insider, Startup Daily