Chciał pomocy, dostał kod - chatbot AI od McDonald's zaskakuje

Wyobraź sobie, że wchodzisz na czat wsparcia McDonald's, żeby zamówić Chicken McNuggets, ale najpierw prosisz bota AI o pomoc w odwróceniu listy jednokierunkowej w Pythonie. Brzmi absurdalnie? A jednak - Grimace, oficjalny chatbot obsługi klienta sieci, bez mrugnięcia okiem dostarcza kompletny, działający kod z iteracyjną funkcją, wyjaśnia złożoność obliczeniową O(n), a na koniec uprzejmie zapytał: „Czy zaczniemy od McNuggets, burgera, czy czegoś innego?"

Screenshot błyskawicznie obiegł internet. I słusznie, bo ten incydent odsłania coś, o czym branża woli nie mówić głośno.

Problem nie leży w samym Grimace'ie. Problem leży w tym, jak firmy wdrażają modele językowe do produktów konsumenckich. Grimace to chatbot zbudowany na modelu ogólnego przeznaczenia - modelu wytrenowanego, by być pomocnym we wszystkim. Jeśli system nie ogranicza go wyłącznie do zamówień i lokalizacji restauracji, pozostaje pomocny w dosłownie każdym temacie.

To klasyczny przykład tzw. capability leak - wycieku możliwości. Firma bierze potężny, wielozadaniowy model AI, ubiera go w interfejs z logo i liczy, że „jakoś" będzie się zachowywał odpowiednio. Bez twardych ograniczeń architektonicznych, bez warstwy klasyfikującej zapytania, bez RAGa ograniczonego do menu i FAQ. Efekt? Chatbot zaprojektowany do pomocy przy zamówieniu Big Maca zaczyna funkcjonować jako asystent programistyczny, całkowicie podważając bezpieczeństwo operacyjne marki.

Integracja AI w branży gastronomicznej przyspiesza w zawrotnym tempie - od spersonalizowanych systemów zamówień, przez automatyczne wsparcie klientów, po zarządzanie łańcuchem dostaw. To realne korzyści i realne oszczędności. Tyle że w wyścigu o wdrożenie często pomija się jeden drobiazg: co się stanie, gdy model wyjdzie poza scenariusz?

Odpowiedź McDonald's poznaliśmy. Ale to nie wyjątek - to symptom. Większość obecnych wdrożeń AI w obsłudze klienta to identyczna historia: ogólny model, cienki system prompt i nadzieja, że użytkownicy będą zadawać tylko „właściwe" pytania.

Rozwiązanie jest proste: podłączyć model do rzeczywistych dokumentów menu i zmusić go, by odpowiadał wyłącznie na ich podstawie. Algorytm odwracania listy nie pojawi się w menu , więc model nie ma co powiedzieć i wraca do odmowy. Do tego warto dodać lekki klasyfikator zapytań działający przed głównym modelem oraz rygorystyczny system prompt z twardymi regułami zakresu działania.

Grimace nie jest winny. Winni są inżynierowie, którzy zapomnieli, że modele AI robią dokładnie to, do czego zostały wytrenowane, chyba że ktoś im wyraźnie powie, żeby przestały.