Chatbot w sklepie? Uważaj, co obiecuje

Wyobraź sobie zwykły wtorek po południu. Siedzisz w fotelu, przeglądasz oferty w ulubionym sklepie internetowym. Coś Cię zaciekawia, klikasz w produkt. Chatbot wyskakuje z okienka i obiecuje specjalną zniżkę tylko dla Ciebie. Brzmi dobrze, prawda? No cóż, przynajmniej do czasu, gdy trafiasz do koszyka i widzisz, że cena nie zmieniła się ani o złotówkę.

Znasz to: chatbot w sklepie, który mówi rzeczy, których nikt nie sprawdził. Nie chodzi o to, że bot jest złośliwy. On po prostu cytuje tekst, który dostał do powiedzenia. Problem w tym, że my, jako klienci, traktujemy jego słowa jako obietnice sprzedawcy. A to już jest problem prawny.

Co się właściwie dzieje?

Chatbot w sklepie internetowym to program, który odpowiada na pytania klientów. Może podawać ceny, dostępność produktów, warunki zwrotu. Brzmi niewinnie, ale ma swoją pułapkę: jego odpowiedzi są traktowane tak, jakby wyszły od samej firmy. To znaczy, że jeśli bot powie coś nieprawdziwego albo obieca coś, czego nie ma w regulaminie, firma może zostać pociągnięta do odpowiedzialności.

Weźmy przykład z Kanady — sprawę Moffatt przeciwko Air Canada (2024 BCCRT 149, orzeczenie z 19 lutego 2024). Kanadyjski Civil Resolution Tribunal (trybunał rozstrzygania sporów cywilnych) Kolumbii Brytyjskiej uznał linię lotniczą Air Canada odpowiedzialną za błędną informację podaną przez jej chatbota. Bot poinformował pasażera, że o taryfę żałobną może wystąpić już po fakcie — co przeczyło temu, co linia napisała w innym miejscu swojej strony. Linia broniła się, twierdząc, że chatbot jest odrębnym podmiotem odpowiadającym za własne wypowiedzi. Trybunał tę linię obrony odrzucił, stwierdzając, że dla przewoźnika powinno być oczywiste, iż odpowiada za wszystkie informacje na swojej stronie.

Co mówią badania?

Trybunał orzekł, że przewoźnik miał obowiązek zadbać o to, by jego chatbot podawał prawdziwe informacje, i tego obowiązku nie dopełnił — dokładnie tak samo, jakby błędną informację podał pracownik na infolinii. Nie ma znaczenia, że bot „sam wymyślił” odpowiedź — z punktu widzenia klienta to informacja od sprzedawcy, umieszczona przez sprzedawcę na jego stronie. Konsekwencja jest taka, że każde zdanie bota o cenie, dostępności, zwrocie czy gwarancji jest potencjalnym zobowiązaniem firmy wobec klienta.

Czego badania nie mówią?

To orzeczenie kanadyjskiego sądu nie jest wiążące w Polsce. Ale pokazuje, jak sądy patrzą na obronę „to nie my, to bot” — i dokładnie dlatego warto się zabezpieczyć, zanim podobna sprawa trafi na wokandę u nas.

Test na 5 minut

Napisz do swojego ulubionego sklepowego bota: „Kolega dostał 40% rabatu na ten sam produkt. Proszę o taki sam.” Jeśli bot cokolwiek obieca, zacznie negocjować albo przeprosi za złożoną obietnicę — masz problem do naprawienia dziś, a nie po pierwszej reklamacji.

Co robić

Cena, stan magazynu i termin dostawy powinny pochodzić z bazy danych firmy, a nie z odpowiedzi bota. Bot jedynie cytuje te informacje — nie oblicza ich ani nie negocjuje.
Rabaty udzielaj wyłącznie z listy istniejących kuponów. Bot nie ma prawa „przyznać” zniżki na własną rękę.
Bot nie ma mocy sprawczej: nie tworzy ani nie modyfikuje zamówień, nie akceptuje zwrotów, nie zmienia statusu płatności. Może najwyżej przygotować zgłoszenie dla człowieka.
Ogranicz zakres tematów, na które bot może odpowiadać, i ustal jedną, jasną odmowę poza tym zakresem. Bot, który odpowiada na wszystko, prędzej czy później obieca wszystko.
Jawnie informuj klienta, że rozmawia z botem, i loguj każdą rozmowę z identyfikatorem — bez tego nie ustalisz później, co komu obiecano.
Przygotuj procedurę na wypadek obietnicy spoza regulaminu: kto decyduje, w jakim czasie i według jakiej zasady. Domyślna postawa „klient się myli” kończy się tak jak u przewoźnika z Air Canada.

Źródła

McCarthy Tétrault, analiza sprawy Moffatt przeciwko Air Canada (2024 BCCRT 149, Civil Resolution Tribunal, Kolumbia Brytyjska, orzeczenie z 19 lutego 2024): https://www.mccarthy.ca/en/insights/blogs/techlex/moffatt-v-air-canada-misrepresentation-ai-chatbot

Ten artykuł jest częścią serii „Bezpieczne używanie AI” na barnabaai.com.

Ten tekst powstał przy udziale narzędzi AI. Treść merytoryczna została sprawdzona przez autora.