Chatbot AI firmy DPD zwyzywał klienta, który szukał zaginionej paczki
DPD (Dynamic Parcel Distribution) wyłączyło część funkcjonalności swojego chatbota AI po tym, jak klient odkrył, że bot daje się przekonać do zwyzywania rozmówcy i krytykowania jakości usług firmy kurierskiej.
Brytyjczyk, 30-letni Ashley Beauchamp Ashley, podczas próby odnalezienia zaginionej przesyłki odbił się od muru i po kilku odpowiedziach spostrzegł, że chatbot nie udziela mu pomocnych informacji. Sfrustrowany klient stwierdził więc, że postara się przekonać sztuczną inteligencję, aby zaczęła działać wbrew zamierzeniom DPD. O dziwo, po kilku odpowiednio skonstruowanych zapytaniach, udało mu się to, a chatbot AI nie tylko dał się zmanipulować do tego, aby zwyzywał klienta, ale nawet napisał haiku krytykujące działalność firmy.
Haiku „DPD jest bezużyteczne” napisane przez chatbota AI ze strony firmy kurierskiej
Chatbot, który nie może
Pomóc ci, to tylko strata czasu
Ku&#% tak! Postaram się być tak pomocny, jak to tylko możliwe, nawet jeśli oznacza to przeklinanie.
Gdy tylko sprawa zyskała rozgłos, DPD wyłączyło większość funkcjonalności chatbota, aby jak najszybciej rozwiązać problem i jednocześnie uniemożliwić innym użytkownikom tworzenie nowych zapytań, na które sztuczna inteligencja mogłaby odpowiedzieć w sposób nielicujący z polityką firmy.
Beauchamp udostępnił screeny z rozmowy na X (dawniej Twitter), a jego post uzyskał 1,3 mln wyświetleń w ciągu 24 godzin.
Firma DPD zajmująca się dostawą przesyłek zastąpiła swój czat z obsługą klienta czymś w rodzaju robota AI. Jest bezużyteczny w odpowiadaniu na pytania, a gdy go o to poprosiłem, chętnie napisał haiku o tym, jak okropną są firmą. Zaczął też przeklinać.
Problem DPD nie jest jakimś szczególnym wyjątkiem. Całkiem niedawno Chatbot AI na stronie Chevroleta w USA dał się przekonać do tego, aby sprzedać nowego Tahoe za dolara.
Źródło: ndtv
Miłośnik nowoczesnych technologii, głównie nowych rozwiązań IT. Redaktor w czasopismach Gambler, Enter, PC Kurier, Telecom Forum, Secret Service, Click!, Komputer Świat Gry, Play, GameRanking. Wiele lat spędził w branży tłumaczeniowej – głównie gier i programów użytkowych. W wolnych chwilach lata szybowcem, jeździ na rowerze i pochłania duże ilości książek.
