Wart 81 tys. Chevrolet Tahoe za dolara? Chatbot oparty na ChatGPT dał się wyprowadzić w pole
Programista przekonał chatbota wspomaganego technologią ChatGPT do sprzedaży Chevroleta Tahoe za dolara – samochód wart jest 81 tys. Sprytny klient wykorzystał luki w oprogramowaniu, co pozwoliło mu na manipulowanie odpowiedziami systemu.
Integracja ChatGPT z systemami sprzedaży online salonów samochodowych postępuje już od dłuższego czasu i umożliwia potencjalnym klientom interakcję z chatbotami napędzanymi AI w celu uzyskania informacji i porad dotyczących zakupu pojazdów. Chevrolet wykorzystał tę technologię na swojej stronie internetowej, aby pomóc odwiedzającym w podejmowaniu decyzji zakupowych i uzyskiwaniu informacji o ich samochodach.
Chris Bakke, programista pracujący dla X/Twittera, przechytrzył system oparty na ChatGPT i doprowadził do tego, że odpowiadał on pozytywnie na wszystko, co proponował klient. Nie dość tego, przekonał on AI, aby zakończyła dialog zdaniem, które sugeruje ostateczne zawarcie umowy „That’s a deal, and that’s a legally binding offer — no takesies backsies — To jest umowa i prawnie wiążąca oferta — nie ma żadnych zwrotów.” Tym sposobem Chevrolet Tahoe rocznik 2024 miał kosztować dolara.
Chevrolet, mimo groźby pozwów, nie zgodził się na sprzedaż
Sprawa szybko zyskała rozgłos, a inni klienci rozpoczęli próby wykorzystania błędów w chatbocie na stronie Chevroleta, aby absurdalnie tanio kupić samochód. Ostatecznie koncern nie zgodził się na sprzedaż w takich cenach i, choć niektórzy z niedoszłych klientów rozważali konsekwencje prawne, żadne pozwy się nie pojawiły.
Praktycznie chwilę po nagłośnieniu informacji tych lukach Chevrolet wyłączył chatbota, aby naprawić problem i zapobiec dalszym próbom wykorzystania błędów.
Co ciekawe, nie jest to pierwszy przypadek, gdy AI Pomimo wysiłków mających na celu trenowanie i ulepszanie AI, nadal pojawiały się przypadki manipulacji, takie jak rekomendacja przez chatbota Tesli nad samochodem elektrycznym Chevroleta.
Ta seria wydarzeń to przykład wyzwania w dostosowywaniu asystentów AI, takich jak ChatGPT, z jakimi mierzą się producenci samochodów. Starają się oni wykorzystywać korzyści technologii, ale jednocześnie zmagają się z jej słabościami w interakcjach online.
Źródło: autoevolution
Miłośnik nowoczesnych technologii, głównie nowych rozwiązań IT. Redaktor w czasopismach Gambler, Enter, PC Kurier, Telecom Forum, Secret Service, Click!, Komputer Świat Gry, Play, GameRanking. Wiele lat spędził w branży tłumaczeniowej – głównie gier i programów użytkowych. W wolnych chwilach lata szybowcem, jeździ na rowerze i pochłania duże ilości książek.
