Sztuczna inteligencja zmyśla wady polskich produktów. Potem poleca zagraniczne

Badacze TrustMate.io sprawdzili, jak narzędzia AI radzą sobie z rekomendowaniem około 200 produktów z różnych kategorii. Pod lupę trafiły m.in. elektronika użytkowa, produkty do domu i ogrodu oraz kosmetyki.

W aż 46 proc. przypadków pojawiły się tzw. halucynacje. AI potrafiła wymyślić wadę produktu, której w rzeczywistości nie było, a następnie zasugerować zakup innego, często zagranicznego modelu.

Testy obejmowały m.in. ChatGPT Search, Perplexity Pro i Google Gemini 1.5. Szczególnie interesujący okazał się jednak nie sam fakt popełniania błędów, ale powód, dla którego do nich dochodziło.

Okazuje się, że dobry produkt może przegrać z gorszym konkurentem, jeśli w internecie jest o nim znacznie mniej informacji. Duże zagraniczne marketplace'y mają ogromną przewagę. Ich katalogi obejmują miliony produktów, szczegółowe opisy, tabele parametrów, opinie i dziesiątki powiązanych stron. Dla modelu AI oznacza to po prostu znacznie więcej materiału, na podstawie którego może przygotować odpowiedź.

Problem w tym, że ilość informacji nie musi oznaczać jakości produktu. Mniejszy polski sklep może sprzedawać bardzo dobry sprzęt, ale jeśli na jego stronie znajduje się krótki opis i niewiele uporządkowanych danych, AI może mieć problem z prawidłową oceną oferty.

W badaniu pojawiły się szczególnie niepokojące przykłady. Przy jednym z polskich urządzeń grzewczych AI miała wskazać ryzyko awarii termostatu, mimo że taka wada nie wynikała z rzeczywistych informacji o produkcie.

Podobne problemy pojawiały się przy kosmetykach i chemii domowej. Modele potrafiły łączyć informacje znalezione w sieci i tworzyć ostrzeżenia dotyczące substancji, których faktycznie nie było w składzie danego produktu.

To ważna różnica w porównaniu ze zwykłą pomyłką w wyszukiwarce. Użytkownik może nie dostać po prostu złego wyniku. Może dostać przekonująco brzmiące wyjaśnienie, dlaczego nie powinien kupować konkretnego produktu.

Badanie wskazuje również na znaczenie danych strukturalnych, czyli informacji zapisanych w kodzie strony w sposób zrozumiały dla wyszukiwarek i systemów AI. W przypadku produktów, które miały wdrożone dane Schema.org oraz uporządkowane informacje w formacie JSON-LD, zjawisko zmyślania wad miało zostać niemal całkowicie ograniczone.

W praktyce oznacza to, że sklep internetowy musi dziś myśleć nie tylko o tym, czy człowiek zrozumie opis produktu, ale również o tym, czy poprawnie odczyta go sztuczna inteligencja.

Nie oznacza to jednak, że AI została zaprogramowana tak, aby automatycznie promować chińskie czy zagraniczne produkty. Eksperci cytowani przez "Rzeczpospolitą" zwracają uwagę, że rekomendacja zależy m.in. od ceny, dostępności, marki oraz ilości i jakości danych, do których ma dostęp model.

Problem polega więc bardziej na przewadze informacyjnej dużych marketplace'ów. Jeżeli jeden produkt ma w internecie tysiące szczegółowych opisów, opinii i stron, a drugi jest dostępny w małym sklepie z kilkoma podstawowymi informacjami, AI ma znacznie więcej materiału dotyczącego tego pierwszego.

Skala problemu może być większa, niż sugeruje samo badanie. Według danych przywołanych przez "Rzeczpospolitą" prawie 58 proc. z 369 przebadanych polskich domen było dla systemów AI niemal nieczytelnych. W przypadku e-commerce średni wynik wskaźnika GRI wyniósł zaledwie 32,5 na 100 punktów.

To może mieć coraz większe znaczenie, bo AI stopniowo staje się kolejnym sposobem wyszukiwania produktów. Zamiast otwierać kilkanaście kart i porównywać ceny, użytkownik może po prostu zapytać chatbota: "Który telewizor powinienem kupić do 3000 zł?"

I tutaj zaczyna się problem. Jeżeli sztuczna inteligencja wybierze produkt na podstawie niepełnych danych, a następnie przedstawi zmyśloną wadę konkurencyjnego urządzenia jako fakt, konsument może podjąć decyzję zakupową na podstawie informacji, które nigdy nie powinny się tam znaleźć.