Czym są halucynacje AI? Definicja, przyczyny i przykłady

Obecnie trudno wyobrazić sobie pracę w marketingu (i nie tylko) bez wsparcia narzędzi AI. Tyle że żaden model, nawet najlepszy, nie jest nieomylny. Wręcz przeciwnie; odpowiedzi generowane przez sztuczną inteligencję mogą brzmieć bardzo wiarygodnie, a jednocześnie być zupełnie oderwane od rzeczywistości. Takie sytuacje nazywamy halucynacjami – o tym, dlaczego, mimo rozwoju LLMów, zdarzają się one tak często i jak można je ograniczyć, przeczytasz poniżej.

Halucynacje AI – definicja 

Halucynacje AI to sytuacje, gdy model językowy (np. ChatGPT, Gemini czy Claude) generuje odpowiedzi wyglądające na poprawne i wiarygodne, ale w rzeczywistości niezgodne z faktami. Mogą to być drobne przekłamania, jak i całkowicie wymyślone informacje – źródła, które nie istnieją, błędne daty albo cytaty przypisane zupełnie niewłaściwym osobom.

Dlaczego modele językowe tak często halucynują?

Na początek ustalmy, że AI nie „kłamie” celowo. Modele językowe nie interpretują treści tak, jak człowiek ani nie posiadają wiedzy o świecie w takim rozumieniu, jak każdy z nas. 

Można powiedzieć, że halucynacje są częścią natury modeli językowych, bo LLMy działają na podstawie statystycznych wzorców językowych; to znaczy przewidują kolejne słowa w zdaniu na podstawie wzorców z danych treningowych. Jeśli informacje w zbiorze danych nie są prawdziwe (a w internecie dzieje się to cały czas) – odpowiedź wygenerowana przez AI też będzie odbiegać od faktów. A nawet jeżeli model pracuje na bardzo dobrze przygotowanym zbiorze danych… to wciąż, działa on według zasad statystyki. Zawsze pozostaje więc ryzyko błędu. Poza tym, informacje w zbiorze treningowym AI mogą być też niepełne; wtedy model będzie próbował je odtworzyć na podstawie fragmentów danych, co też może prowadzić do przekłamań.

Inną kwestią są prompty. Jeśli polecenie, jakie wpiszesz w ChatGPT lub innego chatbota nie będzie precyzyjnie sformułowane, AI będzie musiała dopowiedzieć część informacji na podstawie – znów – własnego zbioru danych, który nie jest idealny.

I wreszcie, popularne modele językowe są po prostu projektowane w taki sposób, aby, koniec końców, zadowolić użytkownika. Więc gdy oczekujesz od AI informacji, model często woli coś wygenerować, zamiast przyznać się do braków danych. 

Najczęstsze typy halucynacji AI

Sztuczna inteligencja potrafi halucynować na bardzo różne sposoby; korzystając z LLMów trzeba się wystrzegać błędów:

• informacyjnych – czyli podawania przez AI wymyślonych cytatów i zdarzeń historycznych, przepisów prawnych, które nie istnieją (lub są nieaktualne) czy statystyk bez żadnego wiarygodnego źródła;
• źródłowych – modele językowe nierzadko podają jako źródła odnośniki do artykułów czy tekstów naukowych, które… w ogóle nie istnieją;
• instrukcyjnych – gdy model dopowiada informacje do promptu: wymyśla polecenia, których nie podałeś, zakłada brakujący kontekst albo stosuje nadmierne uogólnienia;
• tożsamościowych – gdy model miesza ze sobą informacje o kilku postaciach, zjawiskach lub innych obiektach;
• liczbowych – modele językowe nie „rozumieją” zasad matematyki i nie umieją liczyć; traktują liczby tak, jakby były słowami, więc siłą rzeczy mogą popełniać wręcz absurdalne błędy.

Jak radzić sobie z halucynacjami AI – dobre praktyki

I tak, nigdy nie da się wyeliminować halucynacji modeli językowych w stu procentach; to jest ich „wada wrodzona”. Dlatego trzeba, po prostu, uważać na błędy i się do nich dostosować. Najważniejsza zasada to nigdy nie traktować odpowiedzi AI jako prawdziwych z definicji, tylko raczej jako punkt wyjścia do pracy. Wszystkie ważne informacje – dane liczbowe, statystyki, fakty dot. wydarzeń ze świata „offline” – weryfikuj w wiarygodnych źródłach; mimo możliwości, jakie oferują LLMy, naprawdę trzeba to robić.

Natomiast jeśli zależy Ci na tym, aby błędów było jak najmniej:

1. staraj się tworzyć jak najbardziej precyzyjne prompty – tak, aby AI nie musiała sobie dopowiadać kontekstu do zadania;
2. podawaj modelowi konkretne, wiarygodne źródła danych, z których ma czerpać – mogą to być rzetelne teksty naukowe albo, powiedzmy, informacje z firmowej bazy danych, do których AI inaczej nie miałaby dostępu;

Sztuczna inteligencja może być najlepszym asystentem przy pracy – i w SEO, i w wielu innych dziedzinach – ale pamiętaj; to wciąż tylko algorytm. Nie potrafi on krytycznie analizować informacji tak, jak to robi człowiek. Dlatego każdą odpowiedź wygenerowaną przez AI trzeba sprawdzać dwa razy!