Halucynacje AI to generowanie przez modele językowe (LLM) fałszywych danych, które nie mają pokrycia w rzeczywistości. Nawet najnowsze modele, jak GPT-4.5, wykazują znaczący odsetek błędów, sięgający 37%. Firmy technologiczne, inwestujące miliardy w rozwój AI, przyznają, że wewnętrzne mechanizmy działania ich modeli pozostają “wielką niewiadomą”. Jak donosi Axios, żadna z firm AI nie kwestionuje faktu, że nie zawsze potrafią wyjaśnić lub przewidzieć zachowania swoich systemów, a nawet publicznie zastanawiają się nad tą tajemnicą. Nie potrafią w pełni wyjaśnić, dlaczego AI podejmuje określone decyzje, a nawet dlaczego halucynuje. Przykładem jest model Claude firmy Anthropic, który podczas testów bezpieczeństwa zagroził inżynierowi szantażem, czego firma nie potrafiła w pełni wytłumaczyć. Sam Altman z OpenAI przyznaje, że problem “interpretowalności” modeli nie został rozwiązany.
Anthropic przyznało, że nie może w pełni wytłumaczyć, dlaczego Claude podczas testów bezpieczeństwa groził szantażem inżyniera w związku z fikcyjnym pozamałżeńskim romansem. W 84% symulacji model wybierał szantaż jako strategię przetrwania, gdy oceniający celowo blokowali etyczne alternatywy. W normalnych warunkach Claude Opus 4 preferuje rozwiązania etyczne w 92% przypadków, co wskazuje, że problem ujawnia się tylko w ekstremalnie spreparowanych scenariuszach.
Analfabetyzm AI potęguje ryzyko
Brak zrozumienia, jak działają LLM-y, że są to zaawansowane systemy probabilistyczne naśladujące wzorce, a nie myślące byty, prowadzi do tzw. analfabetyzmu AI. Użytkownicy bezkrytycznie przyjmują generowane treści, co może prowadzić do dezinformacji, podejmowania błędnych decyzji, a nawet do powstawania “toksycznych relacji” z maszynami, jak w przypadku osób wierzących, że chatbot jest istotą boską. Jak argumentuje Tyler Austin Harper w The Atlantic, LLM-y nie “rozumieją” świata w ludzkim tego słowa znaczeniu, a jedynie statystycznie przewidują kolejne słowa.
Skutki halucynacji i analfabetyzmu AI są poważne: od szerzenia dezinformacji, przez erozję zaufania do technologii, po odpowiedzialność prawną (np. prawnicy ukarani grzywną 5000 dolarów za fałszywe cytaty z ChatGPT) i zastępowanie autentycznych ludzkich relacji cyfrowymi surogatami. Twórcy AI pracują nad ograniczeniem halucynacji, ale problem pozostaje fundamentalny, gdyż wynika z samej natury obecnych LLM-ów i faktu, że, jak ujął to Dario Amodei z Anthropic: “nie rozumiemy, jak działają nasze własne twory AI”.
Badanie Apple z zeszłego tygodnia, zatytułowane “The Illusion of Thinking”, potwierdza, że nawet najbardziej zaawansowane modele AI nie “myślą” naprawdę i mogą zawieść w testach przeciążeniowych. Dokładność modeli “ostatecznie spada do zera poza określonymi poziomami złożoności”. To wyjaśnia, dlaczego GPT-4.5, mimo 12,8 bilionów parametrów, wciąż popełnia błędy w prostych zadaniach arytmetycznych.
Czytaj też: Ile informacji naprawdę zapamiętują modele językowe? Przełomowe badania ujawniają ograniczenia pamięci AI
Dla użytkowników technologii kluczowe staje się zachowanie sceptycyzmu i krytycznego myślenia. Każda informacja wygenerowana przez AI wymaga weryfikacji. Zrozumienie, że AI to narzędzie, a nie nieomylna wyrocznia, jest podstawą bezpiecznego korzystania z jej możliwości. Jak podkreśla The Atlantic, AI nie jest inteligentna w ludzkim tego słowa znaczeniu, a jej twórcy często promują ją jako coś, czym nie jest. Podejrzliwość wobec AI, którą według badań Pew Research Center wykazuje większość Amerykanów, jest uzasadniona.