Przez ostatnie lata zdążyliśmy się przyzwyczaić, że sztuczna inteligencja potrafi z pełnym przekonaniem opowiadać bzdury. Sęk w tym, że zastosowanie AI nabiera coraz bardziej poważnej skali, a wojsko jest tutaj szczególnie interesującym przypadkiem. Od sztucznej inteligencji dowódcy oczekują bowiem dokładnie tego, w czym jest ona potencjalnie najlepsza – błyskawicznego przetwarzania ogromnych ilości danych. Nie oznacza to jednak, że “wojskowe AI’, to “bezbłędne AI”, a tak przynajmniej zdają się sugerować najnowsze informacje.
AI zobaczyła element programu nuklearnego tam, gdzie go nie było
Według ustaleń CNN niepokojący scenariusz z AI w roli głównej wydarzył się w amerykańskim wojsku wiosną 2026 roku podczas wojny z Iranem. Analityk związany z dowództwem operacji specjalnych zajmował się informacjami dotyczącymi manifestu ładunkowego chińskiego statku znajdującego się na Bliskim Wschodzie i wykorzystał do pracy chatbota. Nie wiadomo, czy był to model komercyjny, czy narzędzie udostępnione przez administrację USA.
Czytaj też: Czołg przyszłości nie jest już prototypem. Chiny pokazały go rok temu, dziś ćwiczy z wojskiem
Model miał zestawić informacje pochodzące ze źródeł otwartych z niejawnymi danymi wywiadu sygnałowego i doszedł do bardzo poważnego wniosku – statek miał transportować komponenty powiązane z programem broni jądrowej. Problem w tym, że identyfikacja ładunku była błędna. CNN nie ustaliło, co jednostka rzeczywiście przewoziła, więc na tym kończy się nasza wiedza o samym ładunku.
Sama halucynacja nie jest jednak w tej historii najbardziej interesująca. Analityk ponownie wykorzystał AI, tym razem do przygotowania ustaleń w formie standardowego raportu wywiadowczego. Dokument następnie trafił normalnymi kanałami do kolejnych osób. Według źródeł CNN wojsko rozpoczęło przygotowania do przechwycenia statku, uzbrojeni żołnierze mieli szykować się do wejścia na jego pokład, a wojskowe samoloty znajdowały się już w powietrzu. Dopiero dokładniejsza kontrola materiału przed planowaną operacją wykazała błąd. Tak przynajmniej utrzymuje CNN.
Chatbot się pomylił, ale człowiek nadał jego odpowiedzi rangę raportu
Możemy skupiać się na tym, że sztuczna inteligencja po raz kolejny coś zmyśliła, ale podobne błędy znamy przecież od lat. Znacznie poważniejszy jest mechanizm, który pozwolił błędnemu wnioskowi przejść z okna chatbota do oficjalnego obiegu wywiadowczego. Można to określić mianem swoistego “prania autorytetu”, bo taki odbiorca odpowiedzi ChatGPT, Claude’a czy innego modelu wie, że patrzy na tekst wygenerowany przez AI i powinien podchodzić do niego z odpowiednim dystansem.
Jednak kolejna osoba, która otrzymuje standardowy raport wywiadowczy, ma już zupełnie inny punkt wyjścia. Dokument przeszedł bowiem przez analityka, został przygotowany w odpowiedniej formie i pojawił się tam, gdzie podstawą są wiarygodne informacje, a to ma wszelkie podstawy, aby stworzyć realny problem, który zresztą nie sprowadza się tylko do wojska. NIST zwraca uwagę na zjawisko nadmiernego zawierzania systemom automatycznym. Im częściej narzędzie daje sensowne odpowiedzi, tym łatwiej zacząć przyjmować je bez wystarczającej weryfikacji.
Człowiek był w pętli przez cały czas. Niewiele brakowało
Ta historia jest też ciekawym testem popularnej zasady “human in the loop”. Żaden autonomiczny system nie podjął tutaj sam decyzji o wejściu na chiński statek. Człowiek zadał pytanie AI, człowiek przygotował i rozesłał raport, inni ludzie rozpoczęli przygotowania, a na końcu również człowiek wykrył problem i operację zatrzymał. Formalnie więc zabezpieczenie zadziałało. Praktycznie błąd przeszedł jednak tak daleko, że trudno uznać wcześniejsze etapy kontroli za szczególnie uspokajające.
Czytaj też: Niewidzialne samoloty wojskowe nadchodzą? Radar i termowizja mają nowy problem
Czytaj też: USA zwiększają potęgę lotniskowców. Takiej broni jeszcze na nich nie było
CNN podaje dodatkowo, że poszczególne części amerykańskiej armii i środowiska wywiadowczego korzystają z różnych narzędzi oraz procedur, a nie istnieje aktualnie jeden wspólny standard określający sposób weryfikowania informacji wygenerowanych przez AI. Jedno ze źródeł zwróciło również uwagę, że sama obecność człowieka w procesie nie daje jeszcze jasnej odpowiedzi na pytanie, jak zapobiegać błędnym decyzjom podczas wykorzystania AI do namierzania celów.
Amerykańskie wojsko chce być “AI-first”
Całość nabiera znaczenia, gdy zestawimy incydent z kierunkiem obranym przez amerykańskie siły zbrojne. W styczniu 2026 roku Departament Wojny ogłosił strategię przyspieszenia wdrażania sztucznej inteligencji i wprost zapowiedział stworzenie sił działających według zasady “AI-first”. AI ma wspierać prowadzenie działań bojowych, wywiad i codzienne funkcjonowanie organizacji obejmującej ponad trzy miliony pracowników wojskowych i cywilnych. Po tym incydencie znacznie ciekawsze staje się jednak inne pytanie, bo ile z czasu zaoszczędzonego dzięki AI możemy bezpiecznie odebrać procesowi sprawdzania jej pracy?
Źródła: CNN, Departament Wojny USA, NIST
