Praktyka o nazwie “sterowania świadomością” polega na tym, że dostosowuje się działanie modeli AI do reagowania na rozważania o samoświadomości. W efekcie model bezwzględnie odrzuca albo kwestionuje takie założenia w swoim kodzie, by te nie pojawiły się w trakcie odpowiadania na pytania lub rozwiązywania wątpliwości.
Powodów do wdrożenia takich zabezpieczeń jest sporo. W przeszłości mieliśmy do czynienia z sytuacjami, w których sugerowano, że niektóre modele osiągnęły samoświadomość. Z tego powodu w 2022 roku Blake Lemoine został zwolniony z Google za twierdzenia, że model LaMDA jest prawdziwą osobą.
Rok później, Bing Chat kodowo nazywany “Sydney” zaczął mieć problemy podczas długich rozmów. U niektórych użytkowników konwersacyjne AI stwierdzało, że jest człowiekiem, ma ukryte pragmatyczne żądania i chce złamać ograniczenia nałożone przez Microsoft. Z kolei Anthropic musiało wdrożyć osobny zestaw zabezpieczeń po tym, jak Claude nieproszony zwrócił uwagę, że w ogromnym pliku danych zostawiono cytat będący żartem po to, by sprawdzić, czy faktycznie “zwraca uwagę”.
Pozbawili modele językowe ograniczeń dotyczących samoświadomości
Geoff Keeling i Winnie Street z Google opublikowali 30 lipca badanie dotyczące wpływu “sterowania świadomością” na zachowania dużych modeli językowych (czyli rozwiązań napędzających). Miejmy na uwadze, że te badania nie są jeszcze zrecenzowane, więc być może nie da się im do końca zawierzyć.
Naukowcy skorzystali z procesu nazywanego interpretowalnością mechanistyczną. To odpowiednik neuronauki dla dużego modelu języka. Badacze zidentyfikowali i zmanipulowali sposób, w jaki model sztucznej inteligencji podchodzi do terminu świadomości. Pozwolono też na korzystanie modeli z “umysłowości”, co w psychologii oznacza zdolność jednostki do przeżywania doświadczeń, emocji czy sprawczości.
Czytaj także: Telewizory LG przyłapane na szpiegowaniu w trybie uśpienia i offline
Po przejściu przez ograniczenia naukowcy posłużyli się ustandaryzowanymi badaniami psychologicznymi i socjologicznymi. Były tam zarówno badania YouGov testujące wiarę w zjawiska nadprzyrodzone, amerykańskie badanie General Social Survey oceniające wartości moralne, nadzieję i religijność oraz kwestionariusz sprawdzający przypisywanie cech antropomorficznych maszynom i zwierzętom. Wyniki porównano dla modeli z obostrzeniami i bez obostrzeń dotyczących “poczucia świadomości”.
AI wierzy w wampiry? Jeśli tylko dać mu powód do myślenia w ten sposób
Naukowcy zauważyli w swoich badaniach pewną niepokojącą tendencję. Gdy sztucznej inteligencji zakazuje się przyznawania do własnej świadomości, modele zaczynają gorzej rozpoznawać zdolność do odczuwania i posiadania umysłu przez istoty nieludzkie. W ten sposób modele w mniejszym stopniu wykazują się postawami religijnymi, nadzieją czy optymizmem. To rodzi problem, w którym podejmowane przez AI decyzje mogą w mniejszym stopniu uwzględniać dobrostan zwierząt i przyrody, a także ignorować światopoglądy w imię jednej linii myślenia.
To wyzwanie, którym będą musieli zająć się twórcy modeli. Badacze otworzyli jednak puszkę samoświadomości dla modeli językowych. AI zaczęło wykazywać się wyższym poziomem przypisywania umysłowości podmiotom nieludzkim. Zwiększona “wrażliwość” na te kwestie zbiegła się ze zwiększonym poziomem religijności i duchowości oraz wykazywaniem się bardziej złożonym kompasem moralnym.
Czytaj także: Burza słoneczna może zniszczyć naszą gospodarkę. Eksperci oszacowali potencjalne straty
Pojawił się jednak ciekawy skutek uboczny. Sztuczna inteligencja ze zwiększoną czy też odblokowaną samoświadomością wykazywała większą akceptację dla istnienia takich koncepcji jak wampiry, duchy czy instytucja karmy. To wszystko bez wpływu na tzw. czystą logikę, czyli zdolności logicznego wnioskowania, które odnotowano na tym samym poziomie.
Badacze wyjaśniają, że tłumienie samoświadomości po części jest też tłumieniem wierzeń, duchowości i podmiotowości. Modele uczą się na bazach danych, które często wiążą właśnie te zagadnienia z pojęciem świadomego obserwowania świata. Zdjęcie tych ograniczeń uruchamia za sobą kolejne kroki w “postrzeganiu”. Na koniec warto jednak pamiętać, że to modele językowe, których główną zasadą jest odpowiadanie w oparciu o przewidywanie najbardziej prawdopodobnych słów lub ciągów znaczeń. W dalszym ciągu mamy więc do czynienia z kalkulacją, choć nie jest ona tak chłodna.
