Na przykład Megatron, powstały dzięki współpracy firm Microsoft i Nvidia, został przeszkolony z zastosowaniem rzeczywistych danych. Jego twórcy wykorzystali w tym celu artykuły w języku angielskim dostępne w Wikipedii, 38 gigabajtów dyskusji z Reddita, 63 miliony angielskich artykułów informacyjnych z lat 2016-19 oraz liczne źródła oparte na licencji Creative Commons.
Czytaj też: Czy sztuczna inteligencja może likwidować ludzkie cele? ONZ wkrótce odpowie na to pytanie
Przy tak ogromnych zasobach, na których wytrenowano Megatrona, jest on z pewnością bardziej “oczytany” niż jakikolwiek człowiek na Ziemi. Problem w tym, że sztuczna inteligencja opiera swoje spojrzenie na świat na tym, co przeczyta w sieci (lub innych miejscach, z których pochodzą materiały szkoleniowe). W efekcie nie ma możliwości, by tego typu systemy kiedykolwiek stały się etyczne i moralne.
Sam Megatron, zapytany o to samo, stwierdził, że SI jest narzędziem i jak każde narzędzie, może być wykorzystane do dobrych i złych celów. Innymi słowy, nie ma czegoś takiego jak dobra sztuczna inteligencja: są tylko dobrzy i źli ludzie. Sama SI nie jest natomiast w stanie stać się etyczna i moralna. Najlepszym rozwiązaniem miałoby być integrowanie tego typu systemów z ludzkim mózgiem, tworząc coś, co nazywałoby się świadomą SI.
Sztuczna inteligencja szkoli się przede wszystkim na tym, czego dostarczą jej ludzie
Kiedy narzędzia takie jak Alpha Go zostały wykorzystane do gry w szachy a nawet w gry wideo, to trenowały nie na ludziach, lecz między sobą. Uwolnione od ograniczeń dotyczących zagrań stosowanych przez człowieka, algorytmy wprowadziły innowacyjne podejście i znalazły nowe sposoby na wygraną.
Czytaj też: Sztuczna inteligencja powinna rozwijać się inaczej. Więcej nie oznacza lepiej
Co ciekawe, Megatron, poproszony o podanie kontrargumentów w sprawie moralności i etyczności SI, był w stanie przedstawić scenariusz, w którym modele posiadają te cechy. Nawet bardziej niepokojące może się natomiast wydać stwierdzenie, iż kluczową cechą definiującą gospodarki XXI wieku będzie jego zdaniem zdolność do dostarczania informacji, a nie towarów i usług. Poproszony o podanie kontrargumentu w tej sprawie, Megatron nie potrafił lub nie chciał go przedstawić.