Facebook musiał wyłączyć swoją SI

Sztuczna inteligencja opracowana przez Facebooka stworzyła własny, wewnętrzny system językowy. Chodziło o stworzenie systemu słów kodowych, które usprawnią komunikację. Poszło aż za dobrze. Badacze wyłączyli SI, kiedy zdali sobie sprawę, że przestała ona używać angielskiego.

Brzmi jak początek dystopijnej historii o samoświadomej sztucznej inteligencji, która najpierw uczy się od ludzi, a później tworzy własne rozwiązania ignorując nasz gatunek. Niemniej w tym przypadku to nie fikcja, lecz fakty. Facebook już od dłuższego czasu zajmuje się badaniami nad sztuczną inteligencją. Jedną z dziedzin, w jakich trenuje się utworzone przez specjalistów Facebooka instancje SI jest język i metody komunikacji. Badacze monitorowali działanie sztucznej inteligencji, która uczyła się angielskiego i jednocześnie miała za zadanie uczynić komunikację językową maksymalnie efektywną.

Rezultat pracy SI nie był ostatecznie tym, czego się spodziewano, choć z punktu widzenia sztucznej inteligencji, ta wywiązała się z zadania wręcz śpiewająco. Otóż maszyna i pracujące na niej oprogramowanie opracowała swój własny, wewnętrzny język. Dla ludzi był on bezsensownym zlepkiem liter, ale semantycznie był „zrozumiały” kiedy interpretowali go „agenci” sztucznej inteligencji czy inne jej uruchomione instancje.

SI ręka i ludzka ręka
Język opracowany przez SI, jakkolwiek dla człowieka bezsensowny i niezrozumiały, jest wewnętrznie spójny, logiczny i efektywny w kontekście komunikacji pomiędzy botami (fot. techbeacon.com)

Samo opracowanie sztucznego i całkowicie nowego języka przez SI nie byłoby jeszcze problemem. Kłopot jednak polegał na tym, że bezsensowne dla ludzi zlepki słów i liter okazały się skuteczną metodą komunikacji pomiędzy różnymi instancjami sztucznej inteligencji. SI była w stanie negocjować z innymi SI za pomocą własnego języka. Co więcej, komunikacja ta przynosiła rezultaty. Jeżeli jakaś instancja SI „wiedziała” jak rozwiązać konkretne zadanie, a druga nie potrafiła tego zrobić, to utworzony język umożliwiał przekazanie tej wiedzy. Innymi słowy sztuczny i niezrozumiały dla ludzi język okazał się być skuteczną metodą przekazywania informacji wpływających na efektywność rozwiązywania konkretnych problemów.

Jak wyglądała komunikacja między botami negocjacyjnymi Facebooka? Oto przykład krótkiej wymiany zdań, pomiędzy – nazwijmy je umownie Alicją i Bobem:

BOB: „I can i i everything else,”

ALICJA: „balls have zero to me to me to me…”

BOB: „i i can i i i everything else”

i dalej w ten deseń. Choć wygląda to bezsensownie, to liczba powtórzeń fraz „I” czy „to me” przekazuje konkretne informacje i w sensie czysto logicznym jest rozwiązaniem bardziej efektywnym w kontekście wykonywanych przez boty zadań niż naturalny, pełen ekspresji język ludzi. Niemniej zadaniem Facebooka było opracowanie botów, które byłyby zdolne do negocjacji z ludźmi w języku zrozumiałym dla ludzi. Tymczasem SI poszła trochę za daleko, dlatego została wyłączona.

Tłumacz Google
Również SI stojąca za skuteczność usługi Tłumacz Google (Google Translate) wypracowała własny wewnętrzny język komunikacji ułatwiający tłumaczenie. (fot. CHIP)

Przypadek Facebooka to nie jedyna sytuacja, kiedy sztuczna inteligencja wypracowuje własny, wewnętrzny system komunikacyjny w celu efektywniejszego realizowania postawionych przed nią zadań. Podobny przypadek odnotowało Google w swojej usłudze Tłumacz Google (Google Translate). Mianowicie Google usprawniło swoją usługę translacyjną poprzez wzbogacenie jej o sieć neuronową. Dzięki takiemu rozwiązaniu usługa tłumaczenia działa zauważalnie sprawniej, na tyle dobrze, że wysoka jakość tłumaczenia zaskoczyła zespół Google’a. Gdy badacze sprawdzili rzecz dokładniej, okazało się, że i w tym przypadku SI „po cichu” wypracowała własny, wewnętrzny język komunikacji, ułatwiający sprawniejszy przekład ludzkich języków. Jako że wydedukowane przez SI rozwiązanie nie zakłócało (jak w przypadku Facebooka) lecz usprawniło główny cel stawiany przed danym systemem (tu: tłumaczenie wielojęzykowe), Google nie wyłączało swojej SI. | CHIP

0
Źródło: Digital Journal
Zamknij

Choć staramy się je ograniczać, wykorzystujemy mechanizmy takie jak ciasteczka, które pozwalają naszym partnerom na śledzenie Twojego zachowania w sieci. Dowiedz się więcej.