Ironia całej sytuacji polega na tym, że Altman rozwiązuje problem częściowo przez siebie stworzony. To właśnie jego OpenAI wypuściło ChatGPT, który rozpoczął na dobre rewolucję generatywnego AI. Teraz, gdy sztuczna inteligencja staje się coraz bardziej podobna do człowieka, musimy udowadniać, że sami jesteśmy ludźmi? Potrzebowaliśmy sposobu na identyfikację i uwierzytelnianie ludzi w erze AGI – tłumaczy Altman, odnosząc się do wyższej formy sztucznej inteligencji mającej docelowo zdolności rozumienia i uczenia się porównywalne do ludzkiego mózgu. To nadal pieśń przyszłości, ale poważne problemy mamy już dziś: boty na platformach społecznościowych już teraz generują miliardy wyświetleń treści AI. Wikipedia stała się zbyt droga w utrzymaniu ze względu na boty scrappingowe. Badania pokazują, że komentarze generowane przez AI są nawet sześciokrotnie skuteczniejsze w przekonywaniu ludzi niż te napisane przez człowieka.
Jak działa Orb? Jak informuje magazyn Time, technologia jest zaawansowana, ale proces prosty. Po pobraniu aplikacji World App użytkownik pokazuje kod QR urządzeniu, a następnie patrzy w jego obiektyw. Orb sprawdza kilkoma czujnikami, czy mamy do czynienia z żywym człowiekiem, po czym skanuje tęczówkę oka – najbardziej unikalną cechę biometryczną każdego z nas. W ciągu sekund tęczówka zostaje przekształcona w kod binarny o długości blisko 13 tys. cyfr, który jest szyfrowany i dzielony na części przechowywane na różnych serwerach. Teoretycznie nikt nie może powiązać tego kodu z konkretną osobą, a klucze deszyfrujące są niszczone. Użytkownik otrzymuje World ID – cyfrowy paszport potwierdzający jego człowieczeństwo oraz darmową kryptowalutę Worldcoin.
Firma twierdzi, że technologia jest w pełni anonimowa i chroniąca prywatność. Kod źródłowy Orb jest otwarty, więc eksperci mogą sprawdzić te zapewnienia. Trevor Traina, były ambasador USA w Austrii, a obecnie dyrektor biznesowy firmy, nazywa to najmocniej chroniącą prywatność technologią na planecie. Rzeczywistość jest jednak bardziej skomplikowana. Choć firma twierdzi, że efektywnie zanonimizowała dane biometryczne, to po usunięciu aplikacji i danych z telefonu, pochodne kody pozostają w systemie na zawsze. Regulatorzy UE w Niemczech uznali to za fundamentalny problemy z ochroną danych i nakazali firmie umożliwienie pełnego usunięcia danych przez europejskich użytkowników.
Co to oznacza dla zwykłych ludzi? Dla przeciętnego internauty wizja Altmana może mieć daleko idące konsekwencje. Z jednej strony mamy szereg korzyści – ochronę przed botami i fałszywymi kontami oraz weryfikację tożsamości bez ujawniania danych. Z drugiej strony istnieją realne zagrożenia – konieczność oddania danych biometrycznych prywatnej firmie, ryzyko wykluczenia cyfrowego dla osób niezweryfikowanych, koncentrację władzy w rękach twórców systemu i brak możliwości prawdziwego usunięcia swoich danych. Poza tym praktyka pokazuje, że entuzjazm dla technologii nie jest powszechny. W Korei Południowej, gdzie Orb testowano od 2023 roku, zweryfikowano tylko 55 tysięcy osób spośród 51-milionowej populacji. W odwiedzonych przez dziennikarza Time lokalizacjach większość ludzi przechodziła obok urządzeń z zaciekawieniem, ale bez chęci udziału.
Paradoks całej sytuacji polega na tym, że World ID może nie rozwiązać problemu, do którego się odnosi. System nie mówi, czy dany post został napisany przez człowieka czy AI – informuje tylko, czy konto należy do zweryfikowanego człowieka. Nawet w świecie powszechnej weryfikacji internet wciąż może być wypełniony treściami generowanymi przez sztuczną inteligencję. Altman planuje też umożliwienie delegowania World ID na agenty AI, co pozwoli botom działać w imieniu ludzi. To oznacza, że jego wizja może prowadzić nie tyle do oddzielenia ludzi od AI, co do stworzenia infrastruktury umożliwiającej jeszcze szersze rozprzestrzenienie się wspomnianych agentów AI.
Czytaj też: OpenAI i były projektant Apple pracują nad rewolucyjnym gadżetem. “iPhone w świecie AI”
Największym dylematem jest jednak potencjalna konieczność uczestnictwa w samym systemie. Jeśli główne platformy społecznościowe, serwisy randkowe czy usługi rządowe zaczną wymagać World ID, ludzie mogą stracić wolność wyboru. Alternatywą stanie się wykluczenie cyfrowe. Orb reprezentuje paradoks naszych czasów: rozwiązywanie problemu przez tę samą osobę, która go stworzyła. Choć potrzeba weryfikacji człowieczeństwa w erze AI jest realna, pytanie brzmi, czy chcemy powierzyć tę kluczową funkcję prywatnej firmie kierowanej przez głównego beneficjenta rozprzestrzenienia się AI?