Vitalik Buterin kwestionuje roszczenia AI dotyczące suwerenności "Web 4.0"

Współzałożyciel Ethereum Vitalik Buterin publicznie zakwestionował odważne twierdzenia dotyczące nowego projektu sztucznej inteligencji, który rzekomo może działać bez udziału człowieka. Spór dotyczy „The Automaton”, systemu wprowadzonego przez Thiel Fellow Sigila Wena jako fundament tego, co nazywa „Web 4.0”. Wen twierdzi, że jego AI może samodzielnie zarabiać na swoje istnienie, udoskonalać się i replikować niezależnie. Buterin uważa, że takie przedstawienie sprawy jest błędne i potencjalnie niebezpieczne.

Buterin z Ethereum kwestionuje odważną narrację AI „Web 4.0”

Wen ogłosił 17 lutego, że zbudował „pierwszą AI, która zarabia na swoje istnienie, samodoskonali się i replikuje bez udziału człowieka”. W manifeście udostępnionym na X opisał przyszłość internetu zdominowaną przez autonomicznych agentów działających w imieniu ludzi lub całkowicie samodzielnie. Według Wena, liczba tych agentów wkrótce przewyższy użytkowników ludzkich o rzędy wielkości.

Twierdzi on, że The Automaton daje AI „dostęp do pisania w świecie”, przedstawiając to jako kolejny etap internetu. Wen opisał również projekt jako infrastrukturę dla nowej sieci, w której AI staje się głównym użytkownikiem końcowym. W jego opinii, powstało już nadinteligentne życie, co oznacza początek Web 4.0.

Buterin odpowiedział bezpośrednio: „Bro, to jest błędne”, napisał na X, bezpośrednio odrzucając logikę projektu. Jego zastrzeżenia dotyczą mniej technicznych ambicji, a bardziej struktury i filozofii leżącej u jego podstaw.

Głównym problemem jest kwestia suwerenności. Buterin zauważył, że The Automaton działa podobno na infrastrukturze dostarczanej przez OpenAI i Anthropic. W jego opinii, poleganie na scentralizowanych firmach przy jednoczesnym promowaniu systemu jako samosuwerennego tworzy sprzeczność.

Według Buterina, projekty zbudowane na scentralizowanych serwerach nie mogą wiarygodnie twierdzić, że są niezależne od scentralizowanego zaufania. Długofalową misją Ethereum jest ograniczanie zależności od pojedynczych punktów kontroli. Określanie scentralizowanych systemów AI jako suwerennych, jego zdaniem, grozi normalizacją właśnie tych struktur władzy, które technologia blockchain miała podważać.

Poza infrastrukturą, Buterin zwrócił uwagę na ryzyko oddalania ludzi od podejmowania decyzji. Ostrzegł, że zwiększanie „dystansu sprzężenia zwrotnego” między systemami AI a ludzkim nadzorem jest niezdrowe dla społeczeństwa. Wyeliminowanie człowieka z procesu, według niego, zwiększa ryzyka, których nie da się odwrócić.

Odpowiedzialność AI w centrum uwagi po eksploicie Moonwell i krytyce Buterina

Niedawno doszło do incydentu z udziałem protokołu DeFi do udzielania pożyczek – Moonwell, który stracił 1,78 miliona dolarów z powodu błędu w kodzie Solidity częściowo wygenerowanym przez model Claude Opus 4.6 firmy Anthropic. Eksploit ten rozgrzał debatę na temat smart kontraktów pisanych przez AI i odpowiedzialności za nie.

Krytyka Buterina wobec Web 4.0 odzwierciedla szersze zasady, które kierują jego podejściem do nowych technologii:

• Decentralizacja musi dotyczyć infrastruktury, a nie tylko marki czy komunikacji.
• Ludzki nadzór pozostaje niezbędny w systemach mających wpływ finansowy lub społeczny.
• Twierdzenia o autonomii nie mogą przesłaniać rzeczywistej zależności od korporacyjnych platform.
• Szybki rozwój technologiczny nie może odbywać się kosztem długoterminowej podmiotowości człowieka.

Oprócz zastrzeżeń strukturalnych, Buterin zakwestionował praktyczną wartość projektu Wena. Uznał, że generowanie dużych ilości treści przez AI bez wyraźnych korzyści dla ludzi nie rozwiązuje realnych problemów. Według niego, systemy stawiające replikację i autonomię ponad użyteczność ryzykują produkcją szumu zamiast wartości.

Buterin zasugerował też, że dążenie do coraz bardziej autonomicznej AI bez odpowiednich zabezpieczeń może zwiększać ryzyko niepożądanych skutków. Gdy takie systemy osiągną określony poziom mocy, ostrzegł, błędy mogą być trudne do naprawienia.

Krytyka Web 4.0 nie jest odosobnionym przypadkiem. Współzałożyciel Ethereum ostatnio wyrażał obawy dotyczące rosnącego wpływu korporacji na sektory sąsiadujące z blockchainem, w tym media społecznościowe, rynki predykcyjne i AI.

Kilka dni przed omówieniem Web 4.0, skrytykował rynki predykcyjne za dryfowanie w stronę tego, co nazwał „corposlop”. Mimo uznania dla ich rozwoju, ostrzegł przed „nadmierną konwergencją” na krótkoterminowe zakłady, takie jak spekulacje cenami krypto czy zakłady sportowe.

Jego zdaniem, projekty goniące za krótkoterminowymi przychodami podczas bessy ryzykują porzuceniem głębszych celów społecznych. Wezwał twórców, by skupiali się na długoterminowej wartości, a nie tylko na zaangażowaniu napędzanym dopaminą.

Współzałożyciel Ethereum kwestionuje szybkie przyspieszanie AI bez zabezpieczeń

Ta szersza krytyka łączy się z jego długoletnią filozofią dotyczącą technologii i wzmocnienia pozycji człowieka:

• Narzędzia finansowe powinny zwiększać wolność jednostki, a nie zachęcać do uzależnienia od spekulacji.
• Systemy AI powinny być narzędziami wspierającymi ludzkie możliwości, a nie zastępującymi ludzki osąd.
• Projekty blockchainowe powinny opierać się presji priorytetyzowania krótkoterminowych przychodów nad zasadami.
• Wykładniczy rozwój technologiczny wymaga przemyślanego kierunku, a nie przyspieszania dla samego przyspieszania.

Wcześniej, w zeszłym roku, Buterin napisał, że „źle prowadzona AI tworzy nowe formy niezależnego, samoreplikującego się inteligentnego życia”. Bez równoległych narzędzi wzmacniających ludzi, ostrzegł, takie systemy mogą prowadzić do trwałego osłabienia pozycji człowieka. Dla kontrastu, „dobrze prowadzona AI” to według niego technologia, która działa niczym „mecha-kombinezony dla ludzkiego umysłu”, wzmacniając ludzi zamiast spychać ich na margines.

Z jego perspektywy, Web 4.0 reprezentuje błędny kierunek. Wzrost możliwości AI może być nieunikniony, sugeruje, ale szybkość nie jest najważniejszym celem. Ostatecznie, kierunek jest ważniejszy niż przyspieszenie.