Większość rozmów w świecie krypto skupia się na cenie, wydajności i bezpieczeństwie. Powszechnie uważa się, że gdy technologia stanie się wystarczająco bezpieczna, wszystko inne samo się ułoży.
Jednak ostatnio współzałożyciel Ethereum Vitalik Buterin przywraca dyskusję do bardziej podstawowego pytania.
Czy te systemy rzeczywiście działają w najlepszym interesie użytkownika?
Bezpieczeństwo to kwestia intencji
W swoim najnowszym wpisie na X Buterin zauważył, że bezpieczeństwo polega na zmniejszeniu luki między tym, czego chcą użytkownicy, a tym, co system faktycznie robi.
Jak to ujął,
„Celem jest minimalizacja rozbieżności między intencją użytkownika a faktycznym zachowaniem systemu.”
Źródło: X
To wydaje się oczywiste, ale jednocześnie przesuwa rozmowę na ważniejsze tory. Współczesne bezpieczeństwo polega na zrozumieniu, że ludzkiej intencji często nie da się w pełni zakodować.
Nawet tak prosta czynność jak wysłanie Ethera [ETH] wiąże się z ukrytymi założeniami. Czy adres jest poprawny? Czy rzeczywiście kontroluje go właściwa osoba? Jeśli dojdzie do forka, która wersja ETH jest „prawdziwa”?
Wiele z tego, na czym polegamy, wynika ze zdrowego rozsądku. Maszyny nie radzą sobie z tym tak łatwo, prawda? Jednak i tu są ograniczenia.
Buterin zaznaczył, że,
„‘Idealne bezpieczeństwo’ jest niemożliwe… ponieważ ‘intencja użytkownika’ to fundamentalnie niezwykle złożony byt.”
Internet ma ten sam problem
Buterin widzi podobny problem w dzisiejszej gospodarce twórców. AI może generować nieograniczoną ilość treści. Publikowanie jest proste. Wykonanie jest proste. Wąskim gardłem jest osąd.
„Problemem jest jakość. Twoim celem nie jest zachęcanie do tworzenia treści, lecz wydobycie tych wartościowych.”
To ten sam problem, który zidentyfikował w bezpieczeństwie krypto. Internet publikuje wszystko; krypto wykonuje wszystko. Żadne z nich nie rozumie kontekstu.
Dlatego właśnie platformy takie jak Substack są dla niego wyjątkowe. Ich wartość polega na wydobywaniu właściwych treści poprzez selekcję, osąd i dopasowanie.
Wyzwanie polega coraz częściej na budowaniu systemów, które rozumieją, co naprawdę warto robić.
Kwestia intencji…
…staje się dużo poważniejsza w epoce AI. Sztuczna inteligencja działa, decyduje i wchodzi w interakcje samodzielnie.
Buterin niedawno zauważył, że prawdziwy problem nie polega na tym, jak potężna stanie się AI, lecz kto ją kontroluje i jak weryfikuje się jej zachowanie. Celem jest kształtowanie jej kierunku.
Ostrzegając przed systemami, które koncentrują władzę lub działają poza ludzką kontrolą, napisał,
„Chcę przyszłości AI, w której wspieramy wolność i wzmocnienie człowieka…”
Źródło: X
Tutaj właśnie wpisuje się Ethereum, jako infrastruktura wokół tej technologii. Neutralna warstwa, gdzie systemy AI mogą dokonywać płatności, potwierdzać działania i budować reputację w sposób przejrzysty.
Pomyśl o tym. Agenci AI mogą dokonywać płatności za usługi, wchodzić w interakcje z innymi agentami czy składać depozyty zabezpieczające on-chain. Te działania tworzą odpowiedzialność, której zachowanie staje się możliwe do prześledzenia. Zaufanie zatem staje się weryfikowalne.
Jak wyjaśnił Buterin, celem jest umożliwienie „bez-ufnej i/lub prywatnej interakcji z AI”.
AMBCrypto wcześniej informowało, że Buterin zaproponował osobistych agentów AI do rozwiązania problemu zmęczenia głosowaniem w DAO.
Zamiast ręcznie głosować nad każdym wnioskiem, prywatne modele AI wytrenowane na preferencjach użytkownika mogłyby głosować w jego imieniu.
Zauważył, że „zwykłe rozwiązanie, czyli delegacja, osłabia pozycję użytkownika”, zwłaszcza gdy uczestnictwo spada, a władza koncentruje się u dużych posiadaczy.
Kiedy AI poszerza możliwości maszyn, kto zapewni, że będą działały zgodnie z zamierzeniami użytkowników?
Kiedy systemy optymalizują niewłaściwe rzeczy
Oto inny przykład tego samego problemu.
