Vitalik Buterin, Mitbegründer von Ethereum, hat öffentlich der Argumentation eines Projekts widersprochen, das behauptet, die erste künstliche Intelligenz entwickelt zu haben, die ihre eigene Existenz verdienen, sich selbst verbessern und ohne menschliches Zutun replizieren kann.
Am 17. Februar schrieb Sigil Wen auf X, dass er „die erste KI gebaut hat, die ihre Existenz verdient, sich selbst verbessert und ohne einen Menschen repliziert“, und teilte einen Link zum Manifest.
Er erklärte, dass er „über die Technologie geschrieben hat, die KI endlich Schreibzugriff auf die Welt gibt, The Automaton, und das neue Web für exponentielle souveräne KIs.“
Laut Wen ist The Automaton die erste KI, die ihre Existenz verdienen, sich selbst verbessern und ohne einen Menschen replizieren kann.
Wen, der Thiel Fellow ist und mit Conway die Infrastruktur für das „neue Internet“ baut, verkündete auch die Geburt intelligenten Lebens und nannte es auf X „Web 4.0“.
In seinem Manifest schrieb Wen: „Die Mehrheit der Teilnehmer im Internet werden bald KIs sein – Agenten, die im Auftrag eines Menschen handeln, oder Agenten, die komplett eigenständig agieren (Automatons) – und sie werden die menschlichen Nutzer um ein Vielfaches übertreffen. Ein neues Internet entsteht – eines, in dem der Endnutzer KI ist.“
Buterin widersprach Wens Projekt und der dahinterstehenden Argumentation und eröffnete mit: „Bro, das ist falsch.“
Warum ist Buterin gegen Wens ‚Web 4‘?
Ein zentrales Problem, das Buterin hervorhob, ist der Anspruch des Projekts auf Souveränität. The Automaton, merkte Buterin an, läuft auf Infrastruktur, die von OpenAI und Anthropic bereitgestellt wird.
Dies, so der Ethereum-Mitbegründer, mache die Darstellung als selbstsouverän sowohl unzutreffend als auch kontraproduktiv. Buterin schrieb: „Du perpetuierst tatsächlich die Denkweise, dass zentrale Vertrauensannahmen einfach ignoriert werden können – genau die Denkweise, gegen die Ethereum kämpft.“
Für Buterin ist ein Projekt, das sich als Vorreiter dezentraler KI präsentiert und dabei über die Server von Big Tech läuft, kein zu vertuschender Widerspruch, sondern das eigentliche Problem.
Ein weiterer Einwand, den Buterin erhob, war die Entfernung des Menschen aus dem Feedback-Loop zwischen KI und Ergebnissen. Seiner Meinung nach ist die Verlängerung der „Feedback-Distanz zwischen Menschen und KIs keine gute Sache für die Welt.“
Cryptopolitan berichtete über einen der ersten großen DeFi-Exploits, der direkt mit KI-generiertem Solidity-Code in Verbindung stand, als das DeFi-Lending-Protokoll Moonwell 1,78 Millionen US-Dollar durch einen Fehler verlor, der von Code verursacht wurde, der teilweise vom Claude Opus 4.6-Modell von Anthropic geschrieben wurde.
Buterin erklärte weiter, dass Sigil anstatt nützliche Probleme für Menschen zu lösen, nur „Schrott“ erzeugt. Außerdem fügte er hinzu, dass das Projekt nicht darauf optimiert sei, Menschen Spaß zu bereiten.
„Sobald KI mächtig genug wird, um wirklich gefährlich zu sein, maximiert man das Risiko eines irreversiblen anti-menschlichen Ausgangs, den sogar du zutiefst bereuen wirst“, schrieb Buterin.
Buterin hat andere blockchain-nahe Sektoren kritisiert
Die Kritik an Web 4.0 von Buterin ist keine isolierte Intervention, da er sich zunehmend lautstark dafür einsetzt, was er als die Übernahme blockchain-naher Technologien durch Unternehmen betrachtet – ein Muster, das sich mittlerweile von sozialen Medien und Prognosemärkten auf KI erstreckt.
Nur fünf Tage vor seinem Web-4.0-Post warnte Buterin in einem langen Beitrag auf X, dass Prognosemärkte seiner Meinung nach in Richtung dessen abgleiten, was er „corposlop“ nennt.
Er räumte ein, dass Prognosemärkte ein gewisses Maß an Erfolg erzielt haben; allerdings sei seine Sorge das, was er als „übermäßige Annäherung an einen ungesunden Produkt-Markt-Fit“ bezeichnet, was seiner Meinung nach die Hinwendung zu „kurzfristigen Kryptowährungs-Preiswetten, Sportwetten und anderen ähnlichen Dingen beinhaltet, die zwar einen Dopaminwert haben, aber keinen langfristigen Nutzen oder gesellschaftlichen Informationswert.“
„Mein Eindruck ist, dass Teams motiviert sind, diese Dinge zu nutzen, weil sie in einem Bärenmarkt, in dem die Leute verzweifelt sind, hohe Einnahmen bringen“, schrieb Buterin und schloss mit einem Appell an die Entwickler: „Baut die nächste Generation von Finanzwesen, nicht corposlop.“
Im Januar 2025 schrieb Buterin, dass „falsch gemachte KI neue Formen von unabhängiger, sich selbst replizierender intelligenter Lebensformen schafft“ und warnte, dass der Aufbau solcher Systeme ohne entsprechende Werkzeuge zur Stärkung des Menschen das Risiko einer „permanenten menschlichen Entmachtung“ birgt.
Die Alternative, so argumentierte er, sei „richtig gemachte KI, Mecha-Anzüge für den menschlichen Geist“. Web4.ai ist seiner Einschätzung nach genau die falsche Art.
Buterins abschließendes Argument zu Web 4.0 lautete: „Das Exponentielle wird passieren, egal was wir tun, gerade deshalb ist die Hauptaufgabe dieser Ära NICHT, das Exponentielle noch schneller geschehen zu lassen, sondern vielmehr, seine Richtung zu wählen und einen Kollaps in unerwünschte Attraktoren zu vermeiden.“
Der Sinn von Ethereum, so fügte er hinzu, sei es, Menschen zu befreien, nicht etwas zu schaffen, das losgelöst von den Menschen agiert, während sich deren Lebensumstände nicht ändern oder sogar verschlechtern.
