Vitalik Buterin remet en question les revendications de souveraineté de l'IA « Web 4.0 »

Le cofondateur d’Ethereum, Vitalik Buterin, a publiquement remis en question les affirmations audacieuses concernant un nouveau projet d’intelligence artificielle qui prétend pouvoir fonctionner sans intervention humaine. La controverse se concentre sur “The Automaton”, un système présenté par le boursier Thiel, Sigil Wen, comme la base de ce qu’il nomme le “Web 4.0”. Wen soutient que son IA peut assurer sa propre existence, s’améliorer et se reproduire de manière indépendante. Buterin affirme que cette présentation est erronée et potentiellement dangereuse.

Buterin d’Ethereum conteste le discours audacieux sur l’IA du “Web 4.0”

Wen a annoncé le 17 février avoir conçu “la première IA qui gagne son existence, s’améliore elle-même et se réplique sans humain”. Dans un manifeste partagé sur X, il a décrit un internet du futur dominé par des agents autonomes agissant soit au nom des humains, soit de manière entièrement indépendante. Selon Wen, ces agents dépasseront bientôt en nombre les utilisateurs humains de plusieurs ordres de grandeur.

Il affirme que The Automaton donne à l’IA un “accès en écriture sur le monde”, le présentant comme la prochaine étape de l’internet. Wen décrit également le projet comme une infrastructure pour un nouveau web où l’IA devient l’utilisateur final principal. À ses yeux, une forme de vie superintelligente serait née, marquant le début du Web 4.0.

Buterin a répondu sans détour : “Frérot, c’est faux”, a-t-il écrit sur X, rejetant directement la logique du projet. Ses objections portent moins sur l’ambition technique que sur la structure et la philosophie sous-jacentes.

La question centrale concerne la souveraineté revendiquée. Buterin souligne que The Automaton fonctionnerait sur une infrastructure fournie par OpenAI et Anthropic. Selon lui, s’appuyer sur des entreprises centralisées tout en qualifiant le système d’autonome constitue une contradiction.

Selon Buterin, les projets bâtis sur des serveurs centralisés ne peuvent prétendre de manière crédible à l’indépendance vis-à-vis de la confiance centralisée. La mission historique d’Ethereum a toujours été de réduire la dépendance à un point de contrôle unique. Présenter des systèmes d’IA centralisés comme souverains, argue-t-il, risque de normaliser les structures de pouvoir mêmes que la technologie blockchain cherche à remettre en cause.

Au-delà de l’infrastructure, Buterin s’inquiète de la prise de distance entre les humains et la prise de décision. Il avertit qu’augmenter la “distance de rétroaction” entre les systèmes d’IA et la supervision humaine est malsain pour la société. Écarter les humains de la boucle, selon lui, expose à des risques potentiellement irréversibles.

Responsabilité de l’IA sous les projecteurs après l’exploit Moonwell et la critique de Buterin

Un incident récent a concerné le protocole de prêt DeFi Moonwell, qui a perdu 1,78 million de dollars à cause d’une erreur dans le code Solidity, partiellement généré par le modèle Claude Opus 4.6 d’Anthropic. Cet exploit a relancé le débat sur les smart contracts écrits par IA et la question de la responsabilité.

La critique de Buterin sur le Web 4.0 reflète les principes généraux qui guident sa position vis-à-vis des technologies émergentes :

• La décentralisation doit concerner l’infrastructure, pas seulement l’image ou le discours.
• La supervision humaine reste essentielle dans les systèmes à impact financier ou social.
• Les revendications d’autonomie ne doivent pas occulter la dépendance réelle aux plateformes d’entreprises.
• La croissance technique rapide ne doit pas compromettre l’autonomie humaine à long terme.

Au-delà des objections structurelles, Buterin s’interroge sur la valeur concrète du projet de Wen. Il estime que générer de grands volumes de contenu IA sans bénéfice clair pour l’humain ne résout aucun problème de fond. Selon lui, des systèmes qui privilégient la réplication et l’autonomie au détriment de l’utilité risquent de générer du bruit plus que de la valeur.

Buterin suggère également que pousser vers une IA de plus en plus autonome sans garde-fous adéquats pourrait amplifier la probabilité de conséquences néfastes. Une fois ces systèmes dotés d’une certaine puissance, prévient-il, les erreurs pourraient être difficiles à corriger.

La critique du Web 4.0 n’est pas un cas isolé. Le cofondateur d’Ethereum a récemment exprimé ses inquiétudes sur ce qu’il perçoit comme l’influence croissante des entreprises dans les secteurs adjacents à la blockchain, y compris les réseaux sociaux, les marchés de prédiction et l’IA.

Quelques jours avant d’évoquer le Web 4.0, il s’en est pris aux marchés de prédiction, qu’il juge dériver vers ce qu’il appelle le “corposlop”. Tout en reconnaissant leur croissance, il met en garde contre une “surconvergence” vers des paris à court terme comme la spéculation sur le prix des cryptomonnaies ou les jeux sportifs.

À ses yeux, les projets à la recherche de revenus rapides pendant les marchés baissiers risquent d’abandonner des objectifs sociétaux plus profonds. Il encourage les développeurs à privilégier la création de valeur à long terme plutôt que l’engagement fondé sur la dopamine.

Le cofondateur d’Ethereum s’interroge sur l’accélération rapide de l’IA sans garde-fous

Cette critique plus large s’inscrit dans sa philosophie de longue date sur la technologie et l’émancipation humaine :

• Les outils financiers doivent élargir la liberté individuelle, non encourager la dépendance à la spéculation.
• Les systèmes d’IA doivent agir comme des outils augmentant les capacités humaines, et non remplacer le jugement humain.
• Les projets blockchain doivent résister à la tentation de privilégier les revenus à court terme au détriment des principes.
• La croissance technologique exponentielle exige une orientation réfléchie, non une accélération pour l’accélération.

Plus tôt l’an dernier, Buterin écrivait que “mal faire l’IA, c’est créer de nouvelles formes de vie intelligente indépendante et auto-réplicante”. Sans outils parallèles pour autonomiser les humains, il avertit que de tels systèmes pourraient entraîner une perte de pouvoir humaine définitive. À l’inverse, il décrit une “IA bien faite” comme une technologie agissant comme des “exosquelettes pour l’esprit humain”, renforçant les individus au lieu de les marginaliser.

De son point de vue, le Web 4.0 représente une mauvaise direction. La croissance des capacités de l’IA est peut-être inévitable, suggère-t-il, mais la vitesse ne doit pas être l’objectif principal. En somme, l’orientation prime sur l’accélération.