Buterin encourage Info Finance à stopper les exploits dans la gouvernance de l’IA
- Vitalik avertit que la gouvernance naïve de l’IA est vulnérable à la manipulation et aux exploits.
- L’info finance crée une diversité de modèles et des corrections rapides, rendant la gouvernance de l’IA plus sûre.
- Les marchés de prédiction et les contrôles ponctuels contribuent à sécuriser la prise de décision et le financement de l’IA.
Le cofondateur d’Ethereum, Vitalik Buterin, a averti que les modèles de gouvernance naïfs de l’IA présentent de sérieux risques et a mis en garde contre les cadres qui reposent sur l’IA pour le financement ou la prise de décision, car ils restent vulnérables à la manipulation et aux exploits. Selon lui, de tels systèmes permettent à des acteurs malveillants de détourner des ressources ; cependant, il préconise une approche appelée « info finance », conçue pour instaurer la responsabilité et prévenir les abus grâce aux marchés, à la supervision humaine et aux contrôles.
Les arguments contre la gouvernance naïve de l’IA
Buterin a souligné que la gouvernance naïve de l’IA est risquée et a ajouté que si l’IA est utilisée pour allouer des fonds, les gens pourraient la manipuler avec des instructions de leur choix et obtenir un surplus d’argent. Il a également expliqué que si les modèles fonctionnaient sans aucune restriction ou directive, ils pourraient être mal utilisés, encourageant ainsi les hackers à utiliser des instructions pour tromper l’IA et libérer des ressources de manière incorrecte.
De telles vulnérabilités placent l’IA dans une boucle potentiellement dangereuse. De plus, Buterin a révélé des faiblesses systémiques qui, si elles ne sont pas contrôlées, pourraient être exploitées. Les attaques invisibles et les injections de prompts sont des exemples de la facilité avec laquelle les attaquants peuvent en profiter.
L’info finance comme alternative
Buterin opte pour l’information finance à la place de la gouvernance naïve, la décrivant comme une approche de « conception institutionnelle », mêlant la concurrence du marché ouvert à la vérification humaine. Il a déclaré :
En alternative, je soutiens l’approche info finance, où vous avez un marché ouvert où chacun peut contribuer avec ses modèles, qui sont soumis à un mécanisme de contrôle ponctuel pouvant être déclenché par n’importe qui et évalué par un jury humain.
Il a précisé que l’Info Finance permet à des contributeurs externes d’intégrer des modèles de langage de grande taille (LLM) sans coder en dur un seul système. Cela permettra une diversité de modèles, réduisant ainsi le risque d’échec généralisé. Cela crée également des incitations pour les développeurs et les spéculateurs à surveiller de près les défauts et à agir rapidement en cas de problème.
Un mécanisme proposé implique des marchés de prédiction ou des marchés de décision. Plusieurs modèles seraient en concurrence, et les participants pourraient miser sur les résultats, signalant ainsi quels modèles semblent les plus fiables. Des jurys ou auditeurs humains effectueraient périodiquement des contrôles ponctuels des résultats, en particulier dans les cas à fort enjeu.
À lire aussi : Les trésoreries ETH grimpent à 12 milliards de dollars alors que Vitalik met en garde contre les risques d’effet de levier
Implications pour la crypto et les marchés
L’info finance repose sur une responsabilité à plusieurs niveaux, et elle se distingue par la concurrence ouverte, qui permet de contester ou de remplacer les modèles défaillants. Une supervision humaine est ajoutée via des jurys et des audits. Les incitations économiques empêchent la manipulation, tandis que la transparence rend les comportements malveillants visibles.
En liant la gouvernance de l’IA à la blockchain et au trading, Buterin suggère que les failles de l’IA centralisée pourraient accroître l’intérêt pour des solutions décentralisées, principalement construites sur Ethereum. De plus, des tokens comme RNDR de Render Network et GRT de The Graph fournissent l’infrastructure pour les calculs IA, en tirant ainsi profit du développement. Par ailleurs, les traders pourraient également utiliser ETH et ces tokens pour l’arbitrage en période de volatilité du marché.
Les données on-chain indiquent qu’il y a davantage de transactions ETH associées à des smart contracts liés à l’IA, et les problèmes de gouvernance de l’IA peuvent aussi impacter les actions technologiques, avec des entreprises comme NVIDIA et Microsoft impliquées dans les investissements IA. Globalement, Buterin a souligné que l’Info Finance permet des corrections plus rapides, remplaçant ainsi les modèles défaillants et sanctionnant les fauteurs de troubles. Il a également ajouté que les contrôles par jury et les contrôles ponctuels empêcheront la propagation des exploitations.
L’article Buterin Pushes Info Finance to Stop Exploits in AI Governance est apparu en premier sur Cryptotale.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Le marché haussier de l’IA entre dans « l’ère de l’encaissement » ! Morgan Stanley et JPMorgan prévoient un S&P 500 à 8 000 points, la violente reprise des semi-conducteurs et du marché boursier sud-coréen confirme la « vague majeure de croissance des profits »
Les deux géants financiers de Wall Street, Morgan Stanley et JPMorgan, ont récemment publié de concert des rapports indiquant que le principal moteur de la progression continue du S&P 500 est en train de passer de l'expansion des valorisations à la révision à la hausse des bénéfices et à la concrétisation commerciale de l'IA.
Wall Street fait preuve de prudence collective ! Dernier résumé des rapports 13F sur les positions : divergence dans le rééquilibrage des leaders technologiques et du secteur de l’IA, la lutte entre haussiers et baissiers s’enlise
Les documents trimestriels 13F publiés par la SEC américaine révèlent qu'au deuxième trimestre de cette année, les investisseurs institutionnels ont légèrement réduit leurs positions dans des secteurs clés tels que les semi-conducteurs, l'infrastructure d'intelligence artificielle (IA) et les grandes valeurs technologiques, sans signe évident de pari unilatéral important.
Les signaux dans les rapports trimestriels des fabricants de puces : une demande plus forte qu'il y a trois mois, la hausse des prix commence à se « diffuser »
JPMorgan estime que les résultats trimestriels mondiaux du secteur des semi-conducteurs envoient un signal haussier clair : premièrement, la demande dépasse les attentes et les géants du secteur tels que TSMC augmentent massivement leurs dépenses en capital pour accélérer l'expansion de la production ; deuxièmement, l'effet de hausse des prix se propage concrètement aux fabricants d'équipements et aux fournisseurs de matériaux, permettant aux fabricants d'équipements d'augmenter leurs marges bénéficiaires grâce à des hausses de prix ; troisièmement, les géants du stockage sécurisent à l'avance un niveau de profit extrêmement élevé pour les prochaines années via des accords à long terme et des prépaiements importants.
Prix des cryptos
Plus
