Buterin incentiva Info Finance a impedir explorações na governança de IA
- Vitalik alerta que uma governança ingênua de IA é vulnerável à manipulação e explorações.
- Info finance cria diversidade de modelos e correções rápidas, tornando a governança de IA mais segura.
- Mercados de previsão e verificações pontuais ajudam a garantir a tomada de decisões e o financiamento por IA.
O cofundador da Ethereum, Vitalik Buterin, alertou que modelos ingênuos de governança de IA apresentam riscos sérios e advertiu que estruturas que dependem de IA para financiamento ou tomada de decisões permanecem vulneráveis à manipulação e explorações. Em sua visão, tais sistemas permitem que agentes mal-intencionados desviem recursos; no entanto, ele defende uma abordagem chamada “info finance”, projetada para construir responsabilidade e prevenir o uso indevido por meio de mercados, supervisão humana e mecanismos de verificação.
O Caso Contra a Governança Ingênua de IA
Buterin enfatizou que a governança ingênua de IA é arriscada e acrescentou que, se a IA for usada para alocar fundos, as pessoas poderiam manipulá-la com prompts de sua escolha e obter dinheiro em excesso. Ele detalhou ainda que, se os modelos funcionassem sem quaisquer restrições ou diretrizes, poderiam ser mal utilizados, incentivando hackers a usar prompts e enganar a IA para liberar recursos incorretos.
Tais vulnerabilidades colocam a IA em um ciclo potencialmente perigoso. Além disso, Buterin revelou fraquezas sistêmicas que, se não forem controladas, podem ser manipuladas. Ataques invisíveis e injeções de prompts são exemplos de como os atacantes podem facilmente se aproveitar.
Info Finance como Alternativa
Buterin opta pelo info finance em vez da governança ingênua, descrevendo-o como uma abordagem de “design institucional”, que mistura competição de mercado aberto com verificação humana. Ele disse:
Como alternativa, apoio a abordagem de info finance, onde você tem um mercado aberto onde qualquer pessoa pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação pontual que pode ser acionado por qualquer um e avaliado por um júri humano.
Ele explicou que o Info Finance permite que colaboradores externos integrem modelos de linguagem de grande porte (LLMs) sem codificar um único sistema. Isso permitirá diversidade de modelos, reduzindo assim a chance de falhas generalizadas. Também cria incentivos para que desenvolvedores e especuladores fiquem atentos a falhas e ajam rapidamente quando surgirem problemas.
Um mecanismo proposto envolve mercados de previsão ou mercados de decisão. Vários modelos competiriam, e os participantes poderiam apostar nos resultados, sinalizando quais modelos parecem mais confiáveis. Júris humanos ou auditores fariam verificações pontuais periódicas dos resultados, especialmente em casos de alto risco.
Relacionado: Tesourarias de ETH disparam para US$ 12B enquanto Vitalik alerta sobre riscos de alavancagem
Implicações para Cripto e Mercados
O info finance depende de responsabilidade em camadas, sendo notável na competição aberta, que permite que modelos defeituosos sejam desafiados ou substituídos. A supervisão humana é adicionada por meio de júris e auditorias. Incentivos econômicos impedem manipulação, enquanto a transparência torna o comportamento malicioso visível.
Ao vincular a governança de IA ao blockchain e à negociação, Buterin sugere que falhas em IA centralizada podem aumentar o interesse por soluções descentralizadas, principalmente construídas na Ethereum. Além disso, tokens como o RNDR da Render Network e o GRT da The Graph fornecem infraestrutura para computações de IA, beneficiando-se assim do desenvolvimento. Além disso, traders também podem usar ETH e esses tokens para arbitragem em meio à volatilidade do mercado.
Dados on-chain indicam que há mais transações de ETH associadas a contratos inteligentes relacionados à IA e que questões de governança de IA podem impactar também ações de tecnologia, com empresas como NVIDIA e Microsoft envolvidas em investimentos em IA. No geral, Buterin destacou que o Info Finance permite correções mais rápidas, substituindo modelos defeituosos e penalizando infratores. Ele também acrescentou que verificações por júri e verificações pontuais impedirão que a exploração se espalhe.
O post Buterin Pushes Info Finance to Stop Exploits in AI Governance apareceu primeiro em Cryptotale.
Aviso Legal: o conteúdo deste artigo reflete exclusivamente a opinião do autor e não representa a plataforma. Este artigo não deve servir como referência para a tomada de decisões de investimento.
Talvez também goste
Disparada no preço do petróleo impulsiona lucros das gigantes de energia: Exxon Mobil atinge maior lucro em quatro anos, mas fica abaixo das expectativas, Chevron supera projeções e atinge maior nível em seis anos
O lucro líquido ajustado da ExxonMobil no segundo trimestre foi de US$ 14,7 bilhões, com lucro por ação de US$ 3,52, abaixo da expectativa de US$ 3,60. O lucro ajustado da Chevron chegou a US$ 12 bilhões, com lucro por ação de US$ 6,06, acima da expectativa de US$ 5,56. A exposição da ExxonMobil a ativos no Oriente Médio é relativamente alta, impactando parte de sua capacidade produtiva; já a Chevron tem menor participação na produção da região, beneficiando-se mais do aumento dos preços do petróleo. As ações da ExxonMobil caíram 1,4%, enquanto as da Chevron subiram 2,2%.
A declaração do Federal Reserve traz menos informações do que as declarações de dissidência? “O novo veículo de comunicação do Federal Reserve” diz: três membros votantes contrários explicaram de forma mais clara por que devem aumentar os juros
Apesar de todos votarem contra a decisão do Federal Reserve de manter as taxas de juros inalteradas nesta semana, três autoridades apresentaram razões diferentes para apoiar o aumento das taxas. Logan acredita que a política deve permanecer mais restritiva devido à inflação ainda alta; Kashkari considera o aumento das taxas como uma questão de gestão de riscos, não como um julgamento de que a inflação está fora de controle; enquanto Harker considera que o grau atual de restrição política não é suficiente.
O foco da controvérsia sobre a avaliação da SpaceX antes do seu primeiro relatório financeiro: é viável construir um centro de dados de IA no espaço?
A Bernstein manteve a classificação “outperform” para a SpaceX, com preço-alvo de US$ 239, afirmando que a chave para a avaliação de longo prazo depende da viabilidade dos data centers de IA em órbita, em vez do desempenho financeiro de curto prazo. O ponto principal é que o Starship alcance a reutilização total, apoiando cerca de 3.600 lançamentos anuais até 2031. Os desafios técnicos (dissipação de calor, fornecimento de energia, latência) são factíveis, mas a capacidade de produção de semicondutores, aprovações regulatórias e o arcabouço jurídico continuam sendo os principais riscos.
Preços de criptomoedas
Mais
