Última entrevista da SemiAnalysis: ainda há espaço para dobrar o armazenamento, CPU é apenas coadjuvante, implementação do CPO adiada para 2029

Cada camada da infraestrutura de IA está sofrendo pressão sincronizada, coexistindo oportunidades e equívocos. O fundador da SemiAnalysis, Dylan Patel, concedeu recentemente uma entrevista em podcast e organizou sistematicamente a dinâmica central e a lógica de investimento do atual stack de infraestrutura de IA. Sua análise abrange a economia de modelos, ciclo superlongo da memória, reprecificação de CPU, risco de cronograma do CPO e oportunidades estruturais no fornecimento de energia para centros de dados.

Em relação às dúvidas generalizadas do mercado sobre o retorno do investimento em IA (ROI), Dylan revelou que a Anthropic alcançou fluxo de caixa livre positivo já no segundo trimestre deste ano, com receita recorrente anualizada superando US$ 50 bilhões,e margem bruta acima de 70%. No setor corporativo, o salto de produtividade proporcionado pelos modelos de IA mais recentes supera amplamente o aumento dos custos computacionais, levando as empresas a reduzirem despesas com outros softwares para sustentar orçamentos explosivos de IA.

No aspecto de evolução do hardware, a mudança para o paradigma de modelos de inferência está reconfigurando a demanda de mercado. Dylan enfatizou queo armazenamento enfrentará uma escassez estrutural por vários anos, com potencial de alta de 2 a 3 vezes;simultaneamente, embora agentes inteligentes e aprendizado por reforço aumentem a demanda por CPUs, o mercado vendedor está supervalorizando esses ativos, sendo o crescimento das CPUs motivado principalmente por “reposição histórica”, cujo real valor absoluto em servidores de IA ainda está muito aquém das GPUs.

Dylan considera que a tão aguardada implementação em larga escala da óptica co-embalada (CPO)foi adiada claramente para o final de 2028 até 2029,prolongando inesperadamente o ciclo de bonança para conectores de cobre. Já as limitações de transmissão e distribuição de energia estão forçando os data centers a recorrer a “energia atrás do medidor” (autoproduzida), gerando, além do investimento tradicional em chips, uma enorme cadeia de oportunidades industriais em energia e conversão elétrica.

A Anthropic lidera a geração de caixa, narrativa da demanda em IA começa a se concretizar

Para as dúvidas de mercado sobre o ROI das empresas de IA, Dylan Patel forneceu dados concretos em resposta.

"A Anthropic já atingiu fluxo de caixa livre positivo no segundo trimestre, lucrou em abril, lucrou em maio e, aparentemente, será igual em junho." Segundo ele, a receita recorrente anualizada superou US$ 50 bilhões, com margem bruta acima de 70%. A receita da OpenAI também cresce rapidamente com a adesão acelerada ao Codex.

O próprio ritmo de despesas da SemiAnalysis confirma essa tendência. Em novembro passado, a equipe de 90 pessoas da empresa gastava menos de US$ 100 mil anuais com IA; até o fim de janeiro deste ano, graças à adoção massiva do Claude Code, esse valor disparou para US$ 4 milhões anualizados; hoje já soma US$ 11 milhões, com pico semanal anualizado chegando a US$ 14 milhões. "O custo com equipe somado ao custo de IA: só a parte de IA já responde por mais de um terço, e provavelmente chegará a metade até o final do ano."

Ao mesmo tempo, ele ressalta que modelos mais recentes e mais avançados não necessariamente implicam custos mais altos no uso prático. Modelos antigos podem exigir 100 mil tokens e 10 interações para concluir uma tarefa, enquanto os novos realizam com apenas 25 mil tokens e uma interação. "Cada vez que mudamos de Opus 4.6 para Opus 4.7, nosso gasto cai durante uma semana e depois dispara — pois tarefas antes impossíveis agora passam a ser feitas." Segundo ele, esse é um dos principais motivos do sucesso competitivo da Anthropic frente à OpenAI:maior eficiência de tokens, menor custo total para o usuário.

Memória: escassez estrutural, não um ciclo comum

Entre todas as categorias de hardware, Dylan Patel destaca o posicionamento mais firme sobre memória.

"Não é uma escassez de curto prazo, é uma escassez estrutural que durará anos."Ele aponta que a capacidade de produção anual de memória cresce apenas 20% a 30%, enquanto a demanda de IA está duplicando várias vezes, ampliando cada vez mais a diferença.

A lógica central que sustenta essa análise é o impacto dos modelos de inferência sobre o cache KV. O contexto dos inferenciadores tradicionais era de milhares de tokens; o consumo de cache KV era limitado; mas após o aparecimento de modelos de inferência como o o1, o contexto explodiu em tamanho, expandindo drasticamente o uso de cache KV, o que favorece diretamente a categoria de memória. A SemiAnalysis já publicou um relatório em dezembro de 2024 destacando essa tendência.

As restrições rígidas do lado da oferta forçarão o mercado a redistribuir os recursos limitados de memória. Ele prevê que a eletrônica de consumo, com baixa elasticidade de preço, será a primeira a sofrer — a remessa de fabricantes de celulares de baixo/medio padrão já caiu 40%, e os preços de iPhone e MacBook devem subir no próximo ano. "A memória continuará subindo, a eletrônica de consumo será comprimida para um novo patamar, até que a IA obtenha toda a memória necessária, só assim será suficiente." Ele acrescenta, mesmo quando o ciclo negativo vier, "de vale a vale, o crescimento de longo prazo é inquestionável."

CPU: espaço limitado para compensação, evite extrapolar demais

A CPU foi a nova protagonista na narrativa de infraestrutura de IA neste ano, mas Dylan Patel adota uma postura bastante cautelosa quanto a ela.

A lógica para o ressurgimento da demanda por CPU é clara: o aprendizado por reforço demanda CPU em larga escala para simulações, testes unitários de código, simulação de operações, etc; a inferência de agentes exige que modelos usem frequentemente ferramentas e interajam com o mundo real, o que demanda fortemente capacidade de processamento da CPU. Ao mesmo tempo, nos últimos anos, a produção em massa de chips de IA deixou a oferta de CPUs insuficiente, estando agora em uma fase de recomplementação, beneficiando ARM, Intel, AMD, e até a Nvidia com a Vera CPU com guidance de US$ 20 bilhões em receita.

"Mas faço um alerta importante: há muito efeito de recomplementação." Assim que a defasagem histórica for compensada, restará apenas demanda incremental, retornando ao normal. Em valores absolutos, um Blackwell custa cerca de US$ 50 mil, uma CPU cerca de US$ 5 mil; mesmo que as CPUs sejam aumentadas proporcionalmente, o montante em dólar ainda é muito menor que o dos aceleradores de IA."Memória e aceleradores de IA são o principal, CPU foi subestimada e reprecificada, está mais adequada agora, mas não crescerá indefinidamente mais rápido que chips de IA."

Interconexão óptica: otimista no longo prazo, cautela com CPO no curto e médio prazo

As redes e interconexões ópticas são outro campo de sentimentos exaltados no mercado, mas Dylan Patel tem cautela sobre os prazos de adoção do CPO (óptica co-embalada).

"A verdadeira produção em larga escala de CPO, na minha opinião, será do final de 2028 até 2029."Segundo ele, a qualidade de fabricação, design dos chips e maturidade da cadeia de suprimentos ainda não atingiram o patamar para adoção em massa, e as arquiteturas Rubin e Feynman da Nvidia continuarão usando interconexão totalmente de cobre; o CPO no lado da GPU deve aguardar várias gerações de evolução de chips.

Ele revelou que a SemiAnalysis publicou relatório para clientes institucionais na semana passada e, no médio prazo, está mais otimista com cabos de cobre e soluções ópticas não-CPO, mantendo cautela quanto ao CPO. Alterações no design de alguns chips (como Rubin Ultra sem o design 800V de Kyber) adiaram ainda mais a adoção do CPO. Empresas de conectores de cobre como Amphenol devem se beneficiar mais do que o previsto.

"O CPO ocorrerá no longo prazo, o cobre será substituído eventualmente, mas a linha do tempo foi adiada; no curto e médio prazo, o cobre ainda oferece grandes oportunidades."

Energia elétrica: autoprodução será tendência, múltiplas vias de inovação

O fornecimento de energia nos data centers está se tornando a restrição física mais rígida no crescimento da IA. De acordo com Dylan Patel, o consumo adicional de eletricidade dos data centers este ano será de 20GW, 30GW no próximo e 50GW no seguinte — crescimento explosivo.

Ele segmenta o problema energético em três dimensões: transmissão, geração e conversão.Transmissão é o gargalo mais difícil, envolvendo regulamentação, monopólio de empresas locais de energia e mecanismos de partilha de custos, mudando pouco no curto prazo. Já geração e conversão abrem amplas oportunidades.

Ele prevê que, nos próximos anos, metade da eletricidade incremental dos data centers virá de “energia atrás do medidor” (behind the meter), ou seja, autoprodução corporativa, em vez da rede pública. Hoje, a solução dominante é o ciclo combinado a gás (CCGT), de fornecedores como GE Vernova, Mitsubishi, Siemens; também surgem motores alternativos, turbinas industriais e até soluções não convencionais baseadas em motores de navio, trem e caminhão. "Parece rudimentar, mas funciona e já está sendo usado."

No longo prazo, acredita que, dentro de cerca de dois anos, o custo total de solar mais armazenamento será inferior ao do gás; e mais adiante, data centers espaciais — chips computacionais em órbita, painéis solares sem perda atmosférica, densidade energética bem acima de sistemas terrestres, sem necessidade de armazenamento de energia.

O lado da conversão também está repleto de possibilidades de investimento: de IGBT, carbeto de silício e MOSFET de nitreto de gálio, a transformadores de estado sólido, UPS e supercapacitores, toda a cadeia de conversão de tensão está avançando rapidamente. Hoje, o maior departamento de pesquisa da SemiAnalysis não é semicondutores, mas a equipe chamada internamente de “DEI” (Data Center, Energia e Indústria), acompanhando o deployment de cada centro de dados e usina no mundo.

Segue a transcrição completa da entrevista:

Apresentador:Bem-vindos de volta ao podcast The Next Big Thing. Sou o apresentador e estou aqui com meu colega Klay Hyman e nosso novo sócio, Dylan Patel, fundador da SemiAnalysis. Hoje é um episódio especial: vamos mergulhar fundo no universo da infraestrutura de IA com Dylan. Venho acompanhando o conteúdo do Dylan há tempos; ele aparece muito em podcasts e a newsletter da SemiAnalysis está sempre na minha lista de leituras essenciais. Recentemente, eles publicaram um relatório detalhado sobre data centers no espaço — quem se interessar, recomendo a leitura.

Dylan, gostaria que você nos contasse como surgiu a SemiAnalysis. Vejo que no Substack todos falam do sucesso e receita da empresa, mas muita gente esquece da jornada e do esforço por trás dessa conquista.

O início da SemiAnalysis

Dylan Patel: A origem da SemiAnalysis vem de postar em fóruns online — para dizer de modo mais informal, era “flood”. Lembro dos meus primeiros posts sobre semicondutores, ainda na adolescência: eu postava sobre chips, smartphones e telas de smartphone, SoCs para celulares, mesmo sem ter um smartphone eu era vidrado nesse tema. O mesmo valia para hardware de jogos, PCs, consoles… Gostava de discutir isso em fóruns.

Hoje, nosso time — a empresa tem 90 pessoas e até um departamento de marketing — sempre reclama: “Dylan, para de responder haters online, isso não parece profissional para a empresa”. Mas confesso: se alguém me critica na internet, imediatamente me sinto compelido a responder. Talvez não seja ideal, mas é assim.

Passei a adolescência gerenciando esses fóruns. Depois, comecei a ganhar dinheiro e entrei para o mundo dos investimentos. Cheguei a ser trader quantitativo em duas casas, e então fundei a SemiAnalysis — mas sempre continuei postando. Tive blogs anônimos, posts anônimos, até que em 2020 me cansei do meu emprego (ser trader quantitativo não era o que eu imaginava, apesar do dinheiro). Então larguei tudo e comecei a empreender.

Não tinha certeza até onde isso iria, mas comecei postando com nome real num site WordPress que eu mesmo montei, sobre tecnologia, negócios, finanças e supply chain — tudo assuntos que sempre curti por crescer em uma família de pequenos empresários. Vivíamos num motel na zona rural da Georgia, que meus pais gerenciavam. Depois abrimos um posto de gasolina; sempre estive envolvido em negócio, gostava muito dessa área.

Posteriormente, migrei o site do WordPress para o Substack, passei a cobrar assinaturas e cobri toda a cadeia de semicondutores e IA. Em quatro anos, viajei o mundo, participei de 40 conferências por ano — das principais de pesquisa em IA, até encontros setoriais de química para supply chain de chips, passando por servidores, redes e até fabricação de semicondutores. Participei de congressos com só 300 pessoas, e nem todas falavam inglês; outros, com 20 mil pessoas. Após três eventos, realmente você aprende a linguagem do setor, conhece os players, faz perguntas profundas — o ecossistema vai se fixando na sua cabeça.

Crescimento e construção do time da SemiAnalysis

Dylan Patel:Sempre busquei “pontos de inflexão” tecnológicos — quando em uma conferência via alguma mudança em tecnologia ou supply chain, eu já antevia os impactos financeiros ou de mercado. Alguns relatórios eram só técnicos e o mercado ignorava, mas outros já deixavam claro onde estava a restrição ou o ponto de virada, qual empresa teria vantagem tecnológica e ganharia mercado — e eu conseguia antecipar todo mundo, de hedge funds a analistas.

O terceiro membro foi o Myin, ex-funcionário de hedge fund que se mudou para o Japão para acompanhar a esposa, status de “free agent”. Foi o primeiro com background financeiro — os outros dois eram técnicos. Daí passamos a construir modelos financeiros, o negócio mudou de newsletter para serviços de informação, relatórios de pesquisa e venda de datasets.

A partir daí a bola de neve rolou: de 2 para 7 pessoas (2023~2024); de 7 para 20 (final de 2024 ao início de 2025); de 20 para 60 (2025~2026); neste ano, mais 30 pessoas, hoje são 90.

O mais legal da SemiAnalysis é a densidade de talentos — não conheço nenhuma outra empresa com tanta especialização e intensidade nesta área. Temos gente de ASML, Applied Materials, Lam Research, de Intel, TSMC, Nvidia, Microsoft, Amazon, ex-membro da OpenAI, ex-Tesla FSD, de Cohere, especialistas em data centers e até um engenheiro que montou usina no Cazaquistão — é algo realmente notável. Aproximadamente metade do time é composta por engenheiros de todas as camadas do setor; a outra metade, ex-hedge funds ou jovens brilhantes encontrados online cheios de paixão.

Hoje, a SemiAnalysis atua em várias frentes: serviços de dados, consultoria, informação, newsletter, mídia, além de estar prestes a organizar uma grande conferência. Tem sido uma jornada fascinante.

SemiAnalysis na GTC da Nvidia e o “Cinturão Rei do Poder de Cálculo”

Apresentador:Falando em jornadas corajosas, me recordo de um momento marcante. A WisdomTree e a SemiAnalysis colaboram há vários meses. Na GTC da Nvidia deste março, eu assistia à transmissão ao vivo de Charlotte, Carolina do Norte — dizem que havia 55 mil pessoas online e 20 mil presencialmente no estádio.

Dylan Patel:Sim, tinham realmente 20 mil adultos presentes.

Apresentador:O Jensen Huang citou diretamente você no palco, dizendo que você o acusou de “esconder” um certo número; o gráfico que você fez apareceu direto na projeção do palco. Confesso: fiquei emocionado, vendo um CEO da maior empresa do mundo respondendo suas pesquisas e as dúvidas sobre seus dados. Pode contar como foi aquele momento? Me parece que você estava mesmo lá no evento.

Dylan Patel:Foi realmente surreal. Uma das coisas que a SemiAnalysis faz é que temos engenheiros que criam benchmarks abertos para todos os modelos abertos de IA e hardware, um trabalho bastante laborioso. Nossa relação com a indústria é muito próxima — por exemplo, só de hardware recebemos doações de mais de US$ 5 milhões de empresas como OpenAI, Microsoft, Amazon, Google, Coreweave, Nebius, Crusoe, e também da Oracle, que nos forneceu hardware para executar esses testes.