A Tether Data revela o framework QVAC Fabric LLM para inferência e ajuste fino de modelos modernos de IA.

Departamento de Serviços Financeiros Tether A Tether Data, focada em promover liberdade, transparência e inovação por meio da tecnologia, anunciou o lançamento do QVAC Fabric LLM, um framework abrangente para execução e ajuste fino de modelos de linguagem de grande porte (LLM). Este novo sistema permite que os usuários executem, treinem e personalizem modelos de linguagem de grande porte diretamente em hardware padrão, incluindo GPUs de consumo, laptops e até mesmo smartphones, eliminando a dependência anterior de servidores em nuvem de alto desempenho ou configurações especializadas da NVIDIA.

QVAC Fabric LLM redefiA plataforma oferece inferência e ajuste fino de alto desempenho do LLM, recursos tradicionalmente acessíveis apenas a organizações com infraestrutura dispendiosa. Ela representa o primeiro sistema unificado, portátil e altamente escalável capaz de executar inferência completa do LLM, adaptação do LoRA e ajuste de instruções em sistemas operacionais móveis (iOS e Android), bem como em todos os ambientes comuns de laptops, desktops e servidores (Windows, macOS, Linux). Isso permite que desenvolvedores e organizações criem, implementem, executem e personalizem IA de forma independente, sem depender da nuvem, de fornecedores específicos ou do risco de dados confidenciais saírem do dispositivo.

Uma inovação notável nesta versão é a capacidade de ajustar modelos em GPUs móveis, como Qualcomm Adreno e ARM Mali, marcando a primeira estrutura pronta para produção que permite o treinamento moderno de LLM em hardware de smartphones. Esse avanço facilita a IA personalizada que pode aprender diretamente com os usuários em seus dispositivos, preservando a privacidade, operando offline e oferecendo suporte a uma nova geração de aplicativos de IA resilientes e executados no dispositivo.

O QVAC Fabric LLM também amplia o llamaEcossistema .cpp adicionando suporte de ajuste fino para modelos contemporâneos, como LLamaOs modelos 3, Qwen3 e Gemma3, que antes não eram suportados, agora podem ser ajustados com precisão por meio de um fluxo de trabalho consistente e simples em todas as plataformas de hardware.

Ao permitir o treinamento em um amplo espectro de GPUs, incluindo AMD, Intel, NVIDIA, Apple Silicon e chips para dispositivos móveis, o QVAC Fabric LLM desafia a antiga noção de que o desenvolvimento avançado de IA exige hardware especializado de um único fornecedor. GPUs para o consumidor agora são viáveis ​​para tarefas significativas de IA, e dispositivos móveis se tornam plataformas legítimas de treinamento, ampliando o cenário para o desenvolvimento de IA.

Para empresas, a estrutura oferece vantagens estratégicas. As organizações podem ajustar modelos de IA internamente em hardware seguro, eliminando a necessidade de expor dados confidenciais a provedores de nuvem externos. Essa abordagem oferece suporte à privacidade, conformidade regulatória e eficiência de custos, ao mesmo tempo que permite a implantação de modelos de IA personalizados para requisitos internos. O QVAC Fabric LLM transfere o ajuste fino de clusters de GPUs centralizados para o ecossistema mais amplo de dispositivos já gerenciados pelas empresas, tornando a IA avançada mais acessível e segura.

A Tether Data lança o QVAC Fabric LLM como código aberto, permitindo a personalização descentralizada de IA.

A Tether Data disponibilizou o QVAC Fabric LLM como software de código aberto sob a licença Apache 2.0, acompanhado de binários multiplataforma e adaptadores prontos para uso no Hugging Face. A estrutura permite que os desenvolvedores comecem a ajustar modelos com apenas alguns comandos, reduzindo as barreiras à personalização da IA ​​que antes eram difíceis de superar.

O QVAC Fabric LLM representa um passo prático em direção à IA descentralizada e gerenciada pelo usuário. Enquanto grande parte do setor continua priorizando soluções baseadas em nuvem, Tether A plataforma Data concentra-se em permitir a personalização avançada diretamente no hardware de borda local. Essa abordagem oferece suporte à continuidade operacional em regiões com redes de alta latência, como mercados emergentes, ao mesmo tempo que proporciona uma plataforma de IA resiliente, escalável e que prioriza a privacidade, capaz de funcionar independentemente da infraestrutura centralizada.