Tether Data presenta QVAC Fabric LLM, un marco de inferencia y ajuste para modelos de IA modernos.

Empresa del Departamento de Servicios Financieros Tether Enfocada en promover la libertad, la transparencia y la innovación a través de la tecnología, Tether Data anunció el lanzamiento de QVAC Fabric LLM, un entorno de ejecución integral de inferencia de modelos de lenguaje grandes (LLM) y un marco de ajuste fino. Este nuevo sistema permite a los usuarios ejecutar, entrenar y personalizar modelos de lenguaje grandes directamente en hardware estándar, incluyendo GPU de consumo, portátiles e incluso smartphones, eliminando la dependencia previa de servidores en la nube de alta gama o configuraciones especializadas de NVIDIA.

Maestría en Derecho de Tejidos QVACdefiInferencia y ajuste fino LLM de alto rendimiento de nes, tradicionalmente accesibles solo para organizaciones con infraestructura costosa. Representa el primer sistema unificado, portátil y altamente escalable capaz de ejecutar inferencia LLM completa, adaptar LoRA y ajustar instrucciones en sistemas operativos móviles (iOS y Android), así como en todos los entornos comunes de portátiles, ordenadores de sobremesa y servidores (Windows, macOS, Linux). Esto permite a desarrolladores y organizaciones crear, implementar, ejecutar y personalizar la IA de forma independiente, sin depender de la nube, sin depender de un proveedor específico ni correr el riesgo de que datos confidenciales salgan del dispositivo.

Una innovación notable de esta versión es la capacidad de ajustar modelos en GPU móviles, como Qualcomm Adreno y ARM Mali. Esto marca el primer marco listo para producción que permite el entrenamiento LLM moderno en hardware de smartphones. Este avance facilita una IA personalizada que aprende directamente de los usuarios en sus dispositivos, preservando la privacidad, operando sin conexión y dando soporte a una nueva generación de aplicaciones de IA resilientes en el dispositivo.

QVAC Fabric LLM también amplía la llamaEcosistema .cpp agregando soporte de ajuste fino para modelos contemporáneos como LLama3, Qwen3 y Gemma3, que anteriormente no eran compatibles. Estos modelos ahora se pueden ajustar mediante un flujo de trabajo consistente y sencillo en todas las plataformas de hardware.

Al permitir el entrenamiento en una amplia gama de GPU, incluyendo AMD, Intel, NVIDIA, Apple Silicon y chips móviles, QVAC Fabric LLM desafía la idea arraigada de que el desarrollo avanzado de IA requiere hardware especializado de un solo proveedor. Las GPU de consumo ahora son viables para tareas importantes de IA, y los dispositivos móviles se convierten en plataformas de entrenamiento legítimas, ampliando el panorama para el desarrollo de IA.

Para las empresas, el marco ofrece ventajas estratégicas. Las organizaciones pueden optimizar los modelos de IA internamente en hardware seguro, eliminando la necesidad de exponer datos confidenciales a proveedores externos de la nube. Este enfoque promueve la privacidad, el cumplimiento normativo y la rentabilidad, a la vez que permite la implementación de modelos de IA personalizados según las necesidades internas. QVAC Fabric LLM traslada el ajuste de los clústeres de GPU centralizados al ecosistema más amplio de dispositivos que ya gestionan las empresas, haciendo que la IA avanzada sea más accesible y segura.

Tether Data lanza QVAC Fabric LLM como código abierto, lo que permite la personalización descentralizada de la IA.

Tether Data ha puesto a disposición QVAC Fabric LLM como software de código abierto bajo la licencia Apache 2.0, junto con binarios multiplataforma y adaptadores listos para usar en Hugging Face. El framework permite a los desarrolladores comenzar a ajustar los modelos con solo unos pocos comandos, reduciendo las barreras a la personalización de la IA que antes eran difíciles de superar.

QVAC Fabric LLM marca un avance práctico hacia la IA descentralizada y gestionada por el usuario. Si bien gran parte de la industria sigue priorizando las soluciones basadas en la nube, Tether Los datos se centran en habilitar la personalización avanzada directamente en el hardware local. Este enfoque facilita la continuidad operativa en regiones con redes de alta latencia, como los mercados emergentes, a la vez que ofrece una plataforma de IA que prioriza la privacidad, resiliente y escalable, capaz de funcionar independientemente de la infraestructura centralizada.