Nuevas leyes de escalado T2: optimizá tu IA con modelos más pequeños y eficientes

Investigadores de la Universidad de Wisconsin-Madison y Stanford University presentaron las leyes de escalado "Train-to-Test" (T2). Este nuevo marco optimiza el presupuesto computacional para la inteligencia artificial. Permite a los desarrolladores maximizar el rendimiento de los modelos de lenguaje grandes (LLMs) al considerar los costos de inferencia, no solo los de entrenamiento. Esta innovación es clave para aplicaciones del mundo real que buscan eficiencia y precisión.

Hasta ahora, las guías estándar para construir LLMs se enfocaban únicamente en los costos de entrenamiento. Esto generaba un desafío significativo para las aplicaciones prácticas. Muchas de estas aplicaciones utilizan técnicas de escalado en tiempo de inferencia, como generar múltiples muestras de razonamiento, para mejorar la precisión de las respuestas del modelo.

Las leyes de escalado T2 cierran esta brecha al optimizar conjuntamente tres factores cruciales. Consideran el tamaño de los parámetros del modelo, el volumen de datos de entrenamiento y la cantidad de muestras de inferencia en tiempo de prueba. Este enfoque integral redefine cómo pensamos la eficiencia en IA.

Es computacionalmente óptimo entrenar modelos sustancialmente más pequeños con muchísimos más datos.

En la práctica, la investigación demuestra un hallazgo sorprendente y muy valioso. Es computacionalmente óptimo entrenar modelos sustancialmente más pequeños con muchísimos más datos de lo que las reglas tradicionales prescriben. Luego, el costo computacional ahorrado se utiliza para generar múltiples muestras repetidas durante la inferencia. Esto cambia las reglas del juego para la eficiencia.

Para los desarrolladores de aplicaciones de IA empresarial que entrenan sus propios modelos, esta investigación ofrece un plan probado. Les permite maximizar el retorno de la inversión. Demuestra que el razonamiento de la IA no requiere necesariamente gastar enormes sumas en modelos de vanguardia.

En cambio, los modelos más pequeños pueden ofrecer un rendimiento superior en tareas complejas. Además, mantienen los costos de inferencia por consulta manejables dentro de los presupuestos de implementación reales. Esto democratiza el acceso a una IA potente y eficiente.

Las leyes de escalado son fundamentales en el desarrollo de LLMs. Las leyes de preentrenamiento dictan cómo asignar la computación durante la creación del modelo. Por otro lado, las leyes de escalado en tiempo de prueba guían la asignación de recursos durante la implementación. Esto incluye permitir que el modelo "piense más tiempo" o genere múltiples muestras de razonamiento para resolver problemas complejos.

El problema radica en que estas leyes de escalado se desarrollaron de forma completamente independiente. Sin embargo, están fundamentalmente interconectadas. El tamaño de los parámetros de un modelo y la duración de su entrenamiento dictan directamente la calidad y el costo por consulta de sus muestras de inferencia.

Actualmente, el estándar de oro de la industria para el preentrenamiento es la regla Chinchilla. Esta sugiere una proporción óptima de aproximadamente 20 tokens de entrenamiento por cada parámetro del modelo. Sin embargo, los creadores de familias de modelos de IA modernos, como Llama, Gemma y Qwen, rompen regularmente esta regla. Lo hacen al sobreentrenar intencionalmente sus modelos más pequeños con cantidades masivas de datos.

Nicholas Roberts, coautor del artículo, explicó a VentureBeat que el enfoque tradicional falla al construir flujos de trabajo complejos y "agentic". "En mi opinión, la pila de inferencia se rompe cuando cada llamada de inferencia individual es costosa", afirmó. "Este es el caso cuando los modelos son grandes y necesitás hacer mucho muestreo repetido". En lugar de depender de modelos masivos, los desarrolladores pueden usar modelos compactos sobreentrenados. Así, ejecutan este muestreo repetido a una fracción del costo. ¡Es una estrategia brillante!

Dado que las leyes de escalado de entrenamiento y de tiempo de prueba se examinaban de forma aislada, no existía un marco riguroso. Este marco permitiría calcular cuánto debe sobreentrenarse un modelo. La cantidad dependería de cuántas muestras de razonamiento necesitará generar durante la implementación. Las leyes T2 finalmente resuelven esta incógnita crucial.