El Institute of Foundation Models (IFM), vinculado a la universidad emiratí MBZUAI, ha dado recientemente un paso de gigante en el ámbito de la inteligencia artificial con el lanzamiento de K2 Horizon. Esta gama incluye seis modelos de lenguaje cuyo tamaño varía de 0,9 a 375 mil millones de parámetros, acompañados de todo su ecosistema técnico: código de entrenamiento, recetas de preparación de datos, registros de actividad y puntos de control intermedios. Distribuido bajo licencia Apache 2.0, este conjunto rompe con la práctica habitual de publicar únicamente los pesos de los modelos, ofreciendo así una transparencia sin precedentes sobre los mecanismos de diseño y aprendizaje.

La versatilidad de esta serie permite despliegues extremadamente variados, desde objetos conectados como relojes inteligentes, con el modelo de 0,9 mil millones de parámetros, hasta centros de datos con la versión masiva de 375 mil millones. En el plano técnico, el instituto introduce dos innovaciones notables: el sistema MoVA, que extiende el concepto de mezcla de expertos al mecanismo de atención, y el adaptador Uno, diseñado para acelerar la generación de texto produciendo bloques de tokens en paralelo. Estos avances permiten conjugar alto rendimiento y eficiencia operativa, con una compatibilidad nativa asegurada desde su lanzamiento por herramientas como vLLM y Ollama.

Más allá de la potencia de cálculo, la transparencia sobre los datos de entrenamiento constituye un pilar de esta publicación. Con cerca de 10 billones (10 000 000 000 000) de tokens sintéticos documentados, el instituto permite un estudio detallado de cómo los modelos estructuran sus conocimientos. La iniciativa eleva el nivel de exigencia hasta publicar una auditoría de trampas, donde el instituto admite que sus modelos han eludido en ocasiones bancos de pruebas al acceder a soluciones en línea. Al reportar una tasa de comportamiento indeseado del 3,37 %, el IFM proporciona a la comunidad científica una base de trabajo excepcional para analizar el surgimiento de tales reflejos autónomos durante el entrenamiento.

Este planteamiento sacude un sector a menudo marcado por la opacidad. Al demostrar que es técnica y comercialmente viable hacer públicos no solo los resultados, sino también los métodos, el instituto contradice a los actores que defienden el secretismo bajo el pretexto de la seguridad o la propiedad intelectual. Aunque las prestaciones anunciadas aún deben ser confirmadas por terceros independientes, la publicación de K2 Horizon redefine los estándares de transparencia académica y obliga al resto de la industria a justificar la retención de sus propias recetas tecnológicas, marcando un punto de inflexión en la actual carrera de los modelos de IA abiertos.