Mistral AI presentó Mistral Large 4, un modelo de Inteligencia Artificial multimodal de alrededor de un billón de parámetros, entrenado desde cero en sus centros de datos europeos. La empresa abrió una versión preliminar mediante su API, la conexión que permite utilizar el sistema desde otras aplicaciones, en Mistral Studio.

El modelo admite texto e imágenes y dispone de una ventana de contexto de un millón de tokens. Estos son los fragmentos de información que procesa el sistema; la ventana define cuánto material puede recibir en una misma solicitud.

La descarga de los pesos, los valores numéricos que determinan el funcionamiento del modelo, llegará en una etapa posterior. “Publicaremos los pesos antes de fin de mes”, afirmó Mistral AI en su anuncio. Esa apertura permitirá acceder al modelo fuera del servicio administrado por la compañía.

Mistral Large 4 activa una parte de sus parámetros

Mistral Large 4 utiliza una arquitectura de mezcla de expertos. El sistema distribuye el procesamiento entre componentes especializados y activa una fracción del total para cada solicitud. Los parámetros son los valores ajustados durante el entrenamiento; el total y la cantidad activa describen dimensiones diferentes del modelo.

El anuncio de Mistral señala un billón de parámetros totales y 49.000 millones activos. Su ficha técnica precisa 1,05 billones totales, 52.000 millones activos y un componente de visión de 1.600 millones. Ambas descripciones sitúan al producto en una escala aproximada de un billón de parámetros.

Centro de datos europeo con la identificación de Mistral Large 4 junto a sus servidores
Mistral Large 4 se entrenó en Europa con 3.800 GPU NVIDIA Grace Blackwell, según Mistral AI.

La ventana de contexto permite enviar documentos extensos para su procesamiento. La documentación incluye funciones para consultar documentos, generar respuestas con una estructura definida y conectar herramientas externas. Estas últimas permiten integrar el modelo con aplicaciones que ejecutan operaciones, en lugar de limitar la interacción a una respuesta de texto.

El registro de novedades ofrece un descuento de lanzamiento del 50% durante dos semanas. El acceso inicial se realiza por API y la identificación del modelo en ese servicio es “mistral-large-4”. La versión preliminar forma parte de un desarrollo que la empresa sigue ajustando antes de abrir la descarga.

Entrenamiento europeo y pruebas antes de abrir los pesos

Mistral informó que utilizó 3.800 procesadores gráficos NVIDIA Grace Blackwell para entrenar el modelo desde cero. Esos chips realizan el cálculo intensivo necesario para ajustar sus parámetros. La compañía también opera la versión preliminar en la misma infraestructura europea donde realizó el entrenamiento.

La empresa está sometiendo el modelo a pruebas adversarias con especialistas en ciberseguridad, socios seleccionados y autoridades estatales. Estas pruebas buscan identificar riesgos mediante intentos deliberados de provocar fallos o usos indebidos. Los participantes reciben acceso con moderación reducida y capacidades de ciberseguridad ampliadas, según Mistral.

La compañía presentó evaluaciones en programación, finanzas, tareas jurídicas y análisis visual. Reuters informó que Mistral afirmó superar a algunos competidores chinos de pesos abiertos. Las comparaciones comunicadas por el fabricante corresponden a tareas y pruebas determinadas, y deben leerse con ese alcance.

El lanzamiento es el primer hito de la hoja de ruta financiada por la ronda de inversión de la empresa. Mistral prevé publicar más detalles sobre la arquitectura, evaluaciones adicionales y su método de ajuste posterior junto con los pesos. El modelo servirá de base para nuevas versiones especializadas y optimizadas.

Fuentes

Recommended Posts
0
Mano con uniforme militar de EEUU desconectando el módulo Claude de una maqueta del PentágonoCredencial con el nombre Meta junto a una bolsa de compras y una marca de autorización