Parámetros del modelo: qué significan 7B, 70B y billones

Los parámetros del modelo son los números internos de una red neuronal (pesos y sesgos) que se ajustan durante el entrenamiento y guardan todo lo que el modelo ha aprendido. La cantidad suele ir en el nombre: 7B significa 7 mil millones.

En pocas palabras

Imagina una mesa de mezclas enorme en un estudio de grabación con miles de millones de deslizadores. Durante el entrenamiento, cada uno se mueve un poquito hasta que el modelo «suena» bien. Los parámetros son la posición de todos esos deslizadores. Cuantos más hay, más fino se puede ajustar el «sonido», pero la mesa se vuelve enorme y cara.

Cómo funciona

1. Cada conexión entre neuronas tiene su número: un peso.
2. Durante el entrenamiento, miles de millones de esos números cambian poco a poco para que el modelo falle menos.
3. Después, los números se guardan en un archivo: eso es el modelo.
4. El tamaño del archivo depende de la cantidad de parámetros y de la precisión de los números.
5. Al funcionar, todos los parámetros necesarios tienen que caber en memoria: RAM o memoria de vídeo.

Dónde lo verás

El número de parámetros aparece en los nombres de los modelos abiertos (Llama 3 8B, Qwen 72B, Mistral 7B) y en las noticias sobre modelos nuevos. Para la IA en el dispositivo se usan modelos pequeños: de unos cientos de millones a unos pocos miles de millones de parámetros.

¿Importa al elegir?

Sí, si quieres ejecutar un modelo en tu portátil o tu móvil. A grandes rasgos: un modelo de 7 mil millones de parámetros comprimido ocupa unos pocos gigabytes de memoria. Por eso, para IA local, yo miro la RAM. En cambio, para los chatbots en la nube, el número de parámetros casi no te afecta.

Mitos

• Mito: Más parámetros siempre significa un modelo más listo. En realidad: No. Un modelo pequeño nuevo entrenado con mejores datos a menudo supera a uno grande antiguo.
• Mito: Los parámetros son la cantidad de datos que sabe el modelo. En realidad: El conocimiento está repartido entre todos los parámetros, no guardado un dato en cada uno.

Preguntas frecuentes

¿Qué significa la B en el nombre de un modelo?

Billion en inglés: mil millones de parámetros. 70B son 70 mil millones.

¿Cuántos parámetros tienen los modelos más grandes?

Las empresas no suelen dar cifras exactas, pero las estimaciones hablan de cientos de miles de millones o más.

¿Cuánta memoria necesita un modelo 7B?

Comprimido (cuantizado), unos pocos gigabytes; sin comprimir, bastante más.

Términos relacionados

Cuantización del modelo, Red neuronal, Modelos abiertos, IA en el dispositivo