Cómo elegir un modelo de lenguaje grande o pequeño

E5-Small es una referencia de menor tamaño; Large-Instruct obtiene más en este informe MIRACL en español. Los resultados de Qwen son agregados multilingües, no puntuaciones específicas de español.

Cuando consultas y documentos están en español; identifique por separado la recuperación entre idiomas.

La diferencia de 51,2 a 53,7 no acredita la calidad de la respuesta final ni la cobertura de todas las variedades del español.

Trate Large y Large-Instruct como variantes distintas: Large obtiene más en MIRACL inglés en este informe. Para valorar un reranker, use la comparación de Qwen con el mismo conjunto de candidatos.

Cuando importa más la evidencia en el idioma objetivo que una media multilingüe.

La etiqueta Instruct no garantiza una mejora en todas las tareas.

Empiece la comparación de tamaños con 0,6B. Considere 4B y 8B si la mejora en la tarea justifica el presupuesto de la segunda etapa; 8B no encabeza todas las métricas.

Cuando los documentos pertinentes están entre los candidatos pero aparecen mal ordenados; la cantidad de candidatos forma parte del diseño.

El reranker no puede recuperar un documento ausente de su conjunto de entrada.

Para un asistente que sigue instrucciones, separa edición de repositorios y ejercicios de programación. StarCoder2-3B sirve para autocompletado/FIM; HumanEval no mide conversación ni calidad de un agente editor.

Una vez definida la interfaz: autocompletado, cambios en varios archivos o resolución de un ejercicio.

Los parámetros activos de un MoE no determinan la memoria de todos sus pesos residentes.

LFM es un candidato pequeño para extracción y flujos acotados; MiniCPM y Granite también cuentan con evidencia de razonamiento y herramientas. El tamaño real de los pesos puede diferir de la cifra redondeada del nombre.

Cuando se conocen la tarea, el formato de salida y el límite de memoria.

Una buena puntuación de un modelo pequeño no demuestra menor latencia ni viabilidad en portátil con el contexto máximo.

Salamandra aporta evidencia directa en varias tareas españolas. Compárelo con candidatos multilingües generales; los datos disponibles no identifican al mejor chatbot en español.

Cuando es necesario separar la evidencia en español de una afirmación multilingüe general.

La cobertura del idioma no acredita todas las regiones ni los ámbitos profesionales.

Use MassiveIntent y MTOP para valorar la clasificación de intenciones. El modelo de embeddings es un componente; el resultado también depende del clasificador y de sus datos de entrenamiento.

Para un conjunto definido de etiquetas; la evidencia publicada ayuda a formar una lista inicial.

Un modelo de embeddings o ParsBERT sin adaptación no es un chatbot listo para usar.