Cómo calcula AMDATA Match

Qué hace y qué no

Match separa tres dimensiones y nunca las mezcla: encaje técnico (¿cumple los requisitos de memoria y los criterios de la tarea?), rendimiento (¿a qué velocidad y con cuánta carga simultánea?) y recomendación (¿qué conviene hacer con el resultado?). El encaje se calcula; el rendimiento requiere una prueba; la recomendación sale de las dos. Que un modelo quepa en memoria no lo convierte en una recomendación de compra.

• Usa la memoria instalada, nunca la máxima que admite el modelo de equipo.
• No usa TOPS ni la NPU en el cálculo: su utilidad para modelos de lenguaje depende del motor de ejecución y del modelo.
• No estima precios ni costo de nube.
• Las explicaciones se generan con reglas a partir de datos estructurados; no las escribe un modelo de lenguaje.

Fórmula de memoria

memoria necesaria = pesos + caché de contexto + motor de ejecución + componentes de la carga

• Pesos: parámetros × bits por peso ÷ 8, más un 3 % por tablas y capas sin cuantizar.
• Caché de contexto: 2 × capas × cabezas KV × dimensión por cabeza × 2 bytes, por cada token de contexto y por cada solicitud en paralelo. Los valores de capas y cabezas salen del archivo de configuración publicado de cada modelo.
• Motor de ejecución: 1 GB fijos más 0.15 GB por solicitud en paralelo.
• Componentes: búsqueda semántica, índice de documentos, lectura de escaneos u orquestación, según la tarea (ver criterios por tarea).

Memoria utilizable del equipo: la instalada menos una reserva para el sistema operativo. Con GPU dedicada, el modelo debe caber en la memoria de la GPU; si no cabe y usa memoria del sistema, funciona más lento y solo se considera para procesamiento por lotes.

Supuestos

Reglas de cada estado

Encaje técnico

Cumple los requisitos

Cabe un modelo del tamaño preferido para la tarea con margen holgado, con hasta 4 solicitudes en paralelo y, en equipos con gráficos integrados y respuesta inmediata, con hasta 14 mil millones de parámetros activos. Por encima de esos límites solo cuenta como «cumple» si una prueba de rendimiento cubre la carga.

Cumple con límites

Cabe con poco margen; o solo cabe un modelo del tamaño mínimo; o la memoria alcanza pero hace falta una prueba de rendimiento por las personas simultáneas o el tipo de memoria; o funciona por lotes repartiendo el modelo entre GPU y memoria del sistema; o la ubicación depende de una condición por confirmar.

Requiere cambios

Con las condiciones indicadas no cabe, pero cabría reduciendo la información por consulta o las personas simultáneas; o el modelo no cabe en la GPU para respuesta inmediata.

No cumple

Ni siquiera el modelo mínimo para la tarea cabe con condiciones mínimas. Se indica cuánta memoria haría falta. No significa que no exista otro equipo que cumpla.

Información insuficiente

Falta la memoria instalada, el tipo de memoria o la memoria de la GPU; la tarea no está cubierta; o hay más de 50 personas simultáneas, que requieren una prueba en servidor.

Rendimiento

Rendimiento no validadoE0

Todavía no existe una prueba de velocidad para esta configuración. Corresponde al nivel E0.

Prueba externa comparableE3

Medido por terceros en condiciones comparables, no en esta configuración exacta. Corresponde al nivel E3.

Probado por AMDATAE4

Medido por AMDATA en esta configuración, con las condiciones publicadas. Corresponde al nivel E4.

Validado con carga realE5

Medido con la carga de trabajo real del cliente. Corresponde al nivel E5.

Una prueba solo cambia el nivel si es del mismo equipo y modelo y cubre las solicitudes en paralelo y la información por consulta indicadas. Pruebas publicadas hoy: 0. Match no estima la velocidad: el nivel «Rendimiento estimado» queda reservado y no se usa.

Recomendación

Recomendado

Cumple los requisitos y una prueba de rendimiento de AMDATA o con la carga real cubre lo que pediste.

Validar antes de decidir

Es viable según los datos, pero la velocidad no está probada. Si la velocidad o la carga simultánea son decisivas, valídala antes de comprar o implementar.

Ajustar antes de decidir

Cambia alguna condición o el equipo y vuelve a evaluar.

No recomendado

Con estas condiciones no cumple. Compara con otro equipo o evalúa otra ubicación.

Completar datos

Con los datos que faltan podremos evaluar. No inventamos una respuesta.

Regla de «Recomendado»: encaje técnico «Cumple los requisitos» y una prueba de rendimiento de nivel E4 (probado por AMDATA en esta configuración) o E5 (validado con la carga real) que cubra la carga pedida. Una prueba externa comparable (E3) informa, pero no basta.

Local, nube o híbrida

En la ruta «Tengo una necesidad», la ubicación se decide con reglas publicadas y sin puntajes:

• Deciden: si la información no puede salir de la organización o el sistema debe funcionar sin conexión, ejecución local; si se prefiere que no salga, híbrida; en los demás casos, empezar en la nube.
• Condicionan: una regla de país o región para los datos, conectividad por confirmar, volumen alto con ejecución en la nube, más de 4 solicitudes en paralelo y la falta de un responsable de operación en ejecución local. Cada una se muestra como condición que hay que cumplir.
• Informan: tiempo de respuesta, volumen, equipos existentes y quién operará el sistema.
• Sin datos: el costo local y el de nube. Match no tiene todavía precios por país ni consumo de nube verificables, así que no los calcula.

Criterios por tarea

El tamaño de modelo por tarea es un criterio de AMDATA para empezar una prueba, no una medición.

Niveles de evidencia

Cada dato del resultado lleva su origen. Los niveles describen la fuente, no la probabilidad de acierto.

• E0 · Sin información. No hay información suficiente.
• E1 · Especificación. Basado en datos publicados por el fabricante o proveedor.
• E2 · Estimación. Estimado con reglas de cálculo y datos comparables.
• E3 · Prueba pública. Probado públicamente en condiciones comparables.
• E4 · Probado por AMDATA. Probado por AMDATA en esta configuración.
• E5 · Validado en cliente. Validado con la carga de trabajo real del cliente.
• Dato ingresado. Lo indicó la persona en el formulario; no está verificado.
• Criterio AMDATA. Regla de decisión publicada en esta página.

Cobertura de datos

Equipos (4)

El catálogo actual tiene 4 equipos de ASUS: es un punto de partida, no el mercado completo. Que ningún equipo del catálogo alcance no significa que no exista uno que sí lo haga. Cualquier otro equipo puede evaluarse con «Equipo propio», indicando el tipo de memoria y la memoria instalada. Incluir un equipo en el catálogo no implica un acuerdo con su fabricante.

Modelos de referencia (12)

Se usan para estimar memoria; no son una lista de modelos recomendados ni incluyen todos los disponibles.

Lo que todavía no cubre

• Velocidad. No hay pruebas de rendimiento propias publicadas. Cuando existan, aparecerán como nivel E4 con sus condiciones, y solo entonces un resultado podrá ser «Recomendado».
• Costo total local frente a nube. El modelo de cálculo está preparado, pero no se publica sin precios y consumos verificables.
• Imágenes, video, voz y generación de imágenes. Se muestran como «Información insuficiente».
• Servidores para más de 50 personas simultáneas. Requieren una prueba en la configuración candidata.
• Precios y disponibilidad por país. Se confirman con el distribuidor.