Solución / 04

Decidir dónde ejecutar la IA

Decide dónde debe ejecutarse cada carga de IA antes de comprar infraestructura.

Comparamos privacidad, costo, latencia, conectividad, volumen y capacidad operativa para elegir entre nube, infraestructura de tu organización o una combinación. Si conviene comprar hardware, lo dimensionamos por carga de trabajo, no por especificaciones.

Evaluar mi proceso Probar AMDATA Match

Dónde ejecutar: se decide por carga de trabajo

Qué cambia

Del trabajo de hoy al sistema

Reconoces esta situación si…

Hay datos que no deberían salir de la organización, pero nadie ha escrito qué datos ni por qué.
El gasto en servicios de IA en la nube crece con el uso y no hay con qué compararlo.
Alguien propuso comprar un equipo para IA y no hay forma de saber si alcanza o sobra.
Una sede trabaja con conectividad limitada.

HoyDecidir por preferencia: «todo local» o «todo en la nube»

Con el sistemaUna decisión por carga de trabajo, con criterios escritos

HoyComprar hardware por especificaciones o TOPS

Con el sistemaDimensionar por memoria, modelo, usuarios simultáneos y una prueba de la carga

HoyCosto de la nube sin comparación

Con el sistemaCosto total de propiedad (TCO) de cada opción con supuestos visibles

Cómo se decide

Cinco términos que no son sinónimos

Antes de comparar opciones conviene usar las palabras con precisión. La confusión más costosa es tratar «local» y «privada» como lo mismo.

IA local

Se ejecuta en un equipo o infraestructura cercana a quien la usa.

No implica por sí sola privacidad, seguridad ni funcionamiento sin conexión.

IA privada

Control definido sobre datos, accesos, modelos, infraestructura y operación.

Puede lograrse con infraestructura propia, nube privada o una combinación.

Infraestructura del cliente

Equipos y servidores de tu organización, bajo tu control.

En documentación técnica: on-premises.

Nube

Infraestructura de un proveedor externo, usada por internet.

El control depende del contrato y de la configuración.

Híbrida

Partes distintas de la carga en entornos distintos.

No es «mitad y mitad»: se decide qué dato va a cada lado.

¿Quieres una primera estimación para un equipo o una tarea concreta?

Probar AMDATA Match

Siete preguntas que deciden la ubicación

Privacidad y datos¿Qué datos no pueden salir y por qué? ¿Es una regla escrita o una preferencia?
Costo¿Cuánto cuesta hoy el uso en la nube y cuánto costaría comprar y operar un equipo?
Tiempo de respuesta¿Alguien espera la respuesta frente a la pantalla o puede procesarse por lotes?
Conectividad¿Hay sedes con conexión limitada o inestable?
Volumen¿Cuántas consultas o documentos al día, y cuántas personas al mismo tiempo?
Capacidad operativa¿Quién actualizará, respaldará y vigilará el equipo?
Equipos existentes¿Ya hay hardware que pueda reutilizarse? ¿Cuánta memoria tiene instalada?

Comparación con los mismos criterios

Comparación entre ejecutar la IA en infraestructura propia, en la nube o de forma híbrida. No hay una opción mejor por defecto.
Dimensión	Infraestructura propia	Nube	Híbrida
Dónde se procesan los datos	En equipos de tu organización	En la infraestructura del proveedor	Lo sensible dentro; el resto en el proveedor
Control de datos	Mayor control potencial, si se opera bien	Depende del proveedor y de la configuración	Control alto sobre la parte sensible
Inversión inicial	Mayor: equipo e instalación	Menor	Intermedia
Costo con más volumen	Más estable	Variable: crece con el uso	Mixto
Capacidad del modelo	Limitada por la memoria del equipo	La más amplia disponible	Según la parte de la carga
Operación	La asume tu organización o un tercero	Gestionada en parte por el proveedor	Dos entornos que mantener
Sin conexión	Posible	No	Solo la parte local
Encaja mejor si…	Hay una regla escrita que impide sacar datos, se necesita operar sin conexión o el volumen hace que el costo variable pese más que la inversión.	Los datos pueden procesarse en un proveedor con contrato, el volumen todavía es incierto o se necesita empezar rápido sin invertir en equipo.	Solo una parte de los datos es sensible: esa parte se procesa en tu infraestructura y el resto en la nube.

Desliza la tabla horizontalmente para ver las tres opciones.

Cómo funciona

Cómo llegamos a la decisión

Inventariar

Cargas de trabajo, datos, usuarios, restricciones, volumen y gasto actual.
Separar requisitos de preferencias

Qué es obligatorio y qué es deseable en privacidad, latencia, disponibilidad, capacidad y costo.
Comparar con criterios iguales

Nube, híbrida, infraestructura propia y procesamiento en sede (edge), medidas con la misma regla.
Probar la carga crítica

Cuando la decisión no puede cerrarse con datos, se prueba la carga en la alternativa candidata.
Recomendar

Arquitectura recomendada, supuestos, límites y siguiente fase.

Encaje

Cuándo encaja y cuándo no

Encaja si…

Existe una restricción concreta sobre datos: contrato, regulación sectorial o política interna escrita.
El volumen de uso es alto y el costo variable de la nube empieza a pesar.
Una sede necesita funcionar con conectividad limitada o con latencia baja.
Ya tienes hardware, o vas a comprarlo, y necesitas saber qué puede ejecutar de forma útil.

No conviene si…

No existe una razón concreta para sacar una carga de la nube. No forzamos una arquitectura más compleja.
Se busca solo una primera orientación sobre un equipo. AMDATA Match la entrega gratis y sin registro.
Usar AMDATA Match

Alcance

Qué entrega AMDATA y qué necesitas aportar

AMDATA entrega

Mapa de cargas de trabajo y datos.
Matriz de decisión con los mismos criterios para cada opción.
Requisitos de infraestructura y dimensionamiento de hardware cuando aplica.
Comparación de costo total de propiedad (TCO) con supuestos visibles.
Resultado de la prueba técnica, cuando hace falta.
Arquitectura recomendada y plan de implementación condicionado a la validación.

Tu organización aporta

Inventario de cargas de trabajo o casos de uso.
Clasificación o restricciones de los datos.
Volúmenes, usuarios y tiempo de respuesta esperado.
Presupuesto e infraestructura disponible.
Un responsable técnico.

Precio. La implementación se cotiza por alcance después de una evaluación. El diagnóstico de un proceso tiene precio publicado. Ver condiciones

Medición

Cómo se mide el resultado

Se mide la línea base antes de construir y después se compara con la misma regla.

Calidad en la carga real: Respuestas o extracciones correctas sobre un banco de casos del cliente.
Tiempo de respuesta: Medido en la configuración candidata, con usuarios simultáneos realistas.
Capacidad: Usuarios simultáneos o documentos por hora que sostiene la configuración.
Costo por tarea: Incluidos equipo, operación y consumo, con supuestos escritos.

Evidencia y límites

Qué podemos demostrar hoy y qué límites tiene

Evaluación disponible · despliegue local no demostrado

AMDATA no presenta hoy un despliegue en infraestructura del cliente como capacidad demostrada. Este servicio entrega evaluación y diseño; la implementación local o híbrida se cotiza después de validar la arquitectura y la capacidad real del caso.

Ver qué calcula Match

Dónde se ejecuta

La salida de esta fase es una decisión técnica y un plan. No se promete un despliegue como parte de la evaluación.

Limitaciones

Las especificaciones del fabricante no son rendimiento real: la capacidad se confirma con una prueba de la carga.
Que un modelo quepa en memoria no significa que responda con la velocidad o la calidad que necesita el proceso.
Operar infraestructura propia exige actualizaciones, respaldo y monitoreo. Ese costo entra en la comparación.
Local no equivale a privado: depende de quién accede, cómo se protege y cómo se opera.

Alternativas

Si esto no es exactamente lo que necesitas

AMDATA Match Primera estimación gratuita para una necesidad o un equipo concreto. Ver Guía: local, nube o híbrida Criterios para decidir, con un ejemplo de cada caso. Ver Fabricantes y canal Para quien vende o distribuye hardware preparado para IA. Ver

Detalle técnico y preguntas

Detalle técnico

Para equipos de TI y seguridad que necesitan verificar cómo se construye.

Qué determina la capacidad de un equipo

La memoria instalada (no la máxima que admite el modelo de equipo), la memoria de la GPU o la memoria unificada, el tamaño del modelo y su cuantización, la cantidad de información por consulta, los usuarios simultáneos, el motor de ejecución y los drivers.

TOPS mide operaciones bajo una métrica específica. No es un indicador universal de capacidad real.

Motores de ejecución

Ollama, llama.cpp, vLLM, LM Studio u otros, según escala y entorno. Open WebUI como interfaz cuando el caso no requiere una aplicación dedicada.

vLLM requiere protección adicional: su clave de API incorporada no protege todos los endpoints del servidor.

Procesamiento en sede (edge)

Procesamiento cerca de donde se generan o usan los datos, cuando la latencia o la conectividad lo exigen.

Nombre en el catálogo técnico

Private / Hybrid AI Architecture y Local AI Deployment & Hardware Fit.

Preguntas frecuentes

Las dudas que suelen aparecer antes de decidir.

¿IA local es lo mismo que IA privada?

No. IA local describe dónde se ejecuta. IA privada describe el control sobre datos, accesos, modelos y operación, y puede lograrse con infraestructura propia, nube privada o una arquitectura híbrida.

¿Puedo usar el equipo que ya tengo?

Puede ser. AMDATA Match estima qué cargas de trabajo caben en tu equipo según su memoria instalada y te dice qué falta comprobar con una prueba.

¿Instalan modelos locales?

Instalamos el motor de ejecución y el modelo como parte de una solución, no como servicio aislado: el valor está en la carga de trabajo funcionando con controles y medida.

Soluciones relacionadas

Evalúa el proceso antes de construir.

En 5 días hábiles medimos el proceso, definimos su línea base y te decimos qué conviene construir, qué no y en qué orden.

Evaluar mi proceso Escribir a AMDATA