IA local, en la nube o híbrida: cómo decidir dónde ejecutarla

Primero, los términos

La confusión más costosa es tratar «local» y «privada» como sinónimos. Local describe dónde se ejecuta la IA; privada describe cuánto control hay sobre datos, accesos, modelos y operación. Un equipo propio mal operado puede ser menos privado que un servicio en la nube bien configurado.

IA local: Se ejecuta en un equipo o infraestructura cercana a quien la usa. No implica por sí sola privacidad, seguridad ni funcionamiento sin conexión.
IA privada: Control definido sobre datos, accesos, modelos, infraestructura y operación. Puede lograrse con infraestructura propia, nube privada o una combinación.
Infraestructura del cliente: Equipos y servidores de tu organización, bajo tu control. En documentación técnica: on-premises.
Nube: Infraestructura de un proveedor externo, usada por internet. El control depende del contrato y de la configuración.
Híbrida: Partes distintas de la carga en entornos distintos. No es «mitad y mitad»: se decide qué dato va a cada lado.

Siete preguntas para decidir

Responde estas preguntas por cada carga de trabajo, no para toda la organización. Es habitual que una misma empresa termine con cargas en la nube y otras en su infraestructura.

Privacidad y datos. ¿Qué datos no pueden salir y por qué? ¿Es una regla escrita o una preferencia? Una regla escrita —contrato, regulación sectorial, política interna— obliga. Una preferencia se puede atender con controles en la nube. Separar las dos evita sobredimensionar.
Costo. ¿Cuánto cuesta hoy el uso en la nube y cuánto costaría comprar y operar un equipo? La nube cobra por uso; el equipo propio cobra al inicio y después en operación. La comparación justa es el costo total de propiedad (TCO) con los mismos supuestos de volumen.
Tiempo de respuesta. ¿Alguien espera la respuesta frente a la pantalla o puede procesarse por lotes? Si alguien espera frente a la pantalla, la velocidad importa y necesita una prueba. Si el proceso corre por lotes, un equipo más modesto puede bastar.
Conectividad. ¿Hay sedes con conexión limitada o inestable? Una sede con conexión inestable puede necesitar procesamiento local aunque los datos no sean sensibles.
Volumen. ¿Cuántas consultas o documentos al día, y cuántas personas al mismo tiempo? Con poco volumen, la nube suele ser más barata. Con volumen alto y estable, el costo variable empieza a pesar.
Capacidad operativa. ¿Quién actualizará, respaldará y vigilará el equipo? Un equipo propio necesita actualizaciones, respaldo y monitoreo. Si nadie puede hacerlo, el costo de contratarlo entra en la comparación.
Equipos existentes. ¿Ya hay hardware que pueda reutilizarse? ¿Cuánta memoria tiene instalada? Lo que decide es la memoria instalada, no la máxima que admite el equipo. Un equipo que ya existe puede resolver parte de la carga.

Comparación con los mismos criterios

Comparación entre ejecutar la IA en infraestructura propia, en la nube o de forma híbrida. No hay una opción mejor por defecto.
Dimensión	Infraestructura propia	Nube	Híbrida
Dónde se procesan los datos	En equipos de tu organización	En la infraestructura del proveedor	Lo sensible dentro; el resto en el proveedor
Control de datos	Mayor control potencial, si se opera bien	Depende del proveedor y de la configuración	Control alto sobre la parte sensible
Inversión inicial	Mayor: equipo e instalación	Menor	Intermedia
Costo con más volumen	Más estable	Variable: crece con el uso	Mixto
Capacidad del modelo	Limitada por la memoria del equipo	La más amplia disponible	Según la parte de la carga
Operación	La asume tu organización o un tercero	Gestionada en parte por el proveedor	Dos entornos que mantener
Sin conexión	Posible	No	Solo la parte local
Encaja mejor si…	Hay una regla escrita que impide sacar datos, se necesita operar sin conexión o el volumen hace que el costo variable pese más que la inversión.	Los datos pueden procesarse en un proveedor con contrato, el volumen todavía es incierto o se necesita empezar rápido sin invertir en equipo.	Solo una parte de los datos es sensible: esa parte se procesa en tu infraestructura y el resto en la nube.

Desliza la tabla horizontalmente para ver las tres opciones.

Tres ejemplos

Ejemplos ilustrativos, no casos de clientes.

Un estudio que consulta normas y procedimientos públicos

La información es pública, el volumen es moderado y nadie puede administrar un servidor. Encaja la nube: sin inversión inicial y con la mayor capacidad de modelo disponible. Se revisa cuando el uso se estabilice.

Un área legal con expedientes que, por contrato, no pueden salir

La restricción está escrita y es obligatoria. Encaja la infraestructura propia, dimensionada para la carga real: cuántas personas consultan a la vez y cuántas páginas analiza cada consulta. Antes de comprar, se prueba la carga en la configuración candidata.

Una empresa que procesa facturas y también documentos de personal

Las facturas pueden procesarse en un proveedor con contrato; los documentos con datos personales del área de personas, no. Encaja una arquitectura híbrida: una regla clara decide qué documento va a cada lado.

Errores frecuentes

Elegir el equipo por TOPS. Mide operaciones bajo una métrica específica; no dice si un modelo cabe ni a qué velocidad responde.
Confundir memoria máxima con memoria instalada. La ficha de un mini PC puede admitir 96 GB y venir con 16 GB. Cuenta la instalada.
Asumir que local es privado. Sin control de accesos, cifrado, respaldo y registro, local solo cambia dónde está el riesgo.
Olvidar el costo de operar. Actualizaciones, respaldo, monitoreo y la persona que los hace son parte del costo total.
Evaluar solo el modelo. La carga completa incluye lectura de escaneos, búsqueda en documentos, personas simultáneas y la información que se analiza en cada consulta.
Tomar una estimación como prueba. Que un modelo quepa en memoria no garantiza que responda con la velocidad o la calidad que necesitas.

Si conviene un equipo propio

La memoria necesaria se estima sumando cuatro partes: los pesos del modelo (que dependen de su tamaño y de su cuantización), la caché de contexto (que crece con la información por consulta y con las solicitudes en paralelo), el motor de ejecución y los componentes de la carga, como la búsqueda en documentos o la lectura de escaneos.

AMDATA Match hace ese cálculo con la arquitectura publicada de cada modelo y te dice qué parte es especificación del fabricante, qué parte es estimación y qué falta probar. Ver la metodología de cálculo.

Siguiente paso

Si tienes una tarea y un equipo concretos, una primera estimación en AMDATA Match toma unos minutos. Si la decisión compromete inversión o datos sensibles, conviene evaluar la arquitectura con la carga real.