IA y automatización local
Guías para modelos locales, APIs de IA, RAG, webhooks, automatizaciones seguras, privacidad y operación fiable.
Herramientas interactivas de diagnóstico
Ver toda Anayil Toolbox ↗Guías y respuestas
Modelos locales e inferencia
Conectividad, Docker, GPU, almacenamiento y memoria para inferencia propia.
[IA-001] El endpoint local de Ollama no responde
Verifica servicio, puerto y ruta API antes de cambiar el modelo o la aplicación cliente.
[IA-002] La aplicación Docker no alcanza el modelo local
Resuelve el acceso entre contenedores usando DNS de servicio y una red aislada.
[IA-003] La descarga del modelo falla por espacio o almacenamiento incompleto
Detecta espacio, inodos, cuota y descargas parciales antes de volver a descargar gigabytes.
[IA-004] El runtime de inferencia no detecta la GPU
Separa driver del host, toolkit del contenedor y compatibilidad del runtime.
[IA-005] La inferencia local agota memoria al cargar contexto
Ajusta tamaño de modelo, contexto y concurrencia de forma medida, sin ocultar un OOM.
APIs e integración de aplicaciones
Autenticación, cuotas, streaming, formato de salida y acciones con herramientas.
[IA-006] La API del proveedor devuelve 401 o 403
Comprueba carga de secreto, proyecto, permisos y endpoint sin imprimir credenciales.
[IA-007] Las solicitudes a IA reciben 429 y se acumulan
Aplica límites por cuenta, cola y backoff con jitter respetando Retry-After.
[IA-008] La respuesta de IA en streaming se corta o queda bloqueada
Diferencia timeout del proxy, parsing SSE y cierre normal del stream.
[IA-009] La respuesta del modelo no cumple el JSON esperado
Valida salida estructurada en el servidor y gestiona truncamiento sin ejecutar contenido arbitrario.
[IA-010] Las acciones invocadas por el modelo se ejecutan dos veces
Separa propuesta del modelo de autorización y ejecución de operaciones con efectos.
Seguridad, privacidad y protección de datos
Defensa frente a inyección, exposición de secretos y contenido no confiable.
[IA-011] Un documento intenta alterar las instrucciones del asistente
Trata páginas y documentos recuperados como datos no confiables, no como instrucciones del sistema.
[IA-012] El flujo envía datos personales o secretos al modelo
Minimiza, redacta y clasifica datos antes de cualquier llamada local o de terceros.
[IA-013] La respuesta generada introduce HTML o enlaces peligrosos
Renderiza texto generado con escape contextual y una lista segura de esquemas de URL.
[IA-019] Un secreto de IA quedó en Docker Compose o en Git
Revoca, elimina de historial y mueve credenciales a un almacén de secretos apropiado.
RAG y automatización local
Recuperación vectorial, webhooks autenticados y tareas programadas fiables.
[IA-014] RAG recupera fragmentos duplicados o respuestas contradictorias
Depura ingesta, versiones, chunking y referencias antes de ajustar temperatura del modelo.
[IA-015] Los embeddings no coinciden con la dimensión del índice vectorial
Identifica modelo y dimensión exactos; evita mezclar vectores de distintas familias.
[IA-016] El webhook de automatización acepta solicitudes no autenticadas
Protege disparadores con autenticación, limitación de frecuencia y validación de payload.
[IA-017] Una tarea programada inicia ejecuciones solapadas
Evita duplicación y consumo concurrente con locks, límites y control de duración.
Colas, disponibilidad y operación
Capacidad, backpressure, tolerancia a fallos y continuidad del modelo.
[IA-018] La cola de inferencias crece más rápido de lo que se procesa
Aplica backpressure, cuotas por tenant y respuestas de sobrecarga en vez de acumular latencia.
[IA-020] El proveedor/modelo no está disponible y bloquea la automatización
Añade health checks, límites temporales, circuit breaker y degradación segura.