Well-Architected on a Budget: Cutting Database and AI Inference Cost with Valkey on Kubernetes

En Cloud Native Ecuador seguimos apostando por contenido técnico de alto impacto. En esta sesión exploramos cómo Valkey, el proyecto open source de almacenamiento en memoria, se convierte en una palanca de ahorro en las dos capas más costosas de un clúster: la base de datos y la inferencia de IA.

🔹 Cache-aside para tu base de datos: descarga el tráfico de lectura, reduce réplicas y libera recursos de tus Pods. Un solo nodo de Valkey soporta cientos de miles de requests por segundo, con lecturas hasta 80x más rápidas y hasta 55% menos costo.

🔹 Semantic cache para IA generativa: usando búsqueda vectorial de Valkey frente a un LLM, prompts similares reutilizan respuestas ya cacheadas. Resultado: hasta 86% menos costo de inferencia y 88% menos latencia.

🔹 Además, revisamos 3 formas de correr Valkey en tu clúster: manifiestos manuales, Helm chart y el Valkey Operator, para que salgas con patrones listos para desplegar el mismo día.

📌 Si te importa la eficiencia de costos sin sacrificar performance en Kubernetes, esta charla es para ti.