AWS Lambda añade instancias GPU: inferencia GPU sin servidores en Lambda Managed Instances con imágenes precompiladas de vLLM y SGLang
Amazon anunció el 18 de noviembre de 2026 que AWS Lambda ya admite instancias GPU para Event Functions en Lambda Managed Instances, lo que permite la inferencia GPU sin servidores sin crear ni administrar clústeres de GP
Amazon anunció el 18 de noviembre de 2026 que AWS Lambda ya admite instancias GPU para Event Functions en Lambda Managed Instances, lo que permite la inferencia GPU sin servidores sin crear ni administrar clústeres de GPU dedicados. Las funciones se despliegan como imágenes de contenedor OCI de hasta 32 GB, y AWS ofrece imágenes base precompiladas para CUDA, PyTorch, vLLM y SGLang.
Qué cambió con AWS Lambda
Amazon anunció el 18 de noviembre de 2026 que AWS Lambda ya admite instancias GPU para Event Functions en Lambda Managed Instances, lo que permite la inferencia GPU sin servidores sin crear ni administrar clústeres de GPU dedicados. Las funciones se despliegan como imágenes de contenedor OCI de hasta 32 GB, y AWS ofrece imágenes base precompiladas para CUDA, PyTorch, vLLM y SGLang.
Lambda ahora admite instancias GPU para Event Functions, en Lambda Managed Instances. Lambda Managed Instances son las instancias de EC2 que ejecutan tus Event Functions, con capacidad aprovisionada por concurrencia y por tipo de instancia.
Con esta nueva capacidad, puedes ejecutar cargas de trabajo de inferencia GPU sin servidores eligiendo instancias GPU impulsadas por GPU NVIDIA de la serie G de EC2: G4dn, G5, G6, G6f, Gr6, Gr6f y G6e. Las instancias G6e ofrecen hasta 8 GPU NVIDIA L40S por instancia y hasta 192 GB de memoria de GPU.
También puedes elegir la configuración de CPU y memoria: hasta 32 GB de memoria efímera de Lambda, 48 simultáneas y tiempos de espera de hasta 90 minutos. AWS Lambda ofrece imágenes base precompiladas para CUDA, PyTorch, vLLM y SGLang.
La capacidad se provisiona para un tipo de instancia, ya sea reservando una concurrencia fija o mediante el autoescalado dentro de límites mínimos y máximos de capacidad, en Lambda Managed Instances.
El precio se basa en los precios de las instancias EC2 On-Demand, más una tarifa de gestión de Lambda Managed Instances del 9,75 % y una tarifa de solicitud de $0,20 por millón de solicitudes.
Por qué AWS Lambda importa para los negocios
Por qué importa: hasta ahora, un negocio que quería inferencia con GPU —un modelo propio respondiendo a clientes, o un agente de IA ejecutando una tarea en segundo plano— tenía que montar un clúster de GPU dedicado, o usar un servicio de alojamiento de terceros.
Las instancias GPU en Lambda Managed Instances añaden la inferencia GPU al modelo sin servidores existente de Lambda: facturación por segundo, escalado a cero y sin infraestructura que administrar.
Fuentes
Publicado originalmente en IA Compa.
Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.