Cuestionario sobre infraestructura de IA en EKS
15preguntas sobre las APIs actuales y los límites operativos.
1. ¿Qué es JARK y está completo automáticamente?
Respuesta y explicación
Un patrón de integración de JupyterHub/Argo Workflows/Ray/Karpenter. Conecta explícitamente identidades, envíos, ejecución, ubicación de Pods, aprovisionamiento de nodos, almacenamiento y autorización.
2. ¿Qué se debe configurar para usar JupyterHub con Cognito?
Respuesta y explicación
URLs de callback/token/userInfo, scopes, claims de nombre de usuario estables y políticas de permiso. Lee el client secret desde un archivo preparado; configura MFA/federación por separado en el proveedor. Una autenticación correcta no implica acceso universal.
3. ¿Cuáles son los roles del head de Ray y de Karpenter?
Respuesta y explicación
GCS es Global Control Service; la planificación interactúa con los raylets. Un head que anuncia CPUs puede ejecutar trabajo. Karpenter aprovisiona nodos según la demanda de los Pods worker y el estado de planificación de Kubernetes.
4. ¿Cómo se deben comparar DRA y los device plugins?
Respuesta y explicación
DRA ofrece solicitudes estructuradas, atributos y asignación mediante DeviceClass/ResourceSlice/ResourceClaim. Los device plugins también admiten MIG/time-slicing; no son universalmente de uso exclusivo. Las funcionalidades dependen de los drivers, el hardware y los gates.
5. ¿Qué es importante sobre los perfiles MIG y el aislamiento?
Respuesta y explicación
3g.20gb describe un perfil, no tres dispositivos de20GB. MIG particiona el hardware pero no sustituye el aislamiento de host/driver/autorización. MPS y time-slicing no son límites de seguridad.
6. ¿Puede una sola versión del GPU Operator establecer todo el soporte de DRA?
Respuesta y explicación
No. Revisa las APIs de Kubernetes, los drivers/hardware/CDI y cada gate individual. GPUCluster del Operator26.7 es mutuamente excluyente con ClusterPolicy; standalone0.5 tiene una protección opt-in frente a colisiones con el device plugin.
7. ¿Qué se debe verificar al integrar Langfuse?
Respuesta y explicación
Verifica las dependencias actuales de SDK/backend, la BD/ClickHouse/almacenamiento de objetos, las credenciales en archivos, el tracing y la retención de datos sensibles. Los Deployments antiguos2.x o las llamadas a trace() no son las APIs actuales4.x.
8. ¿Cómo se deben elegir EFS, FSx y Mountpoint?
Respuesta y explicación
Compara E/S, autorización, alcance de namespace/PVC, capacidad y semántica del sistema de archivos. Las requests de EFS no son cuotas; Mountpoint CSI2.8 usa PVs estáticos para buckets existentes y no es totalmente POSIX.
9. ¿Cómo se deben interpretar el ancho de banda de EFA y el número de interfaces?
Respuesta y explicación
Distingue el ancho de banda agregado de la instancia de los valores por interfaz; no multipliques una cifra que ya es agregada. Verifica la ubicación en la misma AZ, las interfaces, los drivers/libfabric/NCCL, los security groups y los recursos del Pod. RAID0 no habilita EFA.
10. ¿Cómo se deben interpretar las métricas de memoria de GPU y XID?
Respuesta y explicación
FB_USED/FREE son gauges en MiB; una proporción alta no implica necesariamente OOM. XID_ERRORS es un gauge con el último código, no un contador para increase(). Investiga los errores reales, las cachés, los fallos de asignación y los límites propios del dispositivo.
11. ¿La consolidación de Karpenter usa directamente métricas de utilización de GPU?
Respuesta y explicación
Usa las requests de las cargas de trabajo, la viabilidad de planificación, los precios y las restricciones de disrupción, en lugar de un umbral del20% de DCGM. Los limits/budgets no son garantías absolutas de coste o de ausencia de fallos; verifica la terminación y la recuperación.
12. ¿Quién publica los ResourceSlices y qué representan?
Respuesta y explicación
Los drivers publican el inventario real de dispositivos con atributos y capacidad tipados. Crear un slice arbitrario no crea GPUs. CEL y matchAttribute deben seguir el esquema realmente publicado.
13. ¿Solicitar una GPU para Milvus completa el RAG?
Respuesta y explicación
No. Haz coincidir las imágenes e índices admitidos, las dimensiones/revisiones de embeddings, las métricas y parámetros, el filtrado por tenant y el ciclo de vida de actualización/eliminación. Valida la autorización de los resultados y gestiona la ausencia de evidencia.
14. ¿Cómo se deben investigar los Pods de GPU pendientes y los fallos de nodo?
Respuesta y explicación
Contar los Pods pendientes que solicitan GPU no diagnostica la causa. Revisa los eventos, PVCs, afinidad, taints, cuotas, claims e imágenes, y prueba el checkpoint/reanudación. Varios contenedores solicitantes cuentan una sola vez por Pod.
15. ¿MCP proporciona un gateway estándar de autodescubrimiento para Kubernetes?
Respuesta y explicación
No. Define operaciones como el listado y la invocación de herramientas. Elige una release real de servidor/gateway, el transporte y el diseño de autorización. Inventar imágenes/labels/configuración o una variable de entorno con una URL no implementa el descubrimiento ni la ejecución.