Panel

Vista general de infraestructura y workloads

GPUs87 activas · 1 inactivas
Capacidad Total768 GB8 × NVIDIA RTX Pro 6000 96GB
Reservada494 GB423.8 GB en uso · 70.2 GB ociosa
Disponible274 GB36% libre para nuevos workloads
Capacidad GPU — 768 GB
Usada 423.8 GB Reservada ociosa 70.2 GB Disponible 274 GB
Reservada: 494 GB (64%)Disponible: 274 GB (36%)
GPU-0NVIDIA RTX Pro 6000 96GBon-prem
82% 72°C 345W
74.2 usada84 reserv.12 disp./ 96 GB
Llama-3.1-70B-GPTQInferencia70B
74.2 GBEjecutando
GPU-1NVIDIA RTX Pro 6000 96GBon-prem
48% 60°C 250W
42.8 usada52 reserv.44 disp./ 96 GB
Qwen2.5-Coder-32B-GPTQCode32B
42.8 GBEjecutando
GPU-2NVIDIA RTX Pro 6000 96GBon-prem
34% 52°C 195W
18.6 usada28 reserv.68 disp./ 96 GB
BGE-M3-LargeEmbedding568M
4.2 GBEjecutando
E5-Mistral-InstructEmbedding7B
14.4 GBEjecutando
GPU-3NVIDIA RTX Pro 6000 96GBon-prem
65% 66°C 290W
56.8 usada72 reserv.24 disp./ 96 GB
Chat-Saptiva-v4Chat13B
28.4 GBEjecutando
Chat-Saptiva-v4Chat (réplica)13B
28.4 GBEjecutando
GPU-4NVIDIA RTX Pro 6000 96GBon-prem
94% 78°C 390W
88.2 usada92 reserv.4 disp./ 96 GB
Fine-tune job #187 — LoRATraining13B
52.6 GBEntrenando
Fine-tune job #192 — QLoRATraining7B
35.6 GBEntrenando
GPU-5NVIDIA RTX Pro 6000 96GBon-prem
88% 75°C 370W
78.4 usada86 reserv.10 disp./ 96 GB
Fine-tune job #195 — Full FTTraining3B
78.4 GBEntrenando
GPU-6NVIDIA RTX Pro 6000 96GBon-prem
72% 70°C 330W
64.8 usada80 reserv.16 disp./ 96 GB
Fine-tune job #198 — LoRATraining13B
52.4 GBEntrenando
Eval job #199 — BenchmarkEvaluación13B
12.4 GBEjecutando
GPU-7NVIDIA RTX Pro 6000 96GBon-prem
3% 38°C 85W
0 usada0 reserv.96 disp./ 96 GB
ServicioEstadoRegiónDisponibilidadLatencia
API Gateway
Activous-east-199.9%12ms
PostgreSQL Primary
Activous-east-199.8%4ms
Redis Cache
Advertenciaeu-west-198.2%1ms
Vector Store (Qdrant)
Activous-west-299.7%8ms
Object Storage (S3)
Activous-east-199.99%22ms
Auth Service
Activous-east-199.9%6ms