Optimisation des coûts cloud

Bien dimensionner les instances, réserver la capacité constante, autoscaler le reste et surveiller les transferts de données, souvent surprenants. Le coût par requête est l'indicateur qui compte.

Où on le retrouve dans les vrais systèmes

  • Passerelle NAT

    Une surprise classique sur la facture cloud : chaque gigaoctet qui sort par la NAT est facturé en plus du prix horaire. Les endpoints privés vers les services cloud évitent une grande partie de ce trafic.

    En production : AWS NAT Gateway, Azure NAT Gateway, Cloud NAT

  • Service d'inférence de modèles

    Chaque requête prend des dizaines à des centaines de millisecondes de GPU : quelques centaines de requêtes par seconde demandent déjà plusieurs GPU coûteux. Regrouper les requêtes, mettre les réponses en cache et choisir le bon accélérateur changent la facture d'un ordre de grandeur.

    En production : NVIDIA Triton, vLLM, Amazon SageMaker endpoints, Google Vertex AI, KServe

  • Endpoint privé

    Le trafic vers le stockage, les files ou les API partenaires reste sur la dorsale du fournisseur au lieu de traverser Internet par une passerelle NAT : plus sûr, et souvent bien moins cher au gigaoctet.

    En production : AWS PrivateLink, Azure Private Link, Google Private Service Connect, VPC gateway endpoints

Regarde-le casser, puis répare-le

Construis une architecture, envoie-lui une journée de trafic et de pannes, et comprends pourquoi elle tient ou cède. Gratuit pour commencer.

Ouvrir le parcours Ouvrir le bac à sable