Déja inscrit ? Connectez-vous pour personnaliser votre experience !
Description
Cette table ronde abordera les principaux arbitrages liés aux infrastructures d’intelligence artificielle, à commencer par le choix entre l’internalisation des GPU en on-premise, pour répondre aux enjeux de confidentialité des données et de maîtrise des coûts à long terme et le recours au Cloud, qui offre davantage d’élasticité et de flexibilité. Les échanges porteront également sur les problématiques de stockage et de performance, notamment sur la manière d’alimenter efficacement les modèles de type LLM ou RAG tout en garantissant une latence minimale. Enfin, la discussion s’intéressera aux enjeux du FinOps appliqué à l’IA, afin d’identifier les bonnes pratiques permettant d’éviter l’explosion des coûts lors du passage à l’échelle des projets.
