Articles tagués #vllm

Déployer vLLM sur OVHcloud MKS pour l’inférence vision-langage

Déploiement d’un modèle vision-langage avec vLLM sur OVHcloud MKS pour une inférence scalable et une observabilité complète.