Description détaillée

J’évalue d’abord votre matériel ou je vous aide à dimensionner un serveur GPU selon le nombre d’utilisateurs et la taille de modèle visée. Je sélectionne deux ou trois modèles candidats, je les teste sur vos tâches en français et en arabe, puis j’installe le modèle retenu avec vLLM, quantifié si nécessaire. Je configure la passerelle d’accès, les journaux et la supervision de la mémoire GPU, puis je forme votre équipe système à l’exploitation. Basée à Skikda, je reste joignable pendant toute la durée de la mission. Outils utilisés : Nginx, Docker, Prometheus, NVIDIA CUDA. Comptez environ 30 jours une fois le brief validé.

Problème résolu

Vos règles de confidentialité interdisent d’envoyer des documents à un service externe, mais vos équipes ont besoin d’un modèle de langage pour résumer, rédiger et extraire.

Résultat promis

Un modèle ouvert installé sur votre infrastructure, exposé par une API compatible avec les bibliothèques courantes, avec authentification, quotas et supervision.

Fonctionnalités

• note de dimensionnement matériel
• comparatif des modèles sur vos tâches
• serveur vLLM installé et sécurisé
• API compatible avec clés par équipe
• supervision et procédure de mise à jour

En bref

Domaine d'activité

Secteur public

Plateformes et compatibilités

• Linux
• API

Technologies

• Nginx
• Prometheus
• Ollama
• Grafana
• Docker
• vLLM
• NVIDIA CUDA

Langues de l'interface

Français · Arabe

Wilaya

Skikda

Confiance

• Fiche relue et validée par l'équipe myElite

Conditions