Ajustement d’embeddings pour la recherche spécialisée (sentence-transformers)
Votre moteur de recherche comprend enfin le jargon de votre métier, en arabe comme en français.
Je mesure d’abord les performances actuelles sur la machine cible, pas sur une station de travail. J’applique ensuite les techniques adaptées : export ONNX, quantification en 8 bits, élagage ou distillation vers un modèle plus petit. Chaque variante est évaluée sur votre jeu de test. Je livre le modèle optimisé avec un script d’inférence prêt à intégrer et un tableau comparatif. Je limite volontairement le nombre de commandes en parallèle pour tenir ce délai. Outils utilisés : TensorRT, ONNX Runtime, Python, PyTorch. Délai indicatif : 13 jours à partir de la réception de tous les éléments.
Votre modèle fonctionne, mais il est trop lent ou trop gourmand pour la machine prévue : serveur sans gros GPU, boîtier embarqué ou poste client.
Une version optimisée du modèle, avec mesure précise du gain de vitesse, de la mémoire économisée et de la perte de précision éventuelle.
Assistance à l’intégration pendant un mois.
Les révisions prévues sont incluses ; au-delà, elles sont chiffrées avant d’être faites.
Votre moteur de recherche comprend enfin le jargon de votre métier, en arabe comme en français.
Un travail exploratoire sur un modèle qui signale les radiographies thoraciques à revoir en priorité.
Une caméra, un éclairage maîtrisé et un modèle qui repère les produits non conformes à cadence réelle.
Quantification, export ONNX, TensorRT : le même modèle, plus léger et plus rapide sur votre matériel.