Evals : paralléliser ingest/chatbot avec les suites pipeline

[renaudcepre]

Contexte

Les suites d'eval tournent séquentiellement. Sur Together AI (haute latence réseau), c'est sous-optimal.

Ce qui peut être parallélisé

• ingest — appelle le LLM directement, aucune dépendance Neo4j pipeline
• chatbot — utilise la DB de dev, pas la DB eval

Ces deux suites peuvent tourner en parallèle avec les suites pipeline-* sans conflit.

Ce qui doit rester séquentiel (pour l'instant)

Les 4 suites pipeline-* partagent la même DB Neo4j → séquentielles obligatoires.

Solution long terme

Donner une database Neo4j distincte par suite pipeline (pipeline_helios, pipeline_convoi, etc.). Neo4j supporte plusieurs databases en Community. Permettrait de paralléliser toutes les suites.

Gain estimé

Paralléliser ingest + chatbot avec les pipelines : ~30-40% de réduction du temps total sur Together AI.