Par : Sidhant Guliani, Praveen Sundaresan Ramesh, Ayush Sharma, Kulaphong (Yok) Jitareerat.
Résumé
- Découvrez comment nous avons aidé notre client à moderniser l’accès aux connaissances et aux données opérationnelles des navires grâce à un assistant IA multi-agents. Déployé de manière itérative, de la preuve de concept en deux semaines à la production, il s’accompagne d’une feuille de route claire pour les prochaines étapes.
- Découvrez comment Cavallo Technologies a exploité Databricks pour déployer un cadre d’agents modulaire. Ce cadre combine des assistants de connaissances basés sur RAG et des espaces Genie pour la conversion de texte en SQL, avec un accès aux données contrôlé par utilisateur et directement intégré à Microsoft Teams.
- Explorez l’architecture technique : un agent superviseur coordonnant des sous-agents spécialisés, un pipeline d’évaluation automatisé, un déploiement CI/CD sur les environnements de développement, de test et de production, et un processus de surveillance complet couvrant l’utilisation, les coûts et les commentaires des utilisateurs.
Les connaissances et les données fragmentées ralentissent les opérations des navires
Pour l’un des principaux armateurs et exploitants indépendants de porte-conteneurs au monde, les équipes opérationnelles avaient besoin de réponses rapides et fiables concernant les données démographiques des navires, leurs performances opérationnelles et la documentation technique. Les données opérationnelles structurées étaient centralisées dans Databricks, mais restaient inaccessibles au personnel non technique, qui dépendait de l’équipe BI et des analystes pour la quasi-totalité de ses requêtes courantes. Entre-temps, les manuels des navires, les procédures opérationnelles standard et les nouvelles du marché étaient éparpillés dans des fichiers PDF non structurés et des e-mails.
Le client cherchait une solution unifiée permettant à un membre autorisé de l’équipe de poser une question et d’obtenir immédiatement une réponse précise et sourcée, via un outil qu’il utilisait déjà : Microsoft Teams.
Création d’un cadre d’IA agentielle modulaire sur Databricks
Nous avons collaboré avec le client pour concevoir et déployer un assistant IA multi-agents, entièrement basé sur la plateforme Databricks Data Intelligence. Plutôt que de développer un chatbot monofonctionnel, nous avons opté pour une architecture modulaire avec un agent superviseur qui achemine chaque question vers le sous-agent spécialisé approprié. Cette architecture nous permet d’ajouter de nouvelles fonctionnalités selon les besoins. Aujourd’hui, l’agent englobe plusieurs assistants spécialisés, tous coordonnés par un superviseur unique.
- Plusieurs assistants de connaissances basés sur RAG, couvrant des documents allant des documents internes non structurés aux rapports structurés, grâce à l’ingestion d’ai_parse_document et à la recherche vectorielle Databricks.
- Plusieurs espaces Genie sur des données de flotte structurées pour des requêtes Text-to-SQL en langage naturel, couvrant les informations sur les navires, les données opérationnelles et IdO, les données d’équipage, les informations de navigation, etc.
- Un assistant de visualisation qui transforme les données extraites lors d’une conversation en graphiques ou tableaux de données interactifs de qualité professionnelle.
- Un agent superviseur, basé sur Claude Sonnet 4.6 et orchestré avec LangChain ReAct, coordonne les sous-agents et retourne une réponse unique et cohérente.
- Accès contrôlé par utilisateur via l’authentification Microsoft Entra ID On-Behalf-Of (OBO), garantissant que chaque réponse est limitée aux informations que l’utilisateur connecté est autorisé à consulter.
- Une boucle de rétroaction dans Lakebase permet de recueillir le ressenti de l’utilisateur sur chaque réponse, notamment son utilité. Ainsi, on peut identifier les réponses les plus pertinentes et les points à améliorer pour l’agent.
- Une visibilité complète et un contrôle des coûts sont assurés pour chaque appel. Une passerelle Unity AI assure le suivi de chaque appel du modèle. Les données d’inférence et de facturation sont stockées dans des tables sécurisées qui alimentent un tableau de bord IA/BI, offrant ainsi au client une visibilité claire sur les coûts et les performances, même en cas d’augmentation de l’utilisation.
L’agent est disponible directement dans Microsoft Teams, où l’équipe collabore déjà.
Qu’est-ce qui a rendu cette mise en œuvre si particulière ?
- Conception modulaire. L’architecture superviseur-sous-agents permet d’ajouter de nouveaux espaces Genie et domaines de connaissances sans reconstruire l’assistant. Chaque module évolue indépendamment et le cadre prépare le terrain pour une expansion continue à l’échelle de l’entreprise.
- Une qualité mesurable. Nous avons constitué un ensemble de données d’évaluation de référence, composé de plus de 200 questions d’affaires et de leurs réponses attendues, afin d’assurer la qualité de l’agent dès le premier jour. Pendant le développement, un expert juridique évalue les réponses de l’agent et les appels d’outils ; les résultats sont consignés dans une table Delta et MLflow. Le pipeline est réexécuté après chaque nouvelle itération de l’agent, qu’il s’agisse d’une modification du modèle, de l’ajout d’un sous-agent ou d’une amélioration de l’invite. Ainsi, chaque modification est mesurable et non anecdotique, ce qui nous permet de vérifier le routage et la précision des réponses avant la mise en production.
- Accès contrôlé par défaut. Il est recommandé de s’assurer que l’accès aux données respecte les droits d’accès existants. Grâce à l’authentification OBO (On-Behalf-Of), l’agent interroge Databricks en tant qu’utilisateur connecté, ce qui permet d’adapter automatiquement les réponses aux autorisations de cet utilisateur. Avec Entra fédéré à Databricks, les mêmes groupes de sécurité contrôlent l’accès de manière cohérente à la fois à Databricks et à l’application Teams.
- Conçu pour la production dès le premier jour. Nous déployons l’agent via un processus CI/CD éprouvé utilisant GitHub Actions et DAB, avec des environnements de développement, de test et de production isolés. Nous fournissons également la documentation relative à l’agent et à l’infrastructure avec le code, afin que les équipes du client puissent exploiter et étendre la plateforme en toute confiance.
- Déploiement itératif et rapide. L’ensemble de la pile technologique reposant sur une seule plateforme, le développement a pu être réalisé rapidement. Données, RAG, espaces Genie, évaluation et gouvernance : tout repose sur une plateforme unique, Databricks. Cela facilite le développement d’une preuve de concept dès la première semaine, d’une version 1 avec CI/CD, intégration Teams et Entra OBO dès la quatrième semaine, et l’ajout d’espaces Genie supplémentaires, de rétroactions basées sur Lakebase et de tableaux de bord IA/BI dès la huitième semaine.
Architecture en bref
L’architecture rassemble tous les composants nécessaires à l’agent (ingestion et analyse de documents, recherche vectorielle, orchestration des agents, diffusion de modèles, évaluation et surveillance des coûts) sur une seule plateforme gérée, avec Microsoft Teams comme interface utilisateur et Microsoft Entra ID contrôlant l’accès.
Pourquoi Databricks a fait toute la différence
Lors de la définition du périmètre de l’agent, nous avons été confrontés à une tension classique entre l’IA d’entreprise et la sécurité : avancer vite sans jamais transiger sur la gouvernance des données. L’intégration d’outils distincts pour l’ingestion, RAG, Genie Spaces, la diffusion et l’évaluation aurait nécessité des semaines de travail et une complexité accrue en matière de sécurité et de gouvernance.
Databricks a simplifié cette complexité. La même plateforme héberge les données opérationnelles de la couche Gold, l’analyse syntaxique des documents et la recherche vectorielle pour RAG, Genie Spaces pour la conversion de texte en SQL, les points de terminaison de diffusion des modèles, la passerelle IA, le système de gestion des retours d’information Lakebase et le cadre d’évaluation. Unity Catalog gère les autorisations de l’ensemble de ces éléments à partir d’une seule interface ; nous n’avons donc pas besoin de configurer les contrôles d’accès séparément dans chaque outil.
Le fait de disposer de tous les composants clés (données, IA, gouvernance et orchestration) dans un seul environnement nous a permis de déployer rapidement un agent de qualité production et de continuer à le développer depuis, tout en conservant un système sécurisé et facile à maintenir.
Résultats obtenus jusqu’à présent
Les publications de l’agent ont produit des résultats mesurables :
- Accès libre-service pour plus de 200 employés.
- La plupart des requêtes de données courantes sont maintenant gérées par des tiers et non plus par l’équipe BI, ce qui permet aux spécialistes de se concentrer sur leurs missions principales et d’économiser des milliers d’heures par an.
- Le délai de réponse aux requêtes quotidiennes est passé de plusieurs jours à quelques secondes.
Cavallo Technologies
Chez Cavallo, une entreprise spécialisée dans Databricks, nous accompagnons les équipes d’entreprise dans la conception et la mise en œuvre de systèmes d’IA de production sur Databricks. Si votre équipe travaille sur ce projet, nous serons ravis d’analyser l’architecture avec vous.
Prêt à intégrer l’IA agentique à vos opérations ? Découvrez comment la plateforme unifiée de Databricks peut vous aider à passer du concept à la production et à assurer une croissance continue, sans compromettre la gouvernance.