CONCEVOIR UN CHATBOT ÉCOLOGIQUE, GRATUIT, CONFIDENTIEL, LÉGAL ET, SURTOUT, EUROPÉEN - MucMA

L'exposé rappellera d’abord les bases du fonctionnement des grands modèles de langage (LLM) pour, ensuite, se concentrer sur leur usage le plus fréquent : la conception d’agents conversationnels. Nous découvrirons la manière dont cette conception se base sur la technologie RAG (Retrieval Augmented Generation) que nous dévoilerons dans ses moindres détails, en y explicitant et intégrant la programmation nécessaire, l'exploitation du LLM Mistral, la technologie FAISS, et ce pour différents cas d'usage que j'ai réalisés ces dernières années tant pour les entreprises, les labos de recherche, que les administrations publiques. Les contraintes environnementales, financières, législatives (AI-ACT) et de confidentialité seront abordées et discutées.