Présentation de RAGaRenn

Un chatbot au service des agents de l’Université

Damien Belvèze

Université de Rennes

2025-04-24

1. présentation de l’interface

accès géré par l’Université sur demande
un mot de passe différent sur chaque équipe
l’équipe SCD : une équipe créée pour le service
bases de connaissances propres à l’équipe

Tâche 1 : demandez à RAGaRenn de vous faire un quiz sur un sujet que vous maîtrisez un peu mais pas tant que ça. Exemples destinés à vous permettre de trouver des sources d’inspiration :

des questions sur le système solaire 🌌
des exercices pour attribuer der, die ou das devant un nom en allemand 🇩🇪
des exercices sur le catalogage UNIMARC 📑
des questions sur les capitales de différents Etats 🌐
lui proposer de vous soumettre un pendu (jeu du pendu) 😶

Evaluez la pertinence des questions que vous recevez et de la correction de vos réponses.

OpenWebUI pour l’interface
Ollama, un traducteur entre les LLM et l’interface utilisateur
modèles accessibles en guise de LLM
serveurs et GPU d’Eskemm Data
Données d’entraînement liées aux modèles (ex. pour Salamandra)

entrer une invite (prompt)

Le signe ➕

autoriser la recherche sur le web
ajouter un texte comme source
ajouter une capture d’écran

Le signe #️⃣

Lier à un fichier pré-enregistré
Lier à une base de connaissance

Essayez de savoir si RAGaRenn répond de manière pertinente quand on lui demande : Quand est mort < une personne célèbre morte dans les derniers mois > ?

la transcription 🎤
l’interrogation orale 🎧

Les modèles et leurs spécificités

Spécificités des modèles 1/3

Modèles accessibles et chargeables sur demande motivée
Modèles ouverts ?
Possibilité de faire tourner deux modèles en même temps

Spécificités des modèles 2/3

3B = 3 milliards de paramètres (peut tourner sur un ordi de classe moyenne) : réponse rapide, dépense énergétique moindre
70B = 7 milliards (nécessite de la GPU) : réponse plus lente, très énergivore (pas forcément plus efficace)

Spécificités des modèles 3/3

Qwen 2.5, Deepseek-coder, codestral : codes affinés pour faire du code
Les codes sont présentés plus ou moins précisément sur le site huggingface
Pour des raisons de sobriété, l’Université a fait le choix de ne pas faire de text2image

Les modèles et leurs spécificités

nommage automatique des conversations (+icones)
pas de possibilité de partage effectif (export en txt, json, pdf)
organisation des conversations (dossiers, épinglage, etc.)

Les modèles et leurs spécificités

système de prompt : Réponds avec un ton dramatique

Quelle température a le chat ?

“Pourquoi on l’appelle “température”? C’est une métaphore prise de la physique : plus élevée est la température, plus le système est désorganisé. L’originalité serait donc, en quelque sorte, un résultat de l’augmentation de l’entropie d’un système…”

📓 Vitali-Rosati (2025)

Ecris un sonnet en vers français sur une mouette, un sac plastique et qui reprend un vers d’Alain Souchon

0,8

1,00

RAGaRenn hors d’OpenwebUI

Bon à savoir

Note

6h-20h : service complet
20h-22h : service dégradé (1 seul modèle dispo)
22h-6h : sommeil (accès aux conversations passées)

Note

Accès à RAGaRenn en deux temps (infrastructure + équipe)

2. RAGaRenn en tant que RAG

Question posée sur un texte

charger le texte

Puis poser la question :

Selon ce document, est-ce que l’intelligence artificielle générative comporte des risques pour la démocratie ?

Tester la base de connaissance du service public

télécharger le contenu ici

Phi3 29 janvier 2025

Pourquoi RAGaRenn

intérêt du RAG pour une meilleure fiabilité des résultats
acculturer les personnels de l’Université
Avoir une base et un outil commun pour réfléchir aux usages à promouvoir et ceux à déconseiller
offrir un cadre sûr aux expérimentateurs (communautés bienveillante, conservation des données soumise au minimum technique et juridique, tiers de confiance pour l’hébergement)
contrôle du coût et de l’empreinte énérgétique

Coûts des inférences

📓 Wong-Hee-Kam (2024)

Références

Vitali-Rosati, M. (2025). La créativité des LLM. In Culture Numérique. Pour Une Philosophie Du Numérique. http://blog.sens-public.org/marcellovitalirosati/creativitellm.html

Wong-Hee-Kam, O. (2024). Conclution de la journée consacrée par l’Université de Rennes aux IA par Olivier Wong-Kee-Ham. Université de Rennes.