IA / LLMOps2025
RustSensei
Assistant IA local pour apprendre Rust en français, avec fine-tuning LoRA et RAG sur la documentation officielle.
LLMLoRARAGllama.cppQwenPythonRustFine-tuning
Concept & Approche
RustSensei est un assistant IA pédagogique conçu pour enseigner le langage Rust en français. L'objectif : démocratiser l'apprentissage de Rust avec un outil 100% local et gratuit.
Pourquoi ce projet :
- Rust est réputé difficile à apprendre (ownership, borrowing, lifetimes)
- Peu de ressources pédagogiques en français
- Les LLM généralistes manquent de précision sur les concepts Rust avancés
- Besoin d'un outil fonctionnant hors-ligne pour la confidentialité
Approche Local-First :
- Aucune dépendance à une API externe
- Fonctionne entièrement hors-ligne une fois installé
- Optimisé pour Apple Silicon (Metal/MPS)
- Données utilisateur jamais transmises
Version actuelle : v1.0 en CLI
Une interface web React + TypeScript + Tailwind est en cours de développement pour la v2.
v1.0 CLI
Version
Français
Langue
100% Local
Mode
Débutants
Cible

CLI v1 : analyse d'erreur de compilation avec sources RAG (Rust Book)
Architecture Technique
Stack technique optimisée pour l'inférence locale rapide avec fine-tuning personnalisé.
Modèle de base :
- Qwen2.5-Coder-1.5B-Instruct comme fondation
- Modèle compact (1.5B paramètres) pour une inférence rapide
- Spécialisé dans la génération de code
Fine-tuning LoRA :
- Rank 8 pour un bon compromis qualité/taille
- Dataset de 49 exemples Rust en français
- Focus sur les concepts fondamentaux (structs, enums, ownership, borrowing)
- Adapter léger (~10MB) au lieu de retrainer tout le modèle
Inférence :
- llama.cpp pour l'exécution optimisée
- Support Metal/MPS pour GPU Apple Silicon
- Format GGUF pour les modèles quantifiés
- Latence réduite grâce à l'accélération GPU
RAG (Retrieval-Augmented Generation) :
- Indexation de la documentation Rust officielle
- Enrichissement des réponses avec des sources fiables
- Amélioration de +10% sur les benchmarks
Qwen2.5-1.5B
Base
LoRA r8
Fine-tuning
llama.cpp
Inference
+10%
RAG boost

Pipeline : question → prompt system → RAG optionnel → llama.cpp → réponse structurée
Evaluation & Métriques
Protocole d'évaluation rigoureux sur 20 prompts de test couvrant les concepts clés de Rust.
Métriques globales :
- Score global : 3.07/5
- Précision française : 95%
- Blocs de code valides : 70%
- Taux de compilation : 87%
Performance par catégorie :
- Enums : 4.24/5 (meilleur)
- Structs : 4.02/5
- Borrowing : 3.39/5
- Basics : 3.02/5
- Ownership : 2.54/5
- Lifetimes : 1.25/5 (à améliorer)
Impact du RAG :
- Sans RAG : 3.05/5
- Avec RAG : 3.35/5
- Gain : +10% de performance
Limitations identifiées :
- Concepts avancés (lifetimes, unsafe, async) moins maîtrisés
- Dataset d'entraînement orienté débutant/intermédiaire
- Macros et patterns complexes hors scope actuel
3.07/5
Score
87%
Compilation
95%
Français
Enums 4.24
Meilleur

1 / 2
RAG en action : explication de l'ownership avec sources du Rust Book
Roadmap v2.0
La version 2.0 est en cours de développement avec une refonte majeure de l'expérience utilisateur.
Interface Web (en cours) :
- Frontend : React + TypeScript + Tailwind CSS
- Backend : FastAPI pour l'API REST
- UI moderne avec thème sombre
- Historique des conversations persistant
Améliorations prévues :
- Dataset étendu avec plus d'exemples avancés
- Reranking pour améliorer la pertinence du RAG
- Support Docker pour un déploiement simplifié
- Évaluation humaine pour affiner les métriques
Objectifs qualité v2 :
- Score global > 3.5/5
- Amélioration des lifetimes (objectif > 2.5/5)
- Couverture des concepts async/await
- Documentation utilisateur complète
React + TS
Frontend
FastAPI
Backend
> 3.5/5
Objectif
Docker
Deploy