Toute la puissance des LLM, sans qu'une seule donnée ne sorte de la machine.
Les assistants IA du marché imposent un compromis : envoyer ses documents et ses conversations chez un fournisseur. UnchainAI supprime ce compromis. Modèles, index vectoriel, transcription audio : tout tourne en local, sur un poste de travail ou un serveur de l'entreprise.
Ce que fait UnchainAI
- Conversation avec des modèles locaux (Llama 3 8B, DeepSeek R1, Mistral) orchestrés par Ollama, avec accélération GPU et streaming des réponses.
- RAG sur vos documents : PDF et DOCX découpés, vectorisés et indexés dans Qdrant, recherche sémantique en moins de 100 ms sur des milliers de documents.
- 12 personas expertes avec leur propre prompt système et leur modèle : cloud (AWS, Azure, GCP), cybersécurité, DevOps, et un module de génération de sites web avec aperçu en direct.
- Transcription audio multilingue avec Whisper, exécutée localement.
Architecture
- Frontend : Next.js 15, TypeScript, Tailwind CSS 4, état global avec Zustand.
- Backend : API FastAPI asynchrone, authentification JWT, traitement des documents lourds, streaming.
- Données : Qdrant pour les vecteurs, persistance automatique des conversations, cache des modèles.
- Déploiement : Docker Compose et scripts d'automatisation (Bash, Python, Batch) : l'infrastructure complète est opérationnelle en moins de cinq minutes, en local ou sur une instance cloud.
Pourquoi le local change tout
- Zéro frais d'API : aucun coût variable à l'usage.
- Confidentialité par construction : compatible avec les exigences RGPD, HIPAA ou SOC 2, puisque rien ne quitte l'infrastructure.
- Prêt pour la production : monitoring CPU et GPU, logs structurés, gestion du cache.
Open source
Le projet est publié sous licence Apache 2.0 et construit seul de bout en bout : back-end, front-end, indexation, déploiement.