BLOG
Notes d’ingénierie.
Des notes techniques qui sortent des systèmes que nous construisons : modèles locaux et couche de serving, architecture RAG et contrôle d'accès, serveurs MCP, intégration en entreprise. Des notes de terrain, pas des textes marketing.
Ce que nous publions
Nous ne tenons pas ce blog pour remplir un calendrier de contenu. Nous écrivons sur les questions rencontrées en construisant un système et pour lesquelles nous n'avons pas trouvé de réponse en ligne.
Chaque article publié sort d'une installation réelle, et là où il y a des chiffres nous racontons comment ils ont été mesurés. Aucun nom de client ni détail de cas reconnaissable, dans aucun article.
ARCHITECTURE
La couche de serving des LLM locaux : vLLM, SGLang, llama.cpp et Ollama
Une fois le modèle choisi, la première décision d'architecture est de savoir quelle couche de serving va l'exécuter. Cette note sépare quatre couches non par des listes de fonctionnalités mais par leur approche architecturale de l'ordonnancement, de la mémoire, de la réutilisation et de l'empaquetage. ARCHITECTURELa NES dans le navigateur : pas 60 images, 60,0988
Le matériel NES produit 60,0988 images par seconde ; un navigateur dessine au rythme de l'écran. Les décisions prises entre ces deux horloges en construisant Kaset : garder le cœur interchangeable, sortir le rendu du thread principal, et traiter le signal composite comme le support pour lequel les jeux ont été conçus. GUIDECe qu'est un serveur MCP, et ce qu'il n'est pas
MCP standardise la couche protocolaire entre un modèle de langage et les systèmes qu'il doit atteindre. Cette note parcourt l'architecture, les primitives du serveur et l'endroit où l'autorisation se joue réellement — plus quatre choses que MCP n'est pas. ARCHITECTUREContrôle d'accès dans le RAG : qui voit quoi
Quand les documents d'une entreprise sont confiés à un système RAG, le modèle d'autorisations existant ne fait en général pas le voyage. Une note d'implémentation sur la couche qui applique l'accès, sur la façon dont l'identité atteint la requête, et sur le moment où un changement de droits atteint réellement l'index.N’attendez pas l’article. Posez-nous directement la question.
No deck needed. 20 minutes. The rest is up to you.