La plupart des agents d'IA (LLM) que l'on installe (eg. Claude Code, ChatGPT Codex, OpenCode, etc.) sont des harnais d'orchestration qui sont taillés pour des modèles gigantesques qui arrivent a inférer pas mal d'implicite dans les requêtes données.

Par contre, ça marche plutôt mal lorsque le LLM en question est beaucoup plus petit, typiquement un modèle open-weights que l'on peut faire tourner localement, à la Gemma.

Pi.dev semble être taillé juste pour ce genre de cas : un harnais d'orchestration de LLM, spécialement pour des petits LLMs (vive l'oxymore). Il semble être orienté pour la flexibilité et la personnalisation. C'est pour ça qu'il existe aussi Little-Coder qui se branche dessus pour apporter de nouvelles fonctions et compétentes (skills).

Je n'ai pas testé, mais c'est probablement une piste intéressante pour avoir une installation locale, indépendante, et peut être même pas trop coconne. Dans mon cas, ma machine galère pour faire tourner plus que gemma-4-E2B-it-Q4_K_M.gguf, donc il ne faut pas s'attendre à des miracles.