Présentation de FreeLLMAPI : L’agrégateur de quotas IA gratuits
Chaque laboratoire d’intelligence artificielle met à disposition un niveau gratuit. Quelques millions de jetons mensuels par fournisseur représentent une capacité modeste prise isolément. Réunis au sein d’une infrastructure unifiée, ces services cumulent environ 7,4 milliards de jetons par mois. Cela couvre 474 familles de modèles et 635 points de terminaison distincts.
Gérer manuellement 34 SDK différents, surveiller les plafonds de requêtes et orchestrer les basculements en cas de panne devient un calvaire d’ingénierie logicielle. Le projet FreeLLMAPI résout ce problème précis. Il condense ces offres derrière un proxy unique compatible avec les spécifications d’OpenAI.
Point de contrôle télémétrique : 34 fournisseurs agrégés. Chiffrement local au repos actif. Débit brut estimé : ~7,4B tokens/mois.
L’outil s’adresse à l’expérimentation personnelle. Vos bibliothèques clientes pointent vers une adresse locale unique, tandis que le routeur gère les clés chiffrées, équilibre la charge et absorbe les erreurs HTTP 429.
Architecture technique et fonctionnement interne
Le moteur écoute sur le port 3001. Dès qu’un client envoie une requête, l’ordonnanceur sélectionne le meilleur modèle disponible selon votre stratégie de priorité.
Les clés API reposent dans une base SQLite locale, protégées par un chiffrement AES-256-GCM. Le déchiffrement s’opère en mémoire vive à la volée. Les applications consommatrices n’ont accès qu’à un jeton porteur unique au format freellmapi-....
Le suivi de consommation maintient des compteurs stricts :
- Requêtes par minute (RPM) et par jour (RPD)
- Jetons par minute (TPM) et par jour (TPD)
- Détection dynamique des plafonds imposés par les hébergeurs
Lorsqu’un fournisseur renvoie un code d’erreur 429 ou 5xx, FreeLLMAPI applique un temps de refroidissement sur la clé concernée. La requête bascule vers le modèle suivant dans la chaîne sans rupture pour l’utilisateur.
Le catalogue des modèles se synchronise deux fois par jour depuis un flux signé avec une clé Ed25519 sur freellmapi.co. Cette actualisation applique les modifications de quotas et les corrections de formats sans exiger de mise à jour manuelle du code source.
Fournisseurs pris en charge et modèles personnalisés
L’écosystème intègre les acteurs majeurs du marché et autorise l’ajout de passerelles personnalisées.
| Catégorie | Fournisseurs intégrés |
|---|---|
| Fournisseurs Cloud majeurs | Google, Groq, Cerebras, Mistral, OpenRouter, Cloudflare, Cohere |
| Plateformes spécialisées | Z.ai (Zhipu), NVIDIA, HuggingFace, ModelScope (Qwen3, DeepSeek V4, GLM-5 avec liaison Aliyun cn), OpenCode Zen |
| Passerelles locales et sur mesure | Ollama, llama.cpp, LM Studio, vLLM, serveurs passerelles distants |
La liste intégrale des capacités se consulte directement sur freellmapi.co/models.
Déploiement et démarrage rapide
Le déploiement s’effectue via Docker, application de bureau ou environnement Node.js (version 20 minimum). La consommation mémoire au repos reste contenue autour de 40 Mo RSS.
curl -fsSL https://freellmapi.co/install.sh | bashCe script prépare le dossier ~/freellmapi, génère une clé de chiffrement, récupère l’image conteneurisée et lance l’instance. Les exécutions successives préservent le fichier .env existant tout en actualisant le conteneur.
Une application de bureau existe pour macOS (.dmg) et Windows (.exe) avec menu dans la barre d’état. L’interface d’administration prend en charge 60 langues avec détection du système et inversion automatique pour les écritures de droite à gauche.
Après le démarrage, l’interface devient accessible à l’adresse http://localhost:3001. L’utilisateur enregistre ses clés sur l’onglet dédié, organise sa chaîne de secours et copie la clé unifiée affichée dans l’en-tête.
Intégration avec les agents de code et CLI
FreeLLMAPI fournit des générateurs d’initialisation pour synchroniser les outils de développement sans écraser les fichiers existants.
npx freellmapi setup-claude --url http://localhost:3001 --api-key freellmapi-votre-cleChaque commande de configuration réalise une sauvegarde horodatée avant toute modification.
| Agent / Outil | Commande d’installation automatique | Point d’entrée d’écoute |
|---|---|---|
| Claude Code | setup-claude ou freellmapi launch | Racine (/) |
| Codex CLI | setup-codex ou freellmapi launch-codex | /v1 |
| Cline / Roo / Kilo / Crush | setup-cline, setup-roo, setup-kilo, setup-crush | /v1 |
| Aider / Continue | setup-aider, setup-continue | /v1 |
| OpenCode / Goose / Qwen Code | setup-opencode, setup-goose, setup-qwen | /v1 (ou /v1beta) |
| DeepSeek Harness / MiMo Code | setup-dsh, setup-mimo | /v1 |
| Zed / JetBrains AI / Cursor | Émulation Ollama intégrée ou guide setup-cursor | /v1 ou URL publique |
Les commandes launch et launch-codex injectent les identifiants dans les variables du processus enfant sans écrire de données sensibles sur le disque.
Surfaces d’API et exemple de code
Le proxy expose les interfaces indispensables aux flux de production :
- Surfaces OpenAI :
/v1/chat/completions,/v1/completions,/v1/responses,/v1/images/generations,/v1/videos/generations(format MP4 normalisé),/v1/audio/speech,/v1/audio/transcriptions,/v1/embeddings,/v1/models. - Messages Anthropic :
/v1/messagespour faire fonctionner le SDK Claude sur votre réserve gratuite. - Interface Gemini :
/v1betaavec comptage de jetons, streaming et ancrage Google Search. - Protocole MCP : Point d’accès
/mcppour inspecter l’état du parc et documentation OpenAPI sur/v1/docs.
Voici l’implémentation standard en Python à l’aide du client officiel OpenAI :
from openai import OpenAIclient = OpenAI(
base_url="http://localhost:3001/v1",
api_key="freellmapi-votre-cle-unifiee",
) reponse = client.chat.completions.create(
model="auto",
messages=[
{"role": "user", "content": "Résume la chute de l'Empire romain en une phrase."}
],
)print(reponse.choices[0].message.content)
print("Fournisseur utilisé :", reponse.headers.get("x-routed-via"))
L’en-tête X-Routed-Via détaille la plateforme et le modèle ayant résolu l’appel. La variable model accepte des directives comme auto:fast, auto:smart ou un nom de profil défini.
Fonctionnalités avancées du routeur
Au-delà de la redirection simple, l’outil embarque des mécanismes de traitement élaborés.
Fusion multi-modèles : En ciblant le modèle virtuel fusion, le routeur soumet l’invite en parallèle à plusieurs LLM distincts. Un modèle juge analyse les ébauches et rédige la synthèse finale.
Appels d’outils et sorties structurées : Le système intercepte les retours au format texte brut pour les réencoder en véritables structures tool_calls. Les paramètres seed, response_format, logprobs et pénalités sont transmis directement aux couches sous-jacentes.
Sessions persistantes et compression d’invites : Les échanges restent ancrés sur un même modèle pendant 30 minutes. Lors d’une bascule forcée, un résumé compact maintient le contexte. Un pipeline d’optimisation optionnel déduplique les invites, filtre les sorties d’outils et compresse les structures JSON volumineuses.
Édition Gratuite versus Catalogue Live Premium
Le routeur conserve sa licence MIT intégrale. Deux modes d’actualisation du catalogue coexistent pour financer les bancs de tests quotidiens.
| Caractéristique | Version Gratuite | Accès Premium (freellmapi.co) |
|---|---|---|
| Tarification | Gratuit (Open Source MIT) | 19 $ / an ou 49 $ à vie (via Stripe) |
| Mise à jour du catalogue | Instantané mensuel (décalage de 30 jours) | Temps réel (le jour même de la sortie) |
| Couverture des instances | Illimitée | Une clé unique fla_ pour tous vos serveurs |
| Gestion de compte | Sans objet | Portail client sur freellmapi.co/manage |
Les serveurs du catalogue central ne reçoivent jamais vos clés d’API, vos invites ou vos réponses. L’exécution reste confinée à votre machine.
Administration, journaux et désinstallation
L’application de bureau utilise un compte local automatique. Sur serveur, la création d’un compte avec mot de passe est requise. En cas d’oubli sur serveur, le code de réinitialisation à usage unique (valable 15 minutes) s’inscrit dans les journaux d’exécution.
Emplacements des fichiers journaux :
- Conteneur Docker :
docker compose logs -f freellmapi - Application de bureau :
logs/freeapi.logaccessible via le menu dédié
Pour supprimer l’outil, désinstallez l’application ou coupez le conteneur (docker compose down -v), puis supprimez manuellement le répertoire de configuration selon votre système d’exploitation :
- Windows :
%APPDATA%\FreeLLMAPI\ - macOS :
~/Library/Application Support/FreeLLMAPI/ - Linux :
~/.config/FreeLLMAPI/
Limites et compromis techniques
Exploiter des quotas gratuits implique des contreparties incontournables. Ce système ne donne pas d’accès garanti aux modèles frontières propriétaires les plus coûteux. Les temps de latence varient selon l’état des réseaux tiers sans aucun engagement de niveau de service (SLA).
La puissance globale disponible subit une baisse relative en fin de journée lorsque les modèles les plus performants atteignent leurs quotas quotidiens. La capacité se réinitialise chaque jour à minuit UTC.