freellmpool: lokalna brama MCP, która agreguje darmowe punkty końcowe LLM
freellmpool, opracowany przez 0xzr, jest otwartym serwerem Model Context Protocol (MCP) i bramą API, która agreguje darmowe poziomy dziesiątek dużych modeli językowych w jednym lokalnym punkcie końcowym. Narzędzie łączy wielu hostowanych dostawców, udostępnia interfejs zgodny z OpenAI i oferuje routowanie, śledzenie użycia oraz bezkluczowe szybkie ścieżki do natychmiastowego testowania. Skierowane do programistów i użytkowników kodujących AI, zmniejsza wysiłek związany z obsługą wielu SDK dostawców i kluczy podczas rozwoju agenta.
Agreguje wiele hostowanych modeli i udostępnia narzędzia natywne MCP dla agentów
freellmpool działa jako serwer MCP, który kataloguje ponad 24 dostawców i ponad 400 modeli czatu, jednocześnie udostępniając specjalistyczne narzędzia takie jak 'ask', 'battle' i 'recipe' dla klientów AI. Narzędzie zawiera shimy dla komunikacji w stylu Codex i Anthropic oraz wymienia zgodność z klientami zgodnymi z MCP, na przykład Claude Desktop i Cursor.
- Katalog dostawców: 24+ dostawców
- Katalog modeli: 400+ modeli czatu
- Docelowe agenty: agenty kodujące, takie jak Claude Code, Cursor
Logika routingu i cooldownu zachowuje przepływ żądań, ale zależy od dostępności zewnętrznej
Automatyczne przełączanie awaryjne i routing przekierowują żądania, gdy dostawca zwraca błędy limitu szybkości lub jest offline, a narzędzie stosuje inteligentny cooldown, który wyłącza dostawców, którzy osiągają limity, aby uniknąć powtarzających się błędów 429. Śledzenie użycia monitoruje dzienne zużycie, aby obciążenie było rozłożone; ciągłość poprawia się w porównaniu do konfiguracji z pojedynczym dostawcą, podczas gdy rzeczywisty czas pracy i przepustowość pozostają związane z połączonymi usługami w darmowej wersji.
Praktyczny wybór do eksperymentowania, mniej odpowiedni do gwarantowanej produkcji
freellmpool to praktyczna opcja dla programistów i użytkowników AI-coding, którzy potrzebują szybkiego dostępu do wielu hostowanych modeli przez jeden lokalny punkt końcowy; zachowanie modeli i dostępność odzwierciedlają dostawców upstream, więc oczekuj zmienności związanej z tymi darmowymi poziomami. Traktuj wyniki jako odpowiedzi modeli upstream i uzupełniaj kluczami dostawcy, jeśli wymagane są utrzymane moce przerobowe lub surowsze gwarancje czasu pracy.
