Alternativen zu LLM Harbor
Containerisiertes LLM-Toolkit. Betreiben Sie LLM-Backends, APIs, Frontends und zusätzliche Dienste über eine prägnante CLI.
6 geprüfte, selbst hostbare Open-Source-Alternativen zu LLM Harbor:
O Ollama
Starten Sie mit Llama 3.3, DeepSeek-R1, Phi-4, Gemma 3 und anderen großen Sprachmodellen durch.
O Open-WebUI
Benutzerfreundliche KI-Schnittstelle, unterstützt Ollama und OpenAI API.
L LobeHub
Modernes KI-Chat-Framework mit Unterstützung für mehrere KI-Anbieter, One-Click-Installation von MCP Marketplace und Artifacts / Thinking.
AnythingLLM
All-in-One-Desktop- und Docker-KI-Anwendung mit integriertem RAG, KI-Agenten, No-Code-Agent-Builder, MCP-Kompatibilität und mehr.
LocalAI
Führe deine KI-Modelle lokal aus und generiere Bilder und Audio (Alternative zu OpenAI und Claude).
L LibreChat
Verbesserte ChatGPT-kompatible KI-Chat-Oberfläche mit Unterstützung mehrerer KI-Anbieter, Multi-User-Authentifizierung, Nachrichtensuche und Plugin-Unterstützung.