Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Cloud Hosted
Verwenden Sie Free.ai Infrastruktur. Null Setup, Null Wartung. Alle Modelle sind vorgeladen und bereit, über API oder Web-UI zu verwenden.
Jetzt verfügbarSelbstgehostet (DIY)
Führen Sie die gleichen offenen Modelle auf Ihrer eigenen Hardware, mit den Gewichten ihre Autoren veröffentlichen und Standard-Dienst-Tools. Wir veröffentlichen kein Docker-Bild.
SelbstbedienungPrivat verwaltet
Von uns verwaltete, dedizierte GPU-Server, die in Ihrer bevorzugten Cloud-Region bereitgestellt werden. Vollständige Datenisolierung und benutzerdefinierte SLA.
UnternehmenSelbstgesteuerte Bereitstellung
Unsere selbst gehosteten Modelle sind offene Modelle, deren Autoren die Gewichte veröffentlichen, die meisten von ihnen unter freigebigen Lizenzen (checken Sie jede Modellkarte). Wir veröffentlichen kein Docker-Image oder unseren eigenen Inferenzserver; um selbst ein Modell zu betreiben, verwenden Sie einen Standard-Open-Source-Server wie vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Mindestanforderungen
- NVIDIA GPU mit 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ und ein neuer NVIDIA-Treiber
- 16GB+ System RAM, 100GB+ Speicher pro Modell
- Für 72B-Parametermodelle: 80GB VRAM (A100) oder Multi-GPU-Einrichtung
Warum Selbstwirt?
- Datenschutz: Your data never leaves your servers
- Keine Steuersätze: Unlimited inference on your hardware
- Einhaltung: Meet data residency requirements
- Anpassung: Fine-tune models on your data
- Kostenkontrolle: Fixed hardware costs, no per-token fees
- Luftverunglückte: Runs fully offline