Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud Hosted

Verwenden Sie Free.ai Infrastruktur. Null Setup, Null Wartung. Alle Modelle sind vorgeladen und bereit, über API oder Web-UI zu verwenden.

Jetzt verfügbar

Selbstgehostet (DIY)

Führen Sie die gleichen offenen Modelle auf Ihrer eigenen Hardware, mit den Gewichten ihre Autoren veröffentlichen und Standard-Dienst-Tools. Wir veröffentlichen kein Docker-Bild.

Selbstbedienung

Privat verwaltet

Von uns verwaltete, dedizierte GPU-Server, die in Ihrer bevorzugten Cloud-Region bereitgestellt werden. Vollständige Datenisolierung und benutzerdefinierte SLA.

Unternehmen

Selbstgesteuerte Bereitstellung

Unsere selbst gehosteten Modelle sind offene Modelle, deren Autoren die Gewichte veröffentlichen, die meisten von ihnen unter freigebigen Lizenzen (checken Sie jede Modellkarte). Wir veröffentlichen kein Docker-Image oder unseren eigenen Inferenzserver; um selbst ein Modell zu betreiben, verwenden Sie einen Standard-Open-Source-Server wie vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Mindestanforderungen
  • NVIDIA GPU mit 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ und ein neuer NVIDIA-Treiber
  • 16GB+ System RAM, 100GB+ Speicher pro Modell
  • Für 72B-Parametermodelle: 80GB VRAM (A100) oder Multi-GPU-Einrichtung

Warum Selbstwirt?

  • Datenschutz: Your data never leaves your servers
  • Keine Steuersätze: Unlimited inference on your hardware
  • Einhaltung: Meet data residency requirements
  • Anpassung: Fine-tune models on your data
  • Kostenkontrolle: Fixed hardware costs, no per-token fees
  • Luftverunglückte: Runs fully offline

FAQ

Cloud Hosted (verwenden Sie unsere Infrastruktur, Null-Setup) ist die Standardoption. Die Open-Wight-Modelle können Sie auch selbst mit Standard-Tools ohne unsere Hilfe oder unsere Software auf Ihren eigenen GPUs betreiben. Eine verwaltete private Bereitstellung (dedizierte GPU-Server von uns betrieben) wird pro Konto erfasst und zitiert.

Es hängt vom Modell und dem Servierwerkzeug ab. Als grobe Anleitung benötigt eine NVIDIA GPU mit 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ System RAM und 100GB+ Speicher pro Modell; 70B-Klasse Modelle benötigen 80GB VRAM oder mehrere GPUs. Überprüfen Sie die Modellkarte und die Dokumentation Ihres Servierwerkzeugs.

Wenn Sie Open-Wight-Modelle selbst ausführen, können sie offline laufen, sobald Sie die Gewichte und Ihr Servierwerkzeug heruntergeladen haben. Das ist dein Setup: Wir versenden keine Software dafür.

Wir veröffentlichen weder ein Docker-Image noch ein Installationsprogramm. Laden Sie die Modellgewichte vom Modellautor herunter (meist auf Hugging Face) und betreiben Sie sie mit einem gängigen Open-Source-Tool wie vLLM. Wenn wir es für Sie bereitstellen und betreiben sollen, schreiben Sie an hello@free.ai; wir legen den Umfang pro Konto fest.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Wenn die Lizenz des Modells es erlaubt, können Sie die offenen Gewichte mit Standard-Frameworks wie Hugging Face Transformers selbst verfeinern. Wir bieten keine Feinabstimmungswerkzeuge oder Bilder.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Ja, man kann einige Open-Weight-Modelle selbst ausführen und die Free.ai Cloud für alles andere verwenden. Das Routing der Anfragen zwischen den beiden liegt bei Ihnen, und die API Ihres eigenen Servers folgt dem Tool, das Sie ausführen.

Wir bieten keine Software oder Unterstützung für die Bereitstellung von Heimwerkern. Eine verwaltete private Bereitstellung, Umfang pro Konto, umfasst technischen Support per E-Mail, Monitoring und einen dedizierten Kontomanager.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Liebe Free.ai? Erzählen Sie Ihren Freunden!

Willst du mehr? Kostenlos anmelden: täglich 30.000 Token Kostenlos anmelden

Bewerten Sie diese Seite