Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Cloud Hosted
Gebruik Free.ai infrastructuur. Zero setup, nul onderhoud. Alle modellen zijn voorgeladen en klaar voor gebruik via API of web UI.
Nu beschikbaarZelfvoorzienend (DIY)
Gebruik dezelfde open-gewicht modellen op uw eigen hardware, met behulp van de gewichten hun auteurs publiceren en standaard serveren tools. We publiceren geen Docker-afbeelding.
ZelfbedieningBeheerde privé
Dedicated GPU servers beheerd door ons, geïmplementeerd in uw gewenste cloud regio. Volledige data isolatie en aangepaste SLA.
OndernemingZelfhulpwerkgelegenheid
Onze zelf-gehoste modellen zijn open-gewicht modellen waarvan de auteurs publiceren de gewichten, de meeste van hen onder permissieve licenties (check elke modelkaart). We publiceren geen Docker image of onze eigen interpretatieserver; om zelf een model te draaien, gebruik je een standaard open-source server zoals vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Minimumvoorschriften
- NVIDIA GPU met 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ en een recente NVIDIA driver
- 16GB+ systeem RAM, 100GB+ opslag per model
- Voor 72B parametermodellen: 80GB VRAM (A100) of multi-GPU setup
Waarom Zelfverwend?
- Gegevensbescherming: Your data never leaves your servers
- Geen tarieflimieten: Unlimited inference on your hardware
- Naleving: Meet data residency requirements
- Aanpassen: Fine-tune models on your data
- Kostenbeheersing: Fixed hardware costs, no per-token fees
- luchtafdichting: Runs fully offline