Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud Hosted

Gebruik Free.ai infrastructuur. Zero setup, nul onderhoud. Alle modellen zijn voorgeladen en klaar voor gebruik via API of web UI.

Nu beschikbaar

Zelfvoorzienend (DIY)

Gebruik dezelfde open-gewicht modellen op uw eigen hardware, met behulp van de gewichten hun auteurs publiceren en standaard serveren tools. We publiceren geen Docker-afbeelding.

Zelfbediening

Beheerde privé

Dedicated GPU servers beheerd door ons, geïmplementeerd in uw gewenste cloud regio. Volledige data isolatie en aangepaste SLA.

Onderneming

Zelfhulpwerkgelegenheid

Onze zelf-gehoste modellen zijn open-gewicht modellen waarvan de auteurs publiceren de gewichten, de meeste van hen onder permissieve licenties (check elke modelkaart). We publiceren geen Docker image of onze eigen interpretatieserver; om zelf een model te draaien, gebruik je een standaard open-source server zoals vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Minimumvoorschriften
  • NVIDIA GPU met 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ en een recente NVIDIA driver
  • 16GB+ systeem RAM, 100GB+ opslag per model
  • Voor 72B parametermodellen: 80GB VRAM (A100) of multi-GPU setup

Waarom Zelfverwend?

  • Gegevensbescherming: Your data never leaves your servers
  • Geen tarieflimieten: Unlimited inference on your hardware
  • Naleving: Meet data residency requirements
  • Aanpassen: Fine-tune models on your data
  • Kostenbeheersing: Fixed hardware costs, no per-token fees
  • luchtafdichting: Runs fully offline

Veelgestelde vragen

Cloud Hosted (gebruik onze infrastructuur, nul setup) is de standaard optie. U kunt de open-gewicht modellen ook zelf draaien op uw eigen GPU's met standaard tools, zonder onze hulp of onze software. Een beheerde private implementatie (gedediceerde GPU servers die door ons worden uitgevoerd) is scoped en geciteerd per account.

Het hangt af van het model en het serveergereedschap. Als een ruwe gids, een NVIDIA GPU met 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ systeem RAM en 100GB+ opslag per model; 70B-klasse modellen hebben 80GB VRAM of meerdere GPU's nodig. Controleer de documentatie van de modelkaart en uw serveergereedschap.

Als je zelf open-gewicht modellen draait, kunnen ze offline lopen zodra u de gewichten en uw serveergereedschap hebt gedownload. Die opstelling is van jou: we verschepen er geen software voor.

We publiceren geen Docker-afbeelding of een installatieprogramma. Download het modelgewicht van de modelauteur (meestal op Hugging Face) en serveer ze met een standaard open-source tool zoals vLLM. Als u wilt dat wij het voor u implementeren en uitvoeren, e-mail dan hello@free.ai en we bekijken het per account.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Als de licentie van het model het toelaat, kunt u de open gewichten zelf fijnrichten met standaard kaders zoals Hugging Face Transformers. Wij bieden geen fine-tuning tools of afbeeldingen.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Ja. U kunt zelf enkele open-gewicht modellen draaien en de Free.ai cloud gebruiken voor al het andere. Routing verzoeken tussen de twee is aan u, en uw eigen server API zal volgen welke tool je uitvoert.

Wij bieden geen software of ondersteuning voor doe-het-zelf implementaties. Een beheerde private implementatie, per account, omvat technische ondersteuning via e-mail, monitoring en een speciale accountmanager.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Love Free.ai? Vertel het uw vrienden!

Wil je nog meer? Meld je gratis aan: 30.000 tokens/dag Aanmelden gratis

Beoordeel deze pagina