Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Molnet är värd
Använd Free.ai infrastruktur. Noll inställning, noll underhåll. Alla modeller är förinstallerade och redo att använda via API eller webb UI.
Tillgänglig nuSjälvupptagen (DIY)
Kör samma öppna modeller på din egen hårdvara, med hjälp av vikterna deras författare publicerar och standard servering verktyg. Vi publicerar inte en Docker-bild.
SjälvbetjäningHanterad privat
Dedikerade GPU-servrar som hanteras av oss, utplaceras i önskad molnregion. Full dataisolering och anpassade SLA.
FöretagSjälvupptagen distribution
Våra självvärdiga modeller är öppna modeller vars författare publicerar vikterna, de flesta av dem under tillåtna licenser (kontrollera varje modellkort). Vi publicerar inte en Docker-avbildning eller vår egen inferenceserver; för att köra en modell själv, använd en vanlig öppen källkodsserver som vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000Minimikrav
- NVIDIA GPU med 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12,0+ och en ny NVIDIA-drivrutin
- 16GB+-system RAM, 100GB+-lagring per modell
- För 72B-parametermodeller: 80GB VRAM (A100) eller multi-GPU-inställning
Varför är du självupptagen?
- Dataskydd — Your data never leaves your servers
- Inga räntegränser — Unlimited inference on your hardware
- Efterlevnad av bestämmelserna — Meet data residency requirements
- Anpassning — Fine-tune models on your data
- Kostnadskontroll — Fixed hardware costs, no per-token fees
- Luftburen — Runs fully offline
Vanliga frågor
Cloud Hosted (använd vår infrastruktur, noll inställning) är standardalternativet. Du kan också köra de öppna modellerna själv på dina egna GPU-apparater med standardverktyg, utan vår hjälp eller vår programvara. En hanterad privat distribution (dedikerade GPU-servrar som drivs av oss) är scrundad och citeras per konto.
Det beror på modellen och serveringsverktyget. Som en grov guide behöver en NVIDIA GPU med 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12,0+, 16GB+-system RAM och 100GB+ lagring per modell; 70B-klassmodeller behöver 80GB VRAM eller flera GPU. Kontrollera modellkortet och din serverings dokumentation.
Om du kör modeller med öppen vikt själv kan de köras offline när du har laddat ner vikterna och ditt serveringsverktyg. Den installationen är din: vi skickar inte mjukvara för det.
We do not publish a Docker image or an installer. Download the model weights from the model author (usually on Hugging Face) and serve them with a standard open-source tool such as vLLM. If you want us to deploy and run it for you, email hello@free.ai and we scope it per account.
All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.
Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.
Om modellens licens tillåter det, kan du finjustera de öppna vikterna själv med standardramar som Hugging Face Transformers. Vi tillhandahåller inte finjusterande verktyg eller bilder.
Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.
Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.
Ja, du kan köra vissa öppna viktmodeller själv och använda Free.ai molnet för allt annat. Routing förfrågningar mellan de två är upp till dig, och din egen server API kommer att följa vilket verktyg du kör.
Vi tillhandahåller inte programvara eller support för att göra-det-själv-distributioner. En hanterad privat distribution, som är scoped per konto, inkluderar teknisk support via e-post, övervakning och en dedikerad kontohanterare.
Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.