Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud Host

Koristite Free.ai infrastrukturu. Nula postavki, nula održavanja. Svi modeli su unaprijed učitani i spremni za upotrebu putem API ili web korisničkog sučelja.

Dostupno sada

Self-Hosted (DIY)

Pokrenite iste modele otvorene težine na svom hardveru, koristeći težine koje objavljuju njihovi autori i standardne alate za posluživanje. Mi ne objavljujemo Docker sliku.

Samoposluživanje

Upravljani privatni

Dedicated GPU serveri kojima upravljamo, raspoređeni u vašoj preferiranoj oblačnoj regiji, potpuna izolacija podataka i prilagođeni SLA.

Enterprise

Samostalno raspoređivanje

Naši modeli na vlastitom hostingu su modeli otvorene težine čiji autori objavljuju težine, većina njih pod permisivnim licencama (provjerite svaku karticu modela). Mi ne objavljujemo Docker sliku ili naš vlastiti server za zaključivanje; da biste sami pokrenuli model, koristite standardni server otvorenog koda kao što je vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Minimalni zahtjevi
  • NVIDIA GPU sa 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ i novi NVIDIA driver
  • 16GB+ sistemski RAM, 100GB+ pohrana po modelu
  • Za modele sa 72B parametrima: 80GB VRAM (A100) ili multi-GPU postavka

Zašto Self-Host?

  • Privatnost podataka: Your data never leaves your servers
  • Nema ograničenja brzine: Unlimited inference on your hardware
  • Sukladnost: Meet data residency requirements
  • Prilagodba: Fine-tune models on your data
  • Kontrola troškova: Fixed hardware costs, no per-token fees
  • Air gapped: Runs fully offline

FAQ

Cloud Hosted (koristi našu infrastrukturu, nulto podešavanje) je standardna opcija. Možete također pokrenuti modele otvorenog težine sami na vlastitim GPU-ovima sa standardnim alatima, bez naše pomoći ili našeg softvera. Upravljano privatno raspoređivanje (posebni GPU serveri koje upravljamo) je opseg i cijena po računu.

To zavisi od modela i servisnog alata. Kao gruba smjernica, NVIDIA GPU sa 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ sistemski RAM i 100GB+ pohrane po modelu; modeli 70B-klase trebaju 80GB VRAM ili nekoliko GPU-a. Provjerite model kartice i dokumentaciju vašeg servisnog alata.

Ako sami pokrenete modele otvorenih težina, oni mogu raditi offline nakon što preuzmete težine i vaš alat za posluživanje. To podešavanje je vaše: ne šaljemo softver za to.

Mi ne objavljujemo Docker sliku ili instalater. Preuzmite težine modela od autora modela (obično na Hugging Face) i poslužite ih sa standardnim alatom otvorenog koda kao što je vLLM. Ako želite da ga mi postavimo i pokrenemo za vas, pošaljite e-mail na hello@free.ai i mi ćemo ga postaviti po računu.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Ako licenca modela to dozvoljava, možete sami podesiti otvorene težine sa standardnim okvirima kao što su Hugging Face Transformers. Mi ne pružamo alate za podešavanje niti slike.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Da, možete sami pokrenuti neke modele otvorene težine i koristiti Free.ai oblak za sve ostalo. Usmjeravanje zahtjeva između dva je na vama, i API vašeg servera će slijediti bilo koji alat koji pokrenete.

Mi ne pružamo softver ili podršku za uradi-sam implementacije. Upravljana privatna implementacija, opseg po računu, uključuje tehničku podršku putem e-pošte, praćenje i posvećenog menadžera računa.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Volim Free.ai?

Hoćeš još? Registrirajte se besplatno: 30,000 tokena dnevno Prijavite se besplatno

Ocijenite ovu stranicu