Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Hodeian ostatatua
Erabili Free.ai azpiegitura. Konfiguraziorik ez, mantentzerik ez. Eredu guztiak aurrekargatuta daude eta API edo web UI bidez erabiltzeko prest.
Erabilgarri orainAuto-ostatua (DIY)
Exekutatu open-weight eredu berberak zure hardwarean, egileek argitaratutako pisuak eta zerbitzatzeko tresna estandarrak erabiliz. Ez dugu Docker irudirik argitaratzen.
AutozerbitzuaKudeatutako pribatua
GPU zerbitzari dedikatuen kudeaketa, zure nahiago duzun hodeiko eskualdean hedatua. Datuen isolamendu osoa eta SLA pertsonalizatua.
EnterpriseAuto-ostatutako hedaketa
Gure autoostatutako ereduak pisu irekiko eredu irekiak dira, eta egileek argitaratzen dituzte pisu horiek, gehienak lizentzia permisiboen pean (ikus ezazu eredu bakoitzaren txartela). Ez dugu Docker irudirik argitaratzen, ezta gure inferentzia-zerbitzari propiorik ere; eredu bat exekutatzeko, erabili kode irekiko zerbitzari estandar bat, vLLM, adibidez:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Gutxieneko eskakizunak
- NVIDIA GPUa 24GB+ VRAM-ekin (RTX 4090, A5000, A100)
- CUDA 12.0+ eta NVIDIAren azken kontrolatzaile bat
- 16GB+ sistemako RAM, 100GB+ biltegiratzea modelo bakoitzeko
- 72B parametrodun modeloentzat: 80GB VRAM (A100) edo GPU anitzeko konfigurazioa
Zergatik auto-host?
- Datuen pribatutasuna — Your data never leaves your servers
- Emaria mugarik ez — Unlimited inference on your hardware
- Konformitatea — Meet data residency requirements
- Pertsonalizazioa — Fine-tune models on your data
- Kostuen kontrola — Fixed hardware costs, no per-token fees
- Aire-zuloak — Runs fully offline