Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Nuvola
Utilizà l'infrastruttura Free.ai. Zero setup, zero manutenzione. Tutti i mudelli sò precaricati è pronti à aduprà via API o web UI.
Disponibbili oraAuto-ospitatu (DIY)
Esegui i stessi mudelli open-weight supra u vostru hardware, usannu i pesi pubblicati di i so autori e strumenti standard di servimentu. Noi nun pubblicamu n'imaggini Docker.
AutoserviziuPrivatu gestitu
Servitori GPU dedicati gestiti da noi, distribuiti in a vostra regione cloud preferita. Isolamentu di dati cumpletu è SLA persunalizatu.
ImprisiDistribuzione auto-ospitata
I nostri mudelli auto-ospitati sò mudelli di pesu apertu i cui autori publicanu i pesi, a maiò parte di elli sottu licenze permissive (controllà ogni scheda di mudellu). Non pubblichemu un'imagine Docker o u nostru propiu servitore di inferenza; per eseguisce un mudellu voi stessu, usate un servitore standard open source cum'è vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Requisiti minimi
- GPU NVIDIA cu 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ è un driver NVIDIA ricenti
- 16GB + RAM di sistema, 100GB + di almacenamentu per mudellu
- Per i mudelli di parametru 72B: 80GB VRAM (A100) o configurazione multi-GPU
Perchè Self-Host?
- Privacità di dati: Your data never leaves your servers
- Nudda limitazzioni di velocità: Unlimited inference on your hardware
- Conformità: Meet data residency requirements
- Personalizzazioni: Fine-tune models on your data
- Controllu di costi: Fixed hardware costs, no per-token fees
- Air-gapped: Runs fully offline