Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Hospedado na nube
Empregue a infraestrutura Free.ai. Sen configuración, sen mantemento. Todos os modelos están precargados e listos para usar mediante API ou interface web.
Dispoñíbel agoraAuto- aloxado (DIY)
Execute os mesmos modelos de peso aberto no seu propio hardware, empregando os pesos que publica o seu autor e ferramentas de servizo estándar. Non publicamos unha imaxe de Docker.
AutoservizoPrivado xestionado
Servidores dedicados de GPU xestionados por nós, implantados na súa rexión de nube preferida. Isolation completo dos datos e SLA personalizado.
EnterpriseDespliegue auto- hospedado
Os nosos modelos autoaloxados son modelos de peso aberto cuxos autores publican os pesos, a maioría deles baixo licenzas permisivas (consulte cada tarxeta de modelo). Non publicamos unha imaxe de Docker nin o noso propio servidor de inferencias; para executar un modelo por si mesmo, use un servidor estándar de código aberto como vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000Requisitos mínimos
- GPU NVIDIA con 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ and a recent NVIDIA driver
- 16GB+ RAM do sistema, 100GB+ almacenamento por modelo
- Para modelos con parámetros 72B: 80 GB de VRAM (A100) ou configuración multi-GPU
Por que o auto-host?
- Privacidade dos datos — Your data never leaves your servers
- Sen límites de velocidade — Unlimited inference on your hardware
- Cumprimento — Meet data residency requirements
- Personalización — Fine-tune models on your data
- Control de custos — Fixed hardware costs, no per-token fees
- Air- gap — Runs fully offline
FAQ
A opción estándar é Cloud Hosted (usar a nosa infraestrutura, sen configurar nada). Tamén pode executar os modelos de peso aberto nas súas propias GPU con ferramentas estándar, sen a nosa axuda ou o noso software. Un despliegue privado xestionado (servidores dedicados de GPU que executamos) ten un alcance e unha cotización por conta.
It depends on the model and the serving tool. As a rough guide, an NVIDIA GPU with 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ system RAM and 100GB+ storage per model; 70B-class models need 80GB VRAM or several GPUs. Check the model card and your serving tool's documentation.
Se executa vostede mesmo modelos de peso aberto, poden executarse sen conexión unha vez que obteña os pesos e a ferramenta de servido. Esa configuración é súa: non enviamos software para iso.
We do not publish a Docker image or an installer. Download the model weights from the model author (usually on Hugging Face) and serve them with a standard open-source tool such as vLLM. If you want us to deploy and run it for you, email hello@free.ai and we scope it per account.
All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.
Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.
Se a licenza do modelo o permite, pode afinar os pesos abertos con estruturas estándar como Hugging Face Transformers. Non fornecemos ferramentas nin imaxes de afinación.
Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.
Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.
Si. Pode executar algúns modelos de peso aberto e usar a nube Free.ai para todo o resto. O enrutamento das solicitudes entre os dous depende de vostede, e a API do seu propio servidor seguirá calquera ferramenta que execute.
Non proporcionamos software nin soporte para implantacións que faga vostede mesmo. Unha implantación privada xestionada, con ámbito por conta, inclúe soporte técnico por correo electrónico, monitorización e un xestor de contas dedicado.
Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.