Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Nuvem hospedada
Use Free.ai infra-estrutura. Configuração zero, manutenção zero. Todos os modelos estão pré-carregados e prontos para usar através de API ou UI web.
Disponível AgoraAuto-Hosted (DIY)
Execute os mesmos modelos de peso aberto em seu próprio hardware, usando os pesos que seus autores publicam e ferramentas de serviço padrão. Não publicamos uma imagem Docker.
Auto-ServiçoAdministrado Privado
Servidores GPU dedicados gerenciados por nós, implantados na sua região de nuvem preferida.
EmpresaDeslocamento auto-Hosted
Nossos modelos auto-hosted são modelos de peso aberto cujos autores publicam os pesos, a maioria delas sob licenças permissivas (cheque cada cartão de modelo). Não publicamos uma imagem docker ou nosso próprio servidor de inferências; para executar um modelo você mesmo, use um servidor padrão de código aberto, como o vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Requisitos mínimos
- NVIDIA GPU com 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ e um driver recente de NVIDIA
- 16GB+ RAM do sistema, 100GB+ armazenamento por modelo
- Para modelos de parâmetro 72B: 80GB VRAM (A100) ou configuração multi-GPU
Porquê ser o próprio Santo?
- Privacidade dos dados: Your data never leaves your servers
- Sem limites de taxa: Unlimited inference on your hardware
- Cumprimento: Meet data residency requirements
- Personalização: Fine-tune models on your data
- Controlo de custos: Fixed hardware costs, no per-token fees
- Aperta de ar: Runs fully offline