Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Nuvem hospedada

Use Free.ai infra-estrutura. Configuração zero, manutenção zero. Todos os modelos estão pré-carregados e prontos para usar através de API ou UI web.

Disponível Agora

Auto-Hosted (DIY)

Execute os mesmos modelos de peso aberto em seu próprio hardware, usando os pesos que seus autores publicam e ferramentas de serviço padrão. Não publicamos uma imagem Docker.

Auto-Serviço

Administrado Privado

Servidores GPU dedicados gerenciados por nós, implantados na sua região de nuvem preferida.

Empresa

Deslocamento auto-Hosted

Nossos modelos auto-hosted são modelos de peso aberto cujos autores publicam os pesos, a maioria delas sob licenças permissivas (cheque cada cartão de modelo). Não publicamos uma imagem docker ou nosso próprio servidor de inferências; para executar um modelo você mesmo, use um servidor padrão de código aberto, como o vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Requisitos mínimos
  • NVIDIA GPU com 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ e um driver recente de NVIDIA
  • 16GB+ RAM do sistema, 100GB+ armazenamento por modelo
  • Para modelos de parâmetro 72B: 80GB VRAM (A100) ou configuração multi-GPU

Porquê ser o próprio Santo?

  • Privacidade dos dados: Your data never leaves your servers
  • Sem limites de taxa: Unlimited inference on your hardware
  • Cumprimento: Meet data residency requirements
  • Personalização: Fine-tune models on your data
  • Controlo de custos: Fixed hardware costs, no per-token fees
  • Aperta de ar: Runs fully offline

FAQ

Cloud Hosted (use nossa infraestrutura, configuração zero) é a opção padrão. Você também pode executar os modelos de peso aberto em sua própria GPUs com ferramentas padrão, sem nossa ajuda ou nosso software. Uma implantação privada gerida (servidores GPU dedicados que são executados por nós) é escolhida e citada por conta.

Depende do modelo e da ferramenta de serviço. Como guia árduo, uma GPU NVIDIA com 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12,0+, 16GB+ RAM do sistema e 100GB+ de armazenamento por modelo; os modelos 70B de classe VRAM necessitam de 80GB ou vários GPU. Verifique o cartão de modelo e a documentação da sua ferramenta de serviço.

Se você executa modelos de peso aberto, eles podem funcionar offline uma vez que você tem baixado os pesos e sua ferramenta de servimento. Essa configuração é sua: não enviamos software para ele.

Não publicamos uma imagem docker ou um instalador. Baixe os pesos do modelo do autor do modelo (normalmente em Hugging Face) e sirva-os com uma ferramenta padrão de código aberto, como vLLM. Se você quiser que nós implantemos e executá-lo para você, e-mail hello@free.ai e nós escopo-lo por conta.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Se a licença do modelo permite, você pode afinar o peso aberto você mesmo com frameworks padrão como Hugging Face Transformers. Não fornecemos ferramentas ou imagens de ajuste fino.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Sim. Você pode executar alguns modelos de peso aberto você mesmo e usar a nuvem Free.ai para tudo o resto. A rotação de pedidos entre os dois é de você, e a API do seu próprio servidor irá seguir qualquer ferramenta que você execute.

Não fornecemos software nem suporte para implantações do-it-you-self. Uma implantação privada gerida, abrangeda por conta, inclui suporte técnico por e-mail, monitoramento e um gestor de contas dedicado.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Adoro Free.ai? Diga aos seus amigos!

Queres mais? Inscreva-se grátis: 30.000 tokens/dia Inscreva-se livre

Avalie esta página