Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Núvol Host

Usa infraestructures de Free.ai. L' arranjament Zero, el manteniment zero. Tots els models estan pre- carregats i preparats per a usar- lo a través de l' API o la web UI.

Ara disponible

Auto-Host (DIY)

Executeu els mateixos models de contració obert al vostre propi maquinari, utilitzant els pesos que publiquen els seus autors i les eines d'execució estàndard. No publicarem una imatge a mà.

AutoService

Privat gestionat

Servidors de la GPU embracats gestionades per nosaltres, utilitzats en la vostra regió de núvol preferida. aïllament total de dades i personalitzat SLA.

Enterprise

Auto- compleció

Els nostres models auto-ordinadors són models de pes obert, amb els autors que publiquen els pesos, la majoria tenen llicències permissives (comprova cada targeta de model). No publiquem una imatge de Docker o el nostre propi servidor deferència; per executar un model tu mateix, useu un servidor de codi obert estàndard com vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Requeriments mínims
  • NVIDIA GPU amb 24GB+ VRAW (RTX 4090, RA500, A100)
  • CUDA 12.0+ and a recent NVIDIA driver
  • Sistema RAM 16GB+, 100GB+ d' emmagatzematge per model
  • Per a models de paràmetres 72B: 80GB VRAM (A100) o configuració multi-GPU

Per què auto-Host?

  • privacitat de dades: Your data never leaves your servers
  • Sense límits de taxa: Unlimited inference on your hardware
  • Compliança: Meet data residency requirements
  • Personalització: Fine-tune models on your data
  • Control de cost: Fixed hardware costs, no per-token fees
  • Agitador: Runs fully offline

PMF

Màquina del Cloud (usat les nostres infraestructures, arranjament zero) és l' opció estàndard. També pots fer funcionar els models de més oberts tu mateix amb les teves pròpies GPUs amb eines estàndard, sense la nostra ajuda o el nostre programari. Un desplegament privat (els servidors de la GPU gestionada) estan localitzats i citats per compte.

It depends on the model and the serving tool. As a rough guide, an NVIDIA GPU with 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ system RAM and 100GB+ storage per model; 70B-class models need 80GB VRAM or several GPUs. Check the model card and your serving tool's documentation.

Si executeu models de pès lliure, poden executar fora de línia un cop hàgiu descarregat els pesos i l'eina de servei. Aquesta configuració és vostra: no estem en software de vaixells per a això.

We do not publish a Docker image or an installer. Download the model weights from the model author (usually on Hugging Face) and serve them with a standard open-source tool such as vLLM. If you want us to deploy and run it for you, email hello@free.ai and we scope it per account.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Si la llicència del model ho permet, podeu afinar els pesos oberts amb acords estàndard com ara els programes Hugging Face. No oferim eines de qualitat o imatges.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Sí. Pots fer servir alguns models de pès lliure i fer servir el núvol Free.ai per a tota la resta. Les peticions de Routing entre vosaltres dos estan a dalt, i l' API del vostre servidor seguirà qualsevol eina que executeu.

No oferim software o suport per a les vostres desplegaments. Una desplegament privada gestionada, vistaada per compte, inclou ajuda tècnica per correu electrònic, monitorització i gestor de comptes dedicats.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

T'agrada Free.ai? Explica-ho als teus amics!

Vols més? Registra't gratis: 30,000 tokens/dia Signa lliure

Valora aquesta pàgina