Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Nube alojada

Utilice la infraestructura Free.ai. Configuración cero, mantenimiento cero. Todos los modelos están precargados y listos para usar a través de API o interfaz de usuario web.

Disponible ahora

Auto-acogida (DIY)

Ejecute los mismos modelos de peso abierto en su propio hardware, utilizando los pesos que sus autores publican y herramientas estándar de servicio. No publicamos una imagen Docker.

Autoservicio

Administrado privado

Servidores GPU dedicados gestionados por nosotros, desplegados en su región de nube preferida. Aislamiento completo de datos y SLA personalizado.

Empresa

Despliegue auto-acogida

Nuestros modelos auto-anfitriones son modelos de peso abierto cuyos autores publican los pesos, la mayoría de ellos bajo licencias permisivas (verifique cada tarjeta modelo). No publicamos una imagen Docker o nuestro propio servidor de inferencia; para ejecutar un modelo usted mismo, utilice un servidor estándar de código abierto como vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Requisitos mínimos
  • GPU NVIDIA con 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ y un controlador NVIDIA reciente
  • RAM de 16 GB+ sistema, almacenamiento de 100 GB+ por modelo
  • Para modelos de parámetros 72B: 80GB VRAM (A100) o configuración multi-GPU

¿Por qué el auto-acogedor?

  • Privacidad de los datos: Your data never leaves your servers
  • Sin límites de tipos: Unlimited inference on your hardware
  • Cumplimiento: Meet data residency requirements
  • Personalización: Fine-tune models on your data
  • Control de costos: Fixed hardware costs, no per-token fees
  • Aerotransportado: Runs fully offline

Preguntas frecuentes

Cloud Hosted (usar nuestra infraestructura, configuración cero) es la opción estándar. También puede ejecutar los modelos de peso abierto usted mismo en sus propias GPUs con herramientas estándar, sin nuestra ayuda o nuestro software. Una implementación privada administrada (servidores GPU específicos que nosotros gestionamos) es explorada y cotizada por cuenta.

Depende del modelo y de la herramienta de servicio. Como guía aproximada, una GPU NVIDIA con 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ RAM del sistema y 100GB+ almacenamiento por modelo; los modelos de clase 70B necesitan 80GB VRAM o varias GPU. Compruebe la tarjeta de modelo y la documentación de su herramienta de servicio.

Si usted mismo ejecuta modelos de peso abierto, pueden ejecutarse sin conexión una vez que haya descargado los pesos y su herramienta de servicio. Esa configuración es suya: no enviamos software para ello.

No publicamos una imagen Docker ni un instalador. Descarga los pesos del modelo del autor del modelo (generalmente en Hugging Face) y sírvelos con una herramienta estándar de código abierto como vLLM. Si quieres que lo implementemos y lo ejecutemos por ti, envía un correo electrónico a hello@free.ai y lo examináramos por cuenta.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Si la licencia del modelo lo permite, puede ajustar los pesos abiertos usted mismo con marcos estándar como los transformadores Hugging Face. No proporcionamos herramientas de ajuste o imágenes.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Sí. Usted puede ejecutar algunos modelos de peso abierto y utilizar la nube Free.ai para todo lo demás. Enrutar las peticiones entre las dos depende de ti, y la API de tu propio servidor seguirá cualquier herramienta que ejecutes.

No proporcionamos software ni soporte para despliegues de hágalo usted mismo. Un despliegue privado gestionado, con alcance por cuenta, incluye soporte técnico por correo electrónico, monitoreo y un administrador de cuenta dedicado.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

¿Ama a Free.ai? ¡Dile a tus amigos!

¿Quieres más? Regístrate gratis: 30.000 tokens/día Regístrate gratis

Califica esta página