Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud hébergé

Utilisez l'infrastructure Free.ai. Configuration zéro, maintenance zéro. Tous les modèles sont préchargés et prêts à l'emploi via API ou interface utilisateur web.

Disponible dès maintenant

Auto-hospé (DIY)

Exécutez les mêmes modèles à poids ouvert sur votre propre matériel, en utilisant les poids que leurs auteurs publient et les outils de service standard. Nous ne publions pas d'image Docker.

Auto-service

Gestion privée

Serveurs GPU dédiés gérés par nous, déployés dans votre région cloud préférée. Isolation complète des données et SLA personnalisé.

Entreprise

Déploiement autohospitalier

Nos modèles auto-organisés sont des modèles à poids ouvert dont les auteurs publient les poids, la plupart d'entre eux sous licence permissive (vérifiez chaque carte modèle). Nous ne publions pas d'image Docker ou notre propre serveur d'inférence ; pour exécuter vous-même un modèle, utilisez un serveur open-source standard comme vLLM :

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Exigences minimales
  • GPU NVIDIA avec VRAM 24 Go+ (RTX 4090, A5000, A100)
  • CUDA 12.0+ et un pilote récent NVIDIA
  • Système RAM 16 Go+, stockage 100 Go+ par modèle
  • Pour les modèles de paramètres 72B: configuration VRAM (A100) ou multi-GPU de 80 Go

Pourquoi se sentir soi-même?

  • Confidentialité des données: Your data never leaves your servers
  • Pas de limite de taux: Unlimited inference on your hardware
  • Conformité: Meet data residency requirements
  • Personnalisation: Fine-tune models on your data
  • Contrôle des coûts: Fixed hardware costs, no per-token fees
  • Gagné par air: Runs fully offline

FAQ

Cloud Hosted (utilisez notre infrastructure, zéro configuration) est l'option standard. Vous pouvez également exécuter les modèles open-weight vous-même sur vos propres GPU avec des outils standard, sans notre aide ou notre logiciel. Un déploiement privé géré (serveurs GPU dédiés gérés par nous) est couvert et cité par compte.

Cela dépend du modèle et de l'outil de service. Comme guide approximatif, un GPU NVIDIA avec 24 Go + VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16 Go + système RAM et 100 Go + stockage par modèle; les modèles de 70B-classe ont besoin de 80 Go VRAM ou plusieurs GPU. Vérifiez la carte modèle et la documentation de votre outil de service.

Si vous exécutez des modèles open-weight vous-même, ils peuvent fonctionner hors ligne une fois que vous avez téléchargé les poids et votre outil de service. Cette configuration est à vous : nous n'envoyons pas de logiciel.

Nous ne publions pas d'image Docker ni d'installateur. Téléchargez les poids du modèle depuis l'auteur du modèle (habituellement sur Hugging Face) et servez-les avec un outil open-source standard comme vLLM. Si vous voulez que nous nous déployions et que nous l'exécutions pour vous, envoyez un courriel à hello@free.ai et nous l'avons projeté par compte.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Si la licence du modèle le permet, vous pouvez affiner les poids ouverts vous-même avec des cadres standard tels que Hugging Face Transformers. Nous ne fournissons pas d'outils ou d'images de réglage fin.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Oui. Vous pouvez exécuter vous-même certains modèles à poids ouvert et utiliser le cloud Free.ai pour tout le reste. Les requêtes d'acheminement entre les deux sont à vous, et l'API de votre propre serveur suivra n'importe quel outil que vous exécutez.

Nous ne fournissons pas de logiciels ni de soutien pour les déploiements de faire-il-vous-même. Un déploiement privé géré, étendu par compte, comprend un support technique par courriel, un suivi et un gestionnaire de compte dédié.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Aimez Free.ai? Dites à vos amis!

Tu en veux plus? Inscription gratuite: 30 000 jetons/jour Inscription gratuite

Évaluer cette page