Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Cloud hébergé
Utilisez l'infrastructure Free.ai. Configuration zéro, maintenance zéro. Tous les modèles sont préchargés et prêts à l'emploi via API ou interface utilisateur web.
Disponible dès maintenantAuto-hospé (DIY)
Exécutez les mêmes modèles à poids ouvert sur votre propre matériel, en utilisant les poids que leurs auteurs publient et les outils de service standard. Nous ne publions pas d'image Docker.
Auto-serviceGestion privée
Serveurs GPU dédiés gérés par nous, déployés dans votre région cloud préférée. Isolation complète des données et SLA personnalisé.
EntrepriseDéploiement autohospitalier
Nos modèles auto-organisés sont des modèles à poids ouvert dont les auteurs publient les poids, la plupart d'entre eux sous licence permissive (vérifiez chaque carte modèle). Nous ne publions pas d'image Docker ou notre propre serveur d'inférence ; pour exécuter vous-même un modèle, utilisez un serveur open-source standard comme vLLM :
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Exigences minimales
- GPU NVIDIA avec VRAM 24 Go+ (RTX 4090, A5000, A100)
- CUDA 12.0+ et un pilote récent NVIDIA
- Système RAM 16 Go+, stockage 100 Go+ par modèle
- Pour les modèles de paramètres 72B: configuration VRAM (A100) ou multi-GPU de 80 Go
Pourquoi se sentir soi-même?
- Confidentialité des données: Your data never leaves your servers
- Pas de limite de taux: Unlimited inference on your hardware
- Conformité: Meet data residency requirements
- Personnalisation: Fine-tune models on your data
- Contrôle des coûts: Fixed hardware costs, no per-token fees
- Gagné par air: Runs fully offline