Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
کلاؤڈ ہوسٹ
Free.ai بنیادی ڈھانچے کا استعمال. صفر سیٹ اپ, صفر مینٹیننس. تمام ماڈل پیش-لوڈ ہیں اور API یا ویب UI کے ذریعے استعمال کرنے کے لئے تیار ہیں.
اب دستیابخود مہمان (DIY)
اپنے ہارڈ ویئر پر اسی کھلے وزن ماڈل چلائیں، انکے مصنف کے وزن کو شائع کرنے اور معیاری سروس ٹولز کو استعمال کرتے ہوئے۔ ہم ایک Docker تصویر کو شائع نہیں کرتے۔
خود سرویسانتظامی نجی
ہم نے اپنے ترجیحاتی کلاؤڈ خطے میں کام کرنے کے لئے، ہم نے اپنے GPU سرور کی انتظامی کی ہے. مکمل ڈیٹا الگ الگ اور سلی SLA.
ادارہخود مہمان بنایا
ہمارے خود مہمان ماڈل کھلے وزن ماڈل ہیں جن کے مصنف وزن کو شائع کرتے ہیں، ان میں سے اکثر اجازت نامے کے تحت (ہر ماڈل کارڈ چکیں) ہم ایک Docker تصویر یا اپنے خود کی انفریشن سرور کو شائع نہیں کرتے؛ ایک ماڈل خود چلانے کے لیے، ایک معیاری کھلے سورس سرور جیسے vLLM کا استعمال کریں:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
کم سے کم ضرورتیں
- NVIDIA GPU 24GB+ VRAM کے ساتھ (RTX 4090, A5000, A100)
- CUDA 12.0+ اور ایک حالیہ NVIDIA ڈرائیور
- 16GB+ سیسٹم RAM, 100GB+ محفوظہ پر ماڈل
- 72B پیرامیٹر ماڈلز کے لیے: 80GB VRAM (A100) یا ملٹی-GPU سیٹ اپ
کیوں Self-ہوسٹ؟
- ڈیٹا پرائیویٹی — Your data never leaves your servers
- کوئی حدیں نہیں — Unlimited inference on your hardware
- مطابقت — Meet data residency requirements
- ذاتي — Fine-tune models on your data
- لاگت کو کنٹرول — Fixed hardware costs, no per-token fees
- ايئر گپڈ — Runs fully offline