Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
میزبان ابر
استفاده از زیرساخت Free.ai. صفر تنظیم، صفر نگهداری. همه مدلها از پیش بارگذاری شدهاند و آماده استفاده از طریق API یا رابط کاربری وب هستند.
هماکنون موجودخود میزبانیشده (DIY)
مدلهای وزن باز مشابه را روی سختافزار خودتان اجرا کنید، با استفاده از وزنهایی که نویسندگان آنها منتشر میکنند و ابزارهای استاندارد سرویسدهی. ما تصویر Docker منتشر نمیکنیم.
خودکارخصوصی مدیریتشده
سرورهاي اختصاصي GPU که توسط ما اداره ميشه، در منطقه ابري مورد علاقه شما مستقر ميشه.
شرکتانتشار خودمیزبان
مدلهای خود میزبانی شده ما مدلهای وزن باز هستند که نویسندگان وزنها را منتشر میکنند، بیشتر آنها تحت مجوزهای مجاز (هر کارت مدل را چک کنید). ما یک تصویر Docker یا سرور استنتاج خود را منتشر نمیکنیم؛ برای اجرای یک مدل خودتان، از یک سرور استاندارد منبع باز مانند vLLM استفاده کنید:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
نیازمندیهای حداقلی
- پردازنده گرافیکی NVIDIA با 24GB+ VRAM (RTX 4090, A5000, A100)
- CUDA 12.0+ و یک راننده NVIDIA جدید
- 16GB+ RAM سیستم، 100GB+ ذخیرهسازی برای هر مدل
- برای مدلهای پارامتر ۷۲B: ۸۰GB VRAM (A100) یا تنظیم چند GPU.
چرا خودم میزبانم؟
- حریم خصوصی دادهها: Your data never leaves your servers
- بدون محدودیت نرخ: Unlimited inference on your hardware
- مطابقت: Meet data residency requirements
- سفارشیسازی: Fine-tune models on your data
- کنترل هزینه: Fixed hardware costs, no per-token fees
- هوا: Runs fully offline