Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

ענן מאוחסן

השתמש ב-Free.ai תשתיות, אפס התקנת אחזקה, אפס תחזוקה, כל המודלים טעונים מראש ומוכנים לשימוש באמצעות API או אינטרנט UI.

זמין עכשיו

Description

תריץ את אותן מודלים בעלי משקל פתוח על החומרה שלך, בעזרת המשקולות שהסופרים שלהם מפרסמים וכלים רגילים. אנחנו לא מפרסמים תמונת דוקר.

שירות עצמי

פרטי מנוהל

שרתים מסורים של ג'י-פי-יו, מנוהלים על ידינו, פרוסים באזור הענן המועדף עליכם, בידוד מידע מלא והתאמה אישית של אס-אל-איי.

Enterprise

פריסה עצמית מאומצת

המודלים שלנו הם מודלים בעלי משקל פתוח, שסופריהם מפרסמים את המשקולות, רובם תחת רישיונות מתירניים (בדוק כל כרטיס מודל). אנחנו לא מפרסמים תמונת דוקר או שרת הסיכום שלנו; כדי להפעיל מודל בעצמך, להשתמש בשרת קוד פתוח סטנדרטי כמו VLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
דרישות מינימליות
  • NVIDIA GPU with 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ ונהג NVIDIA האחרון
  • 16GB+ מערכת RAM, 100GB+ אחסון לכל מודל
  • עבור מודלים 72B: 80GB VRAM (A100) או מערך רב-GPU

למה חנוכת-עצמית?

  • פרטיות: Your data never leaves your servers
  • אין גבול קצב: Unlimited inference on your hardware
  • ציות: Meet data residency requirements
  • מותאם אישית: Fine-tune models on your data
  • בקרת עלות: Fixed hardware costs, no per-token fees
  • אוויר מוקפץ: Runs fully offline

FAQ

ענן מאוחסן (משתמש בתשתית שלנו, אפס התקנה) הוא האופציה הרגילה. אתם יכולים גם להריץ את המודלים עם המשקל הפתוח בעצמכם על הג'י-פי-יו שלכם עם כלים סטנדרטיים, ללא עזרתנו או התוכנה שלנו. פריסה פרטית מנוהלת (שרתים של GPU המנוהלים על ידינו) היא סוקר ומצוטטת על כל חשבון.

זה תלוי במודל ובכלי ההגשה. כמדריך גס, GPU NVIDIA עם 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ מערכת RAM ו-100GB+ אחסון לדגם; מודלים מסוג 70B-B צריכים 80GB VRAM או כמה GPUS. בדוק את כרטיס המודל ואת המסמכים של כלי הגשתך.

אם אתה מפעיל מודלים פתוחים במשקל עצמך, הם יכולים להפעיל את מקוון ברגע שיש לך הוריד את המשקולות ואת כלי הגשתך. ההתקנה הזו שלך, אנחנו לא שולחים תוכנה עבורה.

We do not publish a Docker image or an installer. Download the model weights from the model author (usually on Hugging Face) and serve them with a standard open-source tool such as vLLM. If you want us to deploy and run it for you, email hello@free.ai and we scope it per account.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

אם רישיון המודל מאפשר זאת, ניתן לכוון את המשקולות הפתוחות בעצמך עם מסגרות סטנדרטיות כמו Hugging Face רובוטריקים. אנחנו לא מספקים כלים או תמונות כיוונון עדין.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

כן. אתה יכול להפעיל כמה מודלים עם משקל פתוח בעצמך ולהשתמש בענן Free.ai לכל דבר אחר. בקשות ניתוב בין השניים תלויות בך, וה-API של השרת שלך יהיה לעקוב אחרי כל כלי שאתה מפעיל.

אנחנו לא מספקים תוכנה או תמיכה לפריסות של "עשה זאת בעצמך." פריסה פרטית מנוהלת, סוקר לחשבון, כולל תמיכה טכנית על ידי דואר אלקטרוני, ניטור ומנהל חשבון ייעודי.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

אוהבים את Free.ai? ספרו לחברים!

רוצה עוד? הירשמו בחינם: 30,000 טוקנים ליום הרשמה חופשית

דרגו את הדף הזה