Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Pritur nga Cloud

Përdor infrastrukturën Free.ai. Zero instalim, zero mirëmbajtje. Të gjithë modelet janë para-ngarkuar dhe gati për tu përdorur nëpërmjet API ose web UI.

Në dispozicion tani

Vetë-pritur (DIY)

Ekzekuto të njëjtat modele të hapura në hardware-in tënd, duke përdorur peshat që autorët e tyre publikojnë dhe instrumentët standardë të shërbyesve. Ne nuk publikojmë një imazh Docker.

Self-Service

Privat

Serverë të dedikuar GPU të menaxhuar nga ne, të vendosur në rajonin e preferuar të reve.

Enterprise

Shpërndarje e vetë-pritur

Modelet tona të vetë-pritura janë modele të hapura të peshës të cilat autorët e publikuan peshën, shumica e tyre nën licenca të lejueshme (kontrollo çdo kartë modeli). Ne nuk publikojmë një imazh Docker apo serverin tonë të inference; për të ekzekutuar një model vetë, përdor një server standard me burim të hapur si vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Kërkesat minimale
  • NVIDIA GPU me 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ dhe një driver NVIDIA i fundit
  • 16GB+ RAM e sistemit, 100GB+ depozitim për model
  • Për modelet me parametra 72B: 80GB VRAM (A100) ose konfigurim multi-GPU

Pse vetë-pritës?

  • Privatësia e të dhënave: Your data never leaves your servers
  • Pa kufij: Unlimited inference on your hardware
  • Përputhje: Meet data residency requirements
  • Personalizimi: Fine-tune models on your data
  • Kontrolli i kostos: Fixed hardware costs, no per-token fees
  • Ajër-gap: Runs fully offline

FAQ

Cloud Hosted (përdor infrastrukturën tonë, zero instalim) është opsioni standard. Mund të ekzekutosh gjithashtu modelet e hapura vetë në GPU-të e tua me instrumente standarde, pa ndihmën tonë apo softuerin tonë. Një shpërndarje private e menazhuar (serverë të dedikuar GPU të drejtuar nga ne) është e kufizuar dhe e cituar për llogari.

Varet nga modeli dhe instrumenti i shërbimeve. Si udhëzues i përgjithshëm, një GPU NVIDIA me 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ RAM e sistemit dhe 100GB+ depozitim për model; modelet e klasës 70B kanë nevojë për 80GB VRAM ose disa GPU. Kontrolloni kartën e modelit dhe dokumentet e instrumentit të shërbimeve.

Nëse ju vetë ekzekutoni modele të hapura, ato mund të ekzekutojnë offline pasi të keni shkarkuar peshat dhe instrumentin tuaj të shërbyesve. Kjo konfigurim është juaji: ne nuk dërgojmë programe për këtë.

Ne nuk publikojmë një imazh Docker apo një instalues. Shkarko modelin e peshes nga autori i modelit (zakonisht në Hugging Face) dhe shërbej ato me një instrument standard me burim të hapur si vLLM. Nëse dëshiron që ta vendosim dhe ta ekzekutojmë për ty, dërgo email tek hello@free.ai dhe ne do ta përcaktojmë atë për llogari.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Nëse licenca e modelit e lejon këtë, mund të rregulloni vetë peshën e hapur me korniza standarde si Hugging Face Transformers. Ne nuk ofrojmë instrumente apo imazhe për rregullimin e hollësishëm.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Po, mund të ekzekutosh disa modele të hapura vetë dhe të përdorësh retë Free.ai për gjithçka tjetër. Rrutimi i kërkesave midis dyve varet nga ti, dhe API e serverit tënd do të ndjekë çfarëdo instrumenti që të ekzekutoj.

Ne nuk ofrojmë softuer apo mbështetje për zbatimet e vetë-bërë. Një zbatim privat i menazhuar, i përcaktuar për llogari, përfshin mbështetje teknike me email, monitorim dhe një menazhues të dedikuar llogarie.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Të pëlqen Free.ai?

Do më shumë? Regjistrohu falas: 30,000 tokenë/ditë Regjistrohu

Vlerëso këtë faqe