Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud hosťované služby

Použite Free.ai infraštruktúru. Zero nastavenie, nulová údržba.Všetky modely sú predinštalované a pripravené na použitie cez API alebo webové používateľské rozhranie.

K dispozícii teraz

Self-Hosted (DIY)

Spustite rovnaké modely s otvorenou váhou na vlastnom hardvéri, pomocou váh, ktoré zverejnili ich autori, a štandardných nástrojov na poskytovanie služieb.Nezverejňujeme Docker image.

Samoobslužný systém

Managed Private Servers

Vyhradené servery GPU spravované nami, nasadené vo vašom preferovanom cloudovom regióne, plná izolácia dát a vlastná zmluva SLA.

Enterprise

Self-Hosted nasadenie

Naše self-hosted modely sú modely s otvorenou váhou, ktorých autori zverejňujú váhy, väčšina z nich pod permisívnymi licenciami (pozrite si každú kartu modelu).Nezverejňujeme Docker image ani náš vlastný inferenčný server; ak chcete model spustiť sami, použite štandardný open source server ako vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Minimálne požiadavky na systém
  • Grafický procesor NVIDIA s pamäťou VRAM s kapacitou 24 GB alebo vyššou (RTX 4090, A5000, A100)
  • CUDA 12.0+ a najnovší ovládač NVIDIA
  • 16 GB+ systémová pamäť RAM, 100 GB+ úložisko na model
  • Pre modely s parametrami 72B: 80 GB pamäte VRAM (A100) alebo konfigurácia s viacerými grafickými procesormi

Prečo si vybrať Self-Host?

  • Ochrana osobných údajov: Your data never leaves your servers
  • Žiadne limity sadzieb: Unlimited inference on your hardware
  • Súlad: Meet data residency requirements
  • Prispôsobenie: Fine-tune models on your data
  • Kontrola nákladov: Fixed hardware costs, no per-token fees
  • Vzduchom preplnené: Runs fully offline

Často kladené otázky

Cloud Hosted (používanie našej infraštruktúry, nulové nastavenie) je štandardná možnosť. Môžete tiež spustiť modely otvorenej váhy sami na svojich vlastných GPU so štandardnými nástrojmi, bez našej pomoci alebo nášho softvéru.Spravované súkromné nasadenie (dedikované GPU servery prevádzkované nami) je rozsah a cenová ponuka na účet.

Závisí to od modelu a nástroja na obsluhu. Ako približný návod, grafický procesor NVIDIA s 24 GB alebo viac VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16 GB alebo viac systémovej pamäte RAM a 100 GB alebo viac úložiska na model; modely triedy 70B potrebujú 80 GB VRAM alebo viac grafických procesorov.

Ak si modely s otvorenými závažiami prevádzkujete sami, môžu fungovať offline, keď si stiahnete závažia a servírovaciu pomôcku.Toto nastavenie je vaše: softvér pre ne neposkytujeme.

Nepublikujeme Docker image ani inštalátor, stiahnite si model weights od autora modelu (zvyčajne na Hugging Face) a poskytnite ich so štandardným open-source nástrojom ako vLLM. Ak chcete, aby sme ho pre vás nasadili a spustili, pošlite e-mail na hello@free.ai a my ho rozšírime na účet.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Ak to modelová licencia umožňuje, môžete si sami dolaďovať otvorené váhy so štandardnými rámcami, ako sú transformátory Hugging Face.Neposkytujeme nástroje na jemné ladenie ani obrázky.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Áno, môžete spustiť niektoré open-weight modely sami a použiť Free.ai cloud pre všetko ostatné.Routing požiadavky medzi týmito dvoma je na vás, a API vášho vlastného servera bude nasledovať akýkoľvek nástroj, ktorý spustíte.

Spravované súkromné nasadenie, ktoré je rozdelené podľa účtu, zahŕňa technickú podporu prostredníctvom e-mailu, monitorovanie a špecializovaného správcu účtu, ktorý vám pomôže s nastavením, aktualizáciou a správou vašich služieb.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Páči sa vám Free.ai? Povedzte to priateľom!

Chcete viac? Registrácia zadarmo: 30,000 tokenov/deň Zaregistrujte sa zdarma

Ohodnoťte túto stránku