Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Cloud hosted

Využijte infrastrukturu Free.ai. Nula nastavení, nula údržba. Všechny modely jsou přednaloženy a připraveny k použití přes API nebo webové UI.

Dostupné nyní

Vlastní náklady (DIE)

Spusťte stejné otevřené modely na vlastním hardwaru, pomocí závaží, které jejich autoři zveřejňují a standardně slouží nástroje. Nepublikujeme Dockerův obraz.

Samoobslužná služba

Spravovaný soukromý

Dedikované GPU servery, které jsme spravovali, nasazené ve vašem preferovaném cloudovém regionu. Plná izolace dat a vlastní SLA.

Podnik

Vlastní úsilí

Naše samohostované modely jsou otevřené modely, jejichž autoři vydávají váhy, většinou pod povolenými licencemi (kontrolujte každou modelovou kartu). Nezveřejňujeme Dockerův obraz nebo vlastní server; k vlastnímu spuštění modelu používáme standardní open-source server, jako je vLLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Minimální požadavky
  • NVIDIA GPU s 24GB+ VRAM (RTX 4090, A5000, A100)
  • CUDA 12.0+ a nedávný ovladač NVIDIA
  • 16GB+ systém RAM, 100GB+ úložiště na model
  • Pro 72B modely parametrů: 80GB VRAM (A100) nebo více GPU nastavení

Proč sebehostit?

  • Ochrana osobních údajů: Your data never leaves your servers
  • Žádné limity sazeb: Unlimited inference on your hardware
  • Soulad: Meet data residency requirements
  • Přizpůsobení: Fine-tune models on your data
  • Kontrola nákladů: Fixed hardware costs, no per-token fees
  • Vzduchově zavěšené: Runs fully offline

Časté dotazy

Cloud Hosted (použijte naši infrastrukturu, nulové nastavení) je standardní volbou. Open-weight modely můžete také spustit sami na vlastních GPU se standardními nástroji, bez naší pomoci nebo našeho softwaru. Spravované soukromé nasazení (správné GPU servery, které provozujeme my) je zadáno a citováno na účet.

Záleží na modelu a na nástroji. Jako hrubý průvodce, NVIDIA GPU s 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ systém RAM a 100GB+ úložiště na model; 70B-class modely potřebují 80GB VRAM nebo několik GPU. Zkontrolujte si vzorovou kartu a dokumentaci nástroje pro podávání.

Pokud spustíte modely s otevřenou hmotností sami, mohou spustit offline, jakmile si stáhnete závaží a nástroj pro podávání. To nastavení je vaše: my pro něj software neposíláme.

We do not publish a Docker image or an installer. Download the model weights from the model author (usually on Hugging Face) and serve them with a standard open-source tool such as vLLM. If you want us to deploy and run it for you, email hello@free.ai and we scope it per account.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Pokud to umožňuje licence modelu, můžete si doladit otevřenou váhu pomocí standardních rámců, jako jsou Hugging Face Transformers. Neposkytujeme nástroje jemného ladění nebo obrázky.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Ano. Můžete si spustit některé otevřené modely sami a použít Free.ai cloud pro všechno ostatní. Routing požadavky mezi oběma je na vás, a vaše vlastní server API bude následovat jakýkoli nástroj spustit.

Neposkytujeme software ani podporu pro vlastní nasazení. Spravované soukromé nasazení, zadané na účet, zahrnuje technickou podporu e-mailem, monitorováním a specializovaným správcem účtů.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Líbí se vám Free.ai? Řekněte to přátelům!

Chceš víc? Registrace zdarma: 30,000 tokenů/den Zaregistrovat se zdarma

Ohodnoťte tuto stránku