Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
Облачно домаќин
Користете Free.ai инфраструктура. Нула поставување, нула одржување. Сите модели се претвчитани и подготвени за користење преку API или веб корисничко сучеље.
Достапно сегаСамопоседување (ДИЈ)
Извршете ги истите модели со отворена тежина на сопствена хардуерска алатка, користејќи ги теговите кои ги објавуваат нивните автори и стандардни сервирајни алатки. Не објавуваме слика од Докер.
СамопослужбаМенаџиран приватно
Посветени сервери на ГПУ управуваат со нас, распоредени во вашиот префериран регион на облак. Целосна изолација на податоци и сопствена СЛА.
ЕнтерпрајзСамопоседување
Нашите самодомаќини модели се модели со отворена тежина чии автори ги објавуваат тежините, повеќето од нив под попустливи дозволи (проверете ги сите модели). Ние не објавуваме слика на Docker или нашиот сервер за заклучок; за да извршите модел самиот, користете стандарден сервер отворен извор како vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Минимални барања
- НВИДИА ГПУ со 24ГБ+ ВРАМ (RTX 4090, А5000, А100)
- КУДА 12.0+ и неодамнешниот возач на NVIDIA
- 16GB+ системски RAM, 100GB+ складиште по модел
- За 72B модели на параметри: 80GB VRAM (A100) или повеќе- GPU
Зошто само-гост?
- Приватност на податоците: Your data never leaves your servers
- Без ограничувања на стапките: Unlimited inference on your hardware
- Согласување: Meet data residency requirements
- Прилагодување: Fine-tune models on your data
- Контрола на трошоците: Fixed hardware costs, no per-token fees
- Воздушно освежување: Runs fully offline