Free AI Hosting

Host AI models for free. GPU access, API hosting, and cloud deployment.

Облако в руках

Использовать Free.ai инфраструктуру. Ноль настройки, нулевое обслуживание. Все модели предварительно загружены и готовы к использованию через API или веб UI.

Имеется сейчас

Самозанятые (ДГ)

Проведите те же модели с открытым весом на вашем собственном оборудовании, используя весы, которые публикуют их авторы, и стандартный сервисный инструмент. Мы не публикуем изображение Докера.

Самообслуживание

Управление частными

Управляемые нами специальные серверы GPU, развернутые в вашем любимом облачном регионе.

Предприятие

Саморазвертывание

Наши самозанятые модели представляют собой модели открытого веса, авторы которых публикуют весовые коэффициенты, большинство из которых выдаются на основании разрешительных лицензий (проверьте каждую модель). Мы не публикуем изображение Докера или наш собственный сервер вывода; для запуска модели, используйте стандартный открытый сервер, такой как vLM:

# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
Минимальные требования
  • NVIDIA GPU с 24GB+ VRAM (RTX 4090, A5000, A100)
  • КУДА 12.0+ и недавно въехавший в НВИДИА
  • 16GB+ система RAM, 100GB+ хранение на модель
  • Для моделей параметров 72B: 80GB VRAM (A100) или установка с несколькими ГПСУ

Почему в самозащите?

  • Конфиденциальность данных: Your data never leaves your servers
  • Отсутствие ограничений по ставкам: Unlimited inference on your hardware
  • Соблюдение: Meet data residency requirements
  • Спецификация: Fine-tune models on your data
  • Контроль за расходами: Fixed hardware costs, no per-token fees
  • Воздушно-капельное отопление: Runs fully offline

ФАК

Облако, захороненное (использование нашей инфраструктуры, нулевая установка) является стандартным вариантом. Вы также можете самостоятельно использовать модели открытого веса на своих собственных GPU с стандартными инструментами, без нашей помощи или нашего программного обеспечения. Управленное частное развертывание (специализированные серверы ГПС, которыми мы пользуемся) охватывается и цитируется по каждому счету.

Зависит от модели и сервисного инструмента. В качестве грубого руководства, GPU NVIDIA с 24GB+ VRAM (RTX 4090, A5000, A100), CUDA 12.0+, 16GB+ системный RAM и 100GB+ в каждой модели; 70B-класс модели нуждаются в 80GB VRAM или нескольких GPU. Проверьте образец карточки и документацию вашего сервисного инструмента.

Если вы сами будете использовать модели открытого веса, они могут работать в режиме оффлайн, как только вы скачаете весы и сервисный инструмент. Эта схема ваша: мы не отправляем для нее программное обеспечение.

Мы не публикуем изображение Докера или установщика. Загрузить вес модели от автора модели (обычно на Hugging Face) и использовать для этого стандартный инструмент открытого исходного кода, такой как vLM. Если хотите, чтобы мы развернули и запустили его для вас, по электронной почте по электронной почте hello@free.ai и мы проверим его по каждому счету.

All self-hosted models use permissive open-source licenses -- Apache 2.0, MIT, or BSD. You can use them commercially without restrictions. We deliberately exclude models with restrictive licenses like Meta's Llama license.

Managed private hosting gives you dedicated GPU servers in your preferred cloud region, fully managed by our team. We handle setup, patching, model updates, and monitoring. You get full data isolation with an enterprise SLA.

Если лицензия модели позволит, вы можете сами откорректировать открытые весы с помощью таких стандартных рамок, как Hugging Face Трансформеры. Мы не предоставляем инструменты для уточнения и изображения.

Contact our sales team to discuss a trial period. We typically offer a short evaluation period for enterprise prospects to test managed private hosting before committing to a long-term plan.

Cloud hosting uses the standard token-based pricing. Self-hosted is free -- you only pay for your own hardware and electricity. Managed private hosting is priced based on GPU allocation, region, and SLA level.

Хорошо. Вы можете прогнать несколько моделей открытого веса и использовать облако Free.ai для всего остального. Запрашивание в режиме ожидания между двумя - это ваше дело, и ваш собственный сервер будет следовать любому инструменту, который вы используете.

Мы не предоставляем программное обеспечение или поддержку для саморазвертывания. Управленное частное развертывание, осуществляемое по каждому счету, включает техническую поддержку с помощью электронной почты, контроля и специального управляющего счетом.

Cloud hosted is best for teams that want zero maintenance. Self-hosted is ideal for data privacy, compliance, or unlimited usage on your own hardware. Managed private is the best of both worlds -- full data isolation with no operational burden.

Нравится Free.ai? Расскажите друзьям!

Хочешь еще? Зарегистрируйтесь бесплатно: 30 000 токенов/день Не подписываться

Оцените эту страницу