Free AI Hosting
Host AI models for free. GPU access, API hosting, and cloud deployment.
จัดเก็บบนคลื่นความถี่Name
ใช้โครงสร้างพื้นฐาน Free.ai ไม่มีการตั้งค่า ไม่มีการดูแล ทุกแบบจำลองถูกโหลดก่อนและพร้อมใช้งานผ่าน API หรือเว็บ UI
ใช้ได้แล้วจัดเก็บเอง (DIY)
ทำงานโมเดล Open-weight เดียวกันบนฮาร์ดแวร์ของคุณเอง โดยใช้ความหนักที่ผู้เขียนของมันได้เผยแพร่ และเครื่องมือบริการมาตรฐาน เราไม่ได้เผยแพร่อิมเมจ Docker
บริการด้วยตนเองจัดการส่วนตัว
เซิร์ฟเวอร์ GPU เฉพาะที่เราจัดการ จัดตั้งในพื้นที่คลาวด์ที่คุณต้องการ ข้อมูลที่แยกออกมาและ SLA ที่กำหนดเอง
เอ็นเตอร์ไพร์สการจัดวางแบบโฮสต์เอง
โมเดลที่เราโฮสต์เองเป็นโมเดล Open-weight ซึ่งผู้เขียนได้เผยแพร่ค่าน้ำหนัก โดยส่วนใหญ่จะอยู่ในลิขสิทธิ์ที่อนุญาต (ตรวจสอบในบัตรโมเดล) เราไม่เผยแพร่อิมเมจ Docker หรือเซิร์ฟเวอร์การคาดการณ์ของเราเอง หากต้องการทำงานโมเดลด้วยตัวเอง ให้ใช้เซิร์ฟเวอร์ Open Source ตามมาตรฐาน เช่น vLLM:
# Example with vLLM (third-party, Apache 2.0) and a Qwen model from Hugging Face
pip install vllm
vllm serve Qwen/Qwen3-30B-A3B-Instruct-2507 --port 8000
ความต้องการขั้นต่ำ
- หน่วยประมวลผลภาพ NVIDIA ที่มี VRAM 24GB+ (RTX 4090, A5000, A100)
- CUDA 12.0+ และไดรเวอร์ NVIDIA รุ่นล่าสุด
- หน่วยความจำระบบ 16GB+ พื้นที่เก็บข้อมูล 100GB+ ต่อรุ่น
- สำหรับรุ่นพารามิเตอร์ 72B: 80GB VRAM (A100) หรือการตั้งค่าหลาย GPU
ทำไมต้องเป็นเซลฟ์โฮสต์
- ความเป็นส่วนตัวของข้อมูล: Your data never leaves your servers
- ไม่มีขีดจำกัดอัตรา: Unlimited inference on your hardware
- ความปลอดภัย: Meet data residency requirements
- การปรับแต่ง: Fine-tune models on your data
- ควบคุมค่าใช้จ่าย: Fixed hardware costs, no per-token fees
- ช่องว่างทางอากาศ: Runs fully offline