BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 ҳар бир call
BGE-M3 an embedding model томонидан BAAI томонидан яратилган. Text embeddings, semantic search да энг кучли. Free.ai GPU'ларда ўз-ўзидан жойлаштирилган — сизнинг кундалик токенларингизга қарши бепул ишлайди (100 токенлар қўнғироқ учун). MIT остида чиқарилган — Free.ai дан коммерциявий фойдаланишга рухсат берилган.
API орқали фойдаланиш
OpenAI-га мос REST API. Алоқани яратинг ва бу моделни секундларда чақиринг.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Кўп бериладиган саволлар
BGE-M3 матнни маънони ифодалайдиган йирик векторга (ҳаракатлилар рўйхатига) айлантиради. Уни семантик қидириш, гуруҳлаш, тавсия қилиш, қайта ишлаш-кўпайтирилган генерация (RAG) ва "бу матн бу матнга ўхшашми" деган саволга жавоб бериш учун ишлатилади.
Типик ўлчамлар моделга қараб 384, 768, 1024 ёки 1536. BGE-M3 1024-ўлчамни чиқаради; OpenAI Ada 1536ни чиқаради. API жавоби ўлчамни ўз ичига олади, шунинг учун сизнинг вектор ДБ тўғри индексни танлайди.
Замонавий ёпиш моделлари (Free.ai даги кўплаб вариантлар билан бирга) 100 дан ортиқ тилларда тайёрланган. Тиллараро қидириш ишлайди — инглизча қидириш, испанча ҳужжатга мослаш.
Модельга қараб 512 дан 8,192 гача белгилар. Кўпроқ киритилганлар қисқартирилади - узун ҳужжатларни ёпишдан олдин абзацларга ажратилади.
BGE-M3 бизнинг GPUларимизда ишлайди ва энг арзон воситалардан биридир — ҳар бир қўнғироқ учун кундалик бепул пулингиздан ~100 та токен. $5 = 200K токен.
Ҳа — /v1/embeddings/га сатрлар рўйхатини POST қилиш ва BGE-M3 шу тартибда векторлар рўйхатини қайтаради. Ҳар бир талаб учун 2,048 гача бўлган партия ҳажми.
L2-нормаллаштирилган аввалдан белгиланган — косинус ўхшашлиги = нуқта ҳосили. Агар бошқа масофа метрикасига хом векторларни истасангиз, "normalize=false"ни ўтказинг.
Ҳар қандай — Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 оддий JSON ҳаракатлиларни қайтаради; DB ҳеч қачон моделни кўрмайди.
Ҳа — POST to /v1/embeddings/ with model="BGE-M3". OpenAI-муносиб жавоб шакли, шунинг учун мавжуд клиент китобхоналари ўзгармасдан ишлайди. /api/ тўлиқ манбага эга.
Ўз-ўзини бошқарувчи моделлар матнингизни GPU ларда сақлайди ва қўнғироқ қайтганидан кейин уни ташлаб юборади. Premium DPA билан ўтади. Биз сизнинг киритишларингизни ўқитмаймиз.
Ўз-ўзини хост қилганда қисқа матн учун 100-500ms дан кам, premiumда 100-500ms. Бачка қўнғироқлар тахминан чизиқ бўйлаб ўсади - 1000 дона 2-10 секундда тугайди.
Ҳа — Free.ai ўрамидаларни савдо мақсадларида фойдаланишга рухсат беради. Продукция қидириш, RAG қувурлари, тавсиялар тизимини ҳар бир вектор учун ҳақ тўланмасдан яратиш.