mxbai-embed-large-v1
Free.ai (self-hosted)
·
embeddings
·
~100 ਟੋਕਨਾਂ ਪ੍ਰਤੀ call
mxbai-embed-large-v1 a ਈਂਬੈੱਡਿੰਗ ਮਾਡਲ ਹੈ, ਜੋ ਕਿ mixedbread.ai ਨੇ ਬਣਾਇਆ ਹੈ । Semantic search, clustering, similarity. ਉੱਤੇ ਸਭ ਤੋਂ ਮਜ਼ਬੂਤ। Free.ai GPUs ਉੱਤੇ ਸਵੈ-ਹੋਸਟ ਕੀਤਾ — ਤੁਹਾਡੀ ਰੋਜ਼ਾਨਾ ਟੋਕਨ ਪੁਲ (100 ਟੋਕਨ ਪ੍ਰਤੀ ਕਾਲ) ਦੇ ਖਿਲਾਫ ਮੁਫ਼ਤ ਚੱਲਦਾ ਹੈ। Apache 2.0 ਅਧੀਨ ਜਾਰੀ — Free.ai ਉੱਤੇ ਵਪਾਰਕ ਵਰਤੋਂ ਲਈ ਮਨਜ਼ੂਰ ਹੈ।
API ਰਾਹੀਂ ਵਰਤੋਂ
OpenAI- ਅਨੁਕੂਲ REST API। ਇੱਕ ਕੁੰਜੀ ਬਣਾਓ ਅਤੇ ਇਸ ਮਾਡਲ ਨੂੰ ਸਕਿੰਟਾਂ ਵਿੱਚ ਕਾਲ ਕਰੋ।
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"mxbai-embed-large-v1","prompt":"your prompt here"}'ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
mxbai-embed-large-v1 ਪਾਠ ਨੂੰ ਇੱਕ ਘਣ ਵੈਕਟਰ (ਫਲੋਟ ਦੀ ਲਿਸਟ) ਵਿੱਚ ਬਦਲਦਾ ਹੈ, ਜੋ ਕਿ ਅਰਥ ਨੂੰ ਫੜਦਾ ਹੈ। ਇਸ ਨੂੰ ਸ਼ਬਦ-ਜੋੜ ਖੋਜ, ਕਲਾਸਟਰਿੰਗ, ਸਿਫਾਰਸ਼, ਰਿਟਰੀਵਲ-ਅੱਪਗਰੇਡਡ ਜਨਰੇਸ਼ਨ (RAG) ਲਈ ਵਰਤੋ, ਅਤੇ ਕਿਸੇ ਵੀ ਕੰਮ ਲਈ, ਜਿੱਥੇ "ਇਹ ਪਾਠ ਉਸ ਪਾਠ ਵਾਂਗ ਹੈ" ਮਹੱਤਵਪੂਰਨ ਹੈ।
ਮਾਡਲ ਉੱਤੇ ਨਿਰਭਰ ਕਰ ਕੇ ਆਮ ਆਕਾਰ 384, 768, 1024, ਜਾਂ 1536 ਹੁੰਦੇ ਹਨ। BGE-M3 1024-dim ਦਿੰਦਾ ਹੈ; OpenAI Ada 1536 ਦਿੰਦਾ ਹੈ। API ਜਵਾਬ ਵਿੱਚ ਆਕਾਰ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ ਤਾਂ ਕਿ ਤੁਹਾਡੀ ਵੈਕਟਰ DB ਸਹੀ ਇੰਡੈਕਸ ਚੁਣ ਸਕੇ।
ਆਧੁਨਿਕ ਇੰਬੈੱਡਿੰਗ ਮਾਡਲ (Free.ai ਉੱਤੇ ਸਭ ਤੋਂ ਵੱਧ ਚੋਣਾਂ ਸਮੇਤ) 100+ ਭਾਸ਼ਾਵਾਂ ਲਈ ਟਰੇਨ ਕੀਤੇ ਗਏ ਹਨ । ਕ੍ਰਾਸ- ਭਾਸ਼ਾ ਪ੍ਰਾਪਤੀ ਕੰਮ ਕਰਦੀ ਹੈ — ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਖੋਜ, ਸਪੇਨੀ ਵਿੱਚ ਡੌਕੂਮੈਂਟ ਮਿਲਦੇ ਹਨ ।
ਮਾਡਲ ਉੱਤੇ ਨਿਰਭਰ ਕਰ ਕੇ 512 ਤੋਂ 8, 192 ਟੋਕਨ । ਲੰਬੇ ਇੰਪੁੱਟ ਨੂੰ ਕੱਟਿਆ ਜਾਂਦਾ ਹੈ — ਇੰਬੈੱਡ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਲੰਬੇ ਡੌਕੂਮੈਂਟ ਨੂੰ ਪੈਰਾਗਰਾਮ ਵਿੱਚ ਕੱਟਿਆ ਜਾਂਦਾ ਹੈ ।
mxbai-embed-large-v1 ਸਾਡੇ ਆਪਣੇ GPUs ਉੱਤੇ ਚੱਲਦਾ ਹੈ ਅਤੇ ਸਭ ਤੋਂ ਸਸਤੇ ਟੂਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ - ~100 ਟੋਕਨ ਪ੍ਰਤੀ ਕਾਲ ਤੁਹਾਡੇ ਰੋਜ਼ਾਨਾ ਮੁਫ਼ਤ ਪੁਲ ਤੋਂ ਲਿਆ ਗਿਆ ਹੈ। $5 = 200K ਟੋਕਨ।
ਹਾਂ — /v1/embeddings/ ਲਈ ਸਤਰ ਦੀ ਲਿਸਟ POST ਕਰੋ ਅਤੇ mxbai-embed-large-v1 ਇੱਕੋ ਕ੍ਰਮ ਵਿੱਚ ਵੈਕਟਰ ਦੀ ਲਿਸਟ ਵਾਪਸ ਕਰੇਗਾ। ਬੈਚ ਸਾਈਜ਼ ਪ੍ਰਤੀ ਬੇਨਤੀ 2,048 ਤੱਕ ਹੈ।
ਡਿਫਾਲਟ L2- ਨਾਰਮਲ — ਕੋਸਾਈਨ ਸਮਾਨਤਾ = ਬਿੰਦੂ ਉਤਪਾਦ । ਜੇ ਤੁਸੀਂ ਵੱਖਰੇ ਦੂਰੀ ਮੀਟਰਿਕ ਲਈ ਰਾਅ ਵੈਕਟਰ ਚਾਹੁੰਦੇ ਹੋ ਤਾਂ `normalize=false` ਦਿਓ ।
ਕੋਈ ਵੀ — Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB । mxbai-embed-large-v1 plain JSON floats ਦਿੰਦਾ ਹੈ; DB ਕਦੇ ਵੀ ਮਾਡਲ ਨਹੀਂ ਵੇਖਦਾ ਹੈ ।
ਹਾਂ — /v1/embeddings/ ਨੂੰ POST ਕਰਨ ਲਈ ਮਾਡਲ="mxbai-embed-large-v1" ਹੈ । OpenAI- ਅਨੁਕੂਲ ਜਵਾਬ ਫਾਰਮ, ਇਸ ਲਈ ਮੌਜੂਦਾ ਕਲਾਂਇਟ ਲਾਇਬਰੇਰੀਆਂ ਬਦਲੀਆਂ ਬਿਨਾਂ ਕੰਮ ਕਰਦੀਆਂ ਹਨ । /api/ ਵਿੱਚ ਪੂਰਾ ਹਵਾਲਾ ਹੈ ।
ਆਪਣਾ- ਹੋਸਟ ਮਾਡਲ ਤੁਹਾਡੇ ਟੈਕਸਟ ਨੂੰ ਸਾਡੇ GPU ਉੱਤੇ ਰੱਖਦਾ ਹੈ ਅਤੇ ਕਾਲ ਆਉਣ ਤੋਂ ਬਾਅਦ ਇਸ ਨੂੰ ਰੱਦ ਕਰਦਾ ਹੈ । ਪ੍ਰੀਮੀਅਮ ਇੱਕ DPA ਨਾਲ ਪਾਸ ਹੁੰਦਾ ਹੈ । ਅਸੀਂ ਤੁਹਾਡੇ ਇੰਪੁੱਟ ਉੱਤੇ ਟਰੇਨਿੰਗ ਨਹੀਂ ਦਿੰਦੇ ।
ਸਬ-100ms ਛੋਟੇ ਟੈਕਸਟ ਲਈ ਸਵੈ-ਹੋਸਟ, 100-500ms ਪ੍ਰੀਮੀਅਮ ਉੱਤੇ। ਬੈਚ ਕਾਲਾਂ ਲਗਭਗ ਰੇਖਿਕ ਤੌਰ ਤੇ ਸਕੇਲ ਹੁੰਦੀਆਂ ਹਨ - 1,000 ਟੁਕੜੇ2- 10 ਸਕਿੰਟ ਵਿੱਚ ਪੂਰੇ ਹੁੰਦੇ ਹਨ।
ਹਾਂ — Free.ai ਇੰਬੈੱਡਿੰਗਾਂ ਦਾ ਵਪਾਰਕ ਵਰਤੋਂ ਲਈ ਅਧਿਕਾਰ ਦਿੰਦਾ ਹੈ । ਨਿਰਮਾਣ ਖੋਜ, RAG ਪਾਈਪਲਾਈਨਾਂ, ਸਿਫਾਰਸ਼ ਸਿਸਟਮ ਬਿਨਾਂ ਕਿਸੇ ਪ੍ਰਤੀ ਵੈਕਟਰ ਰਿਆਇਤ ਦੇ ਬਣਾਓ ।