BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 tokens għal kull call
BGE-M3 huwa a mudell ta’ inkorporazzjoni mibni minn BAAI. L-aktar b'saħħitha fil Text embeddings, semantic search. Awto-ospitati fuq Free.ai GPUs — timxi b'xejn kontra pool token kuljum tiegħek (100 tokens għal kull sejħa). Rilaxxati taħt MIT - użu kummerċjali permess fuq Free.ai.
Użu permezz ta’ API
OpenAI-kompatibbli REST API. Jiġġeneraw ċavetta u sejħa dan il-mudell fis-sekondi.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Mistoqsijiet Frekwenti (FAQ)
BGE-M3 jikkonverti test f'vettur densi (lista ta' floats) li jaqbad tifsira.Użah għal tiftix semantiku, clustering, rakkomandazzjoni, ġenerazzjoni rkupru-augmented (RAG), u kull kompitu fejn "huwa dan it-test simili għal dak it-test" materji.
Dimensjonijiet tipiċi huma 384, 768, 1024, jew 1536 skond il-mudell. BGE-M3 emits 1024-dim; OpenAI Ada emits 1536.-rispons API jinkludi l-dimensjoni hekk DB vector tiegħek picks l-indiċi dritt.
Mudelli moderni inkorporazzjoni (inklużi ħafna għażliet fuq Free.ai) huma mħarrġa fuq 100 + lingwi. Cross-lingwa xogħlijiet irkupru - tfittxija bl-Ingliż, dokumenti jaqblu bl-Ispanjol.
512 sa 8,192 tokens jiddependi fuq il-mudell.Inputs itwal huma maqtugħa - chunk dokumenti twal f'paragrafi qabel l-inkorporazzjoni.
BGE-M3 timxi fuq GPUs tagħna stess u huwa fost l-għodod irħas - madwar ~100 tokens kull sejħa miġbuda mill-pool ħielsa kuljum tiegħek. $5 = 200K tokens.
Iva - POST lista ta strings biex /v1/embeddings/ u BGE-M3 jirritorna lista ta vetturi fl-istess ordni.daqs tal-lott sa 2,048 għal kull talba.
L2-normalizzata b'mod default - similitudni cosine = dot prodott. Pass `normalize=false` jekk inti tixtieq vetturi mhux maħdumin għal metrika distanza differenti.
Kull - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 jirritorna floats JSON sempliċi; il-DB qatt ma jara l-mudell.
Iva - POST għal /v1/embeddings/ b'model="BGE-M3". OpenAI-kompatibbli forma rispons, hekk libreriji klijent eżistenti jaħdmu mhux mibdula. /api/ għandha r-referenza sħiħa.
Mudelli awto-ospitati jżommu t-test tiegħek fuq il-GPUs tagħna u jarmu wara li s-sejħa tirritorna. Premium jgħaddi minn DPA. Aħna ma nħarrġux fuq l-inputs tiegħek.
Sub-100ms għal test qasir fuq awto-ospitati, 100-500ms fuq premium.Lott sejħiet skala bejn wieħed u ieħor lineari - 1,000 biċċiet kompluta fi 2-10 sekondi.
Iva - Free.ai jagħti użu kummerċjali tal-embeddings.Bini tfittxija tal-produzzjoni, pipelines RAG, sistemi ta'rakkomandazzjoni mingħajr royalty per-vettur.