BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 tokens għal kull call
BGE-M3 huwa a mudell ta’ inkorporazzjoni mibni minn BAAI. L-aktar b'saħħitha fil-Text embeddings, semantic search. Awto-ospitati fuq Free.ai GPUs — timxi b'xejn kontra pool token kuljum tiegħek (100 tokens għal kull sejħa). Rilaxxat taħt MIT — użu kummerċjali permess fuq Free.ai.
Użu permezz tal-API
OpenAI-kompatibbli REST API. Jiġġeneraw ċavetta u sejħa dan il-mudell f'sekondi.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Mistoqsijiet li jsiru ta’ spiss
BGE-M3 jikkonverti test f'vettur dens (lista ta' numri li jvarjaw) li jaqbad it-tifsira.Użah għal tiftix semantiku, raggruppament, rakkomandazzjoni, ġenerazzjoni miżjuda bl-irkupru (RAG), u kwalunkwe kompitu fejn "dan it-test huwa simili għal dak it-test" huwa importanti.
Dimensjonijiet tipiċi huma 384, 768, 1024, jew 1536 skond il-mudell. BGE-M3 jarmi 1024-dim; OpenAI Ada jarmi 1536. ir-rispons API jinkludi d-dimensjoni sabiex vector DB tiegħek picks l-indiċi dritt.
Mudelli moderni ta' inkorporazzjoni (inklużi ħafna għażliet fuq Free.ai) huma mħarrġa fuq 100+ lingwa.Xogħol ta' rkupru bejn il-lingwi — tfittxija bl-Ingliż, taqbila ta' dokumenti bl-Ispanjol.
512 sa 8,192 tokens jiddependi fuq il-mudell.Inputs itwal huma maqtugħin — chunk dokumenti twal f'paragrafi qabel l-inkorporazzjoni.
BGE-M3 timxi fuq tagħna stess GPUs u huwa fost l-għodod irħas - madwar ~ 100 tokens għal kull sejħa miġbuda mill-pool ħielsa tiegħek kuljum. $ 5 = 200K tokens. BGE-M3
Iva — POST lista ta' strings għal /v1/embeddings/ u BGE-M3 jirritorna lista ta' vetturi fl-istess ordni. Daqs tal-lott sa 2,048 għal kull talba.
L2-normalizzat b'mod default — similitudni cosine = dot prodott. Pass `normalize = false` jekk inti tixtieq vetturi mhux maħdumin għal metrika distanza differenti.
Kull — Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 jirritorna floats JSON sempliċi; id-DB qatt ma jara l-mudell.
Iva — POST għal /v1/embeddings/ b'model="BGE-M3". Forma ta' tweġiba kompatibbli ma' OpenAI, sabiex il-libreriji tal-klijent eżistenti jaħdmu mingħajr ma jinbidlu. /api/ għandu r-referenza sħiħa.
Mudelli awto-ospitati jżommu t-test tiegħek fuq il-GPUs tagħna u jarmu wara li s-sejħa tirritorna. Premium jgħaddi minn DPA. Aħna ma nħarrġux fuq l-inputs tiegħek.
Sub-100ms għal test qasir fuq awto-ospitati, 100-500ms fuq premium.Sejħiet lott skala bejn wieħed u ieħor linearment - 1,000 biċċiet kompluta fi 2-10 sekondi.
Iva — Free.ai tagħti użu kummerċjali ta’ embeddings.Bini ta’ tfittxija tal-produzzjoni, pipelines RAG, sistemi ta’ rakkomandazzjoni mingħajr royalty għal kull vettur.