BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 žetonai call
BGE-M3 yra an integravimo modelis sukurtas BAAI. Stipriausi ties Text embeddings, semantic search. Savarankiškas Free.ai GPU – bėga nemokamai nuo savo kasdienių žetonų baseinas ({tpm__markes} vienam kvietimui). Išleistas pagal MIT - leidžiamas komercinis naudojimas Free.ai.
Naudoti per API
Suderinama su OpenAI REST API. Generuokite raktą ir paskambinkite šiam modeliui per kelias sekundes.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Dažnai užduodami klausimai
BGE-M3 konvertuoja tekstą į tankų vektorių (plokštelių sąrašą), kuris surenka prasmę. Naudokite jį semantinei paieškai, grupavimui, rekomendacijai, išgavimo kartai (RAG) ir bet kokiai užduočiai, kai „ yra panašus į tą tekstą“ svarbus tekstas.
Tipiniai matmenys yra 384, 768, 1024, arba 1536 priklausomai nuo modelio. BGE-M3 išskiria 1024-dim; OpenAI Ada išskiria 1536. API atsakas apima matmenis, kad jūsų vektorius DB pasirenka tinkamą indeksą.
Šiuolaikiniai integravimo modeliai (įskaitant daugumą galimybių Free.ai) yra mokomi 100+ kalbomis. Kryžminės kalbos paieškos darbai - paieška anglų kalba, rungtynių dokumentai ispanų kalba.
512 iki 8,192 žetonai priklausomai nuo modelio. Ilgesni įėjimai yra sutrumpinti - gabalėlis ilgi dokumentai į punktus prieš integruojant.
BGE-M3 veikia mūsų pačių GPU ir yra vienas iš pigiausių įrankių - apie ~100 žetonų už skambutį, sudarytą iš jūsų kasdien nemokamai baseinas. $5 = 200K žetonai.
Taip -Padėkite eilučių sąrašą /v1/embeddings/ ir BGE-M3 grąžinkite vektorių sąrašą tokia pačia tvarka. Partijos dydis iki 2,048 užklausai.
L2- normalizuotas pagal numatytąjį - kosinusas panašumas = dotas produktas. Pass `normalizuoti=false' jei norite žaliavinių vektorių kitam atstumo metrikacijai.
Bet koks - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 grąžina lygūs JSON plūdės; DB niekada nemato modelio.
Taip - Point to /v1/embeddings/ with model="BGE-M3". OpenAI suderinama atsako forma, todėl esamos kliento bibliotekos veikia nepakeistos. /api/ turi visą nuorodą.
Savarankiškai prieinamos formos išsaugo jūsų tekstą ant mūsų GPU ir jį išmesti po skambučio grįžta. Premium perduoti su DPA. Mes ne mokyti jūsų įėjimo.
Sub-100ms už trumpą tekstą savarankiškai-hosted, 100-500m ant premium. Partijos skambučių skalė maždaug linijiniu - 1000 gabaliukų baigti per 2-10 sekundžių.
Taip - Free.ai suteikia komercinį įterpimų naudojimą. Kurkite gamybos paiešką, RPG vamzdynus, rekomendacines sistemas be per-vector autorinio atlyginimo.