BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 simboliai call
BGE-M3 yra a įterptas modelis sukurtas BAAI. Stipriausi Text embeddings, semantic search. Savarankiškas Free.ai GPU – bėga nemokamai nuo savo kasdienių žetonų baseinas ({tpm__markes} Kiekvienam kvietimui). Išleista pagal MIT – komercinis naudojimas leidžiamas Free.ai.
Naudoti per API
OpenAI suderinama REST API. Generuokite raktą ir paskambinkite šiam modeliui per kelias sekundes.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Dažnai užduodami klausimai
BGE-M3 konvertuoja tekstą į tankų vektorių (plokštelių sąrašą), kuris fiksuoja prasmę. Naudokite jį semantinei paieškai, grupavimui, rekomendacijai, gavybai (RAG) ir bet kokiai užduočiai, kai „šis tekstas panašus į tą tekstą“.
Tipiški matmenys yra 384, 768, 1024, arba 1536, priklausomai nuo modelio. BGE-M3Emissions 1024-dim; OpenAI Ada išskiria 1536. API atsakas apima matmenį, kad jūsų vektorius DB pasirenka tinkamą indeksą.
Šiuolaikiniai integravimo modeliai (įskaitant daugumą pasirinkimų Free.ai) yra mokomi 100+ kalbomis. Kryžminės kalbos paieškos darbai – paieška anglų kalba, rungtynės dokumentai ispanų kalba.
Nuo 512 iki 8,192 simbolių priklausomai nuo modelio. Ilgesni įėjimai yra sutrumpinti — gabalėlis ilgi dokumentai į dalis prieš įterpiant.
BGE-M3 veikia mūsų pačių GPU ir yra vienas iš pigiausių įrankių — apie ~100 žetonų vienam skambučiui iš jūsų kasdienio nemokamo baseino. $5 = 200K žetonai.
Taip — Padėkite eilučių sąrašą į /v1/embeddings/ ir BGE-M3 grąžinkite vektorių sąrašą ta pačia tvarka. Partijos dydis iki 2,048 užklausai.
L2- normalizuotas pagal nutylėjimą — kosinusas panašumas = dotas produktas. Pass `normalizuoti=false' jei norite žaliavinių vektorių kitam atstumo metrikui.
Any — Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 returns plain JSON floats; the DB never sees the model.
Taip — Point to /v1/embeddings/ with model="BGE-M3". OpenAI suderinamo atsakymo forma, todėl esamos klientų bibliotekos veikia nepakeistos. /api/ turi visą nuorodą.
Savarankiški modeliai išlaikyti savo tekstą ant mūsų GPU ir išmesti jį po skambučio grįžta. Premium praeiti su DPA. Mes ne mokyti jūsų įvesties.
Sub-100m už trumpą tekstą ant savarankiškai-hosted, 100-500m ant premium. Partijos skambučių skalė maždaug tiesiškai — 1000 lubų baigti per 2-10 sekundžių.
Taip — Free.ai suteikia galimybę komerciniais tikslais naudoti įterpimus; kuria gamybos paiešką, RPG vamzdynus, rekomendacines sistemas, neturinčias pervektoriaus autorinio atlyginimo.