BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 žetonov na call
BGE-M3 je a model vgradnje, ki ga zgradi BAAI. Najmočnejši v Text embeddings, semantic search. Samostojni gostitelj na Free.ai GPU – teče brezplačno proti vašemu dnevnemu žeton bazenu (100 žetonov na klic). Izpuščeno pod MIT - komercialna uporaba dovoljena na Free.ai.
Uporaba prek API
OpenAI- kompatibilen REST API. Ustvarite ključ in pokličite ta model v sekundah.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Pogosta vprašanja
BGE-M3 pretvori besedilo v gost vektor (seznam plaval), ki zajame pomen. Uporabi ga za semantično iskanje, klasteriranje, priporočilo, pridobivanje-augumented generacije (RAG) in vsako nalogo, kjer je "je to besedilo podobno temu besedilu" pomembno.
Tipične dimenzije so 384, 768, 1024 ali 1536 odvisno od modela. BGE-M3 oddaja 1024-dim; OpenAI Ada oddaja 1536. Odziv API vključuje dimenzijo, tako da vaš vektor DB izbere pravi indeks.
Moderni modeli vgradnje (vključno z večino možnosti na Free.ai) so izurjeni na 100+ jezikih. Prečiščevanje del - iskanje v angleščini, tekmovanje dokumentov v španščini.
512 do 8,192 žetoni, odvisno od modela. Več vhodov so skrajšani - del dolge dokumente v odstavke pred vgradnjo.
BGE-M3 teče na lastne GPU in je med najcenejšimi orodji - približno ~100 žetonov na klic iz vašega dnevnega brezplačnega bazena. $5 = 200K žetonov.
Da - POST seznam nizov na /v1/pošiljke / in BGE-M3 vrne seznam vektorjev v istem vrstnem redu. Velikost serije do 2,048 na zahtevo.
L2-normalizirano privzeto - kosinus podobnost = točka izdelek. Preskoči `normalize=false`, če želite surove vektorje za drugačno metrično razdaljo.
Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 vrne navadni JSON plava; DB nikoli ne vidi modela.
Da - POST do /v1/poštnih/ z modelom="BGE-M3". Oblika z združljivo OpenAI odziv, tako da obstoječe knjižnice strank delujejo nespremenjeno. /api / ima polno referenco.
Samostojni modeli obdržijo vaše besedilo na naših GPU in ga zavrzite po povratku klica. Premium prehod z DPA. Ne treniramo na vhodih.
Pod-100ms za kratko besedilo na samostojni, 100-500ms na premijo. Serija klici lestvica približno linearno - 1000 kosov dokončno v 2-10 sekundah.
Da - Free.ai dodeljuje komercialno uporabo vgradnje. Gradnja proizvodnega iskanja, RAG cevovodov, priporočljivih sistemov brez per-verter royalty.