BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 žetona po call
BGE-M3 je an ugrađeni model izgrađen od BAAI. Najjači u Text embeddings, semantic search. Samodobavljeni na Free.ai GPU-ova — trči besplatno na vaš dnevni žeton bazen (100 žetoni po pozivu). Pušteno pod MIT - komercijalna upotreba dopuštena na Free.ai.
Koristi preko API
OpenAI kompatibilan REST API. Generiraj ključ i nazovi ovaj model u sekundama.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'Česta pitanja
BGE-M3 pretvara tekst u gusti vektor (lista plovaka) koji hvata značenje. Koristite ga za semantičko pretraživanje, klasteriranje, preporuke, retriver-augumented generacije (RAG), i bilo koji zadatak gdje "je ovaj tekst sličan tom tekstu" važno.
Tipične dimenzije su 384, 768, 1024 ili 1536 ovisno o modelu. BGE-M3 emituje 1024-dim; OpenAI Ada emituje 1536. API odgovor uključuje dimenziju tako da vaš vektor DB odabere pravi indeks.
Moderni modeli ugradnje (uključujući većinu opcija na Free.ai) obučeni su na 100+ jezika. Preko jezika retriveral djela - pretraživanje na engleskom jeziku, meč dokumenti na španjolskom.
512 do 8,192 žetona ovisno o modelu. Dulji ulazni ulazi su odrezani - komad dugačke dokumente u odlomak prije ugradnje.
BGE-M3 radi na vlastiti GPU i jedan je od najjeftinijih alata - oko ~100 žetona po pozivu izvučenom iz dnevnog besplatnog bazena. $5 = 200K žetona.
Da - POST popis nizova na /v1/promjenu / i BGE-M3 vraća popis vektora u istom redu. Brojna veličina do 2,048 po zahtjevu.
L2-normalizirano zadano - kosinus sličnost = tačka proizvod. Prebacite `normalize=false' ako želite sirove vektore za različitu udaljenost metriku.
Bilo - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3 vraća obični JSON pluta; DB nikada ne vidi model.
Da - POST do /v1/pronevjere/ s modelom="BGE-M3". OpenAI-kompatibilan odgovor oblik, tako postojeće knjižnice klijenta raditi nepromijenjeno. /api/ ima punu referencu.
Samo-domaćinski modeli zadržati tekst na našim GPU-ovima i odbaciti ga nakon povratka poziva. Premium proći s DPA. Mi ne trenirati na ulaza.
Pod-100ms za kratak tekst na samo-hosted, 100-500ms na premiju. Parsy pozivi otprilike linearno - 1000 komada kompletan u 2-10 sekundi.
Da - Free.ai dodjeljuje komercijalnu upotrebu ugradnji. Izgraditi proizvodnu pretragu, RAG gasovoda, preporuke sustava bez per-vertor royalty.