Nomic Embed v2
Free.ai (self-hosted)
·
embeddings
·
~100 žetonai call
Nomic Embed v2 yra an integravimo modelis sukurtas Nomic AI. Stipriausi ties Retrieval augmented generation with flexible vector sizes.. Savarankiškas Free.ai GPU – bėga nemokamai nuo savo kasdienių žetonų baseinas ({tpm__markes} vienam kvietimui). Išleistas pagal Apache 2.0 - leidžiamas komercinis naudojimas Free.ai.
Dažnai užduodami klausimai
Nomic Embed v2 konvertuoja tekstą į tankų vektorių (plokštelių sąrašą), kuris surenka prasmę. Naudokite jį semantinei paieškai, grupavimui, rekomendacijai, išgavimo kartai (RAG) ir bet kokiai užduočiai, kai „ yra panašus į tą tekstą“ svarbus tekstas.
Tipiniai matmenys yra 384, 768, 1024, arba 1536 priklausomai nuo modelio. BGE-M3 išskiria 1024-dim; OpenAI Ada išskiria 1536. API atsakas apima matmenis, kad jūsų vektorius DB pasirenka tinkamą indeksą.
Šiuolaikiniai integravimo modeliai (įskaitant daugumą galimybių Free.ai) yra mokomi 100+ kalbomis. Kryžminės kalbos paieškos darbai - paieška anglų kalba, rungtynių dokumentai ispanų kalba.
512 iki 8,192 žetonai priklausomai nuo modelio. Ilgesni įėjimai yra sutrumpinti - gabalėlis ilgi dokumentai į punktus prieš integruojant.
Nomic Embed v2 veikia mūsų pačių GPU ir yra vienas iš pigiausių įrankių - apie ~100 žetonų už skambutį, sudarytą iš jūsų kasdien nemokamai baseinas. $5 = 200K žetonai.
Taip -Padėkite eilučių sąrašą /v1/embeddings/ ir Nomic Embed v2 grąžinkite vektorių sąrašą tokia pačia tvarka. Partijos dydis iki 2,048 užklausai.
L2- normalizuotas pagal numatytąjį - kosinusas panašumas = dotas produktas. Pass `normalizuoti=false' jei norite žaliavinių vektorių kitam atstumo metrikacijai.
Bet koks - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. Nomic Embed v2 grąžina lygūs JSON plūdės; DB niekada nemato modelio.
Taip - Point to /v1/embeddings/ with model="Nomic Embed v2". OpenAI suderinama atsako forma, todėl esamos kliento bibliotekos veikia nepakeistos. /api/ turi visą nuorodą.
Savarankiškai prieinamos formos išsaugo jūsų tekstą ant mūsų GPU ir jį išmesti po skambučio grįžta. Premium perduoti su DPA. Mes ne mokyti jūsų įėjimo.
Sub-100ms už trumpą tekstą savarankiškai-hosted, 100-500m ant premium. Partijos skambučių skalė maždaug linijiniu - 1000 gabaliukų baigti per 2-10 sekundžių.
Taip - Free.ai suteikia komercinį įterpimų naudojimą. Kurkite gamybos paiešką, RPG vamzdynus, rekomendacines sistemas be per-vector autorinio atlyginimo.