Nomic Embed v2
Free.ai (self-hosted)
·
embeddings
·
~100 жетон/ секунд call
Nomic Embed v2 — a ендіру моделі Nomic AI жасаған. 1995 жылы «Бесінші арна» (қаз. Free.ai ГБ-қа дейінгі графикалық процессорларда өздігінен хостталған — күнделікті токендеріңізге қарсы тегін жұмыс істейді (100 токендері шақыру). Released under Apache 2.0 — commercial use permitted on Free.ai.
API арқылы қолдану
OpenAI-ге сәйкесті REST API. Кілт құрып, осы модельді секундтар ішінде шақыру.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"nomic-embed-v2","prompt":"your prompt here"}'Жиі қойылатын сұрақтар
Nomic Embed v2 мәтіннің мәнін анықтайтын тығыз векторға (жұмыс орнының тізіміне) айналдырады. Оны семантикалық іздеу, кластерлеу, ұсыну, іздеуді жетілдіру үшін және "мұның мәтініне ұқсас ма" деген сұрақ туындайтын кез келген тапсырма үшін қолданыңыз.
Үлгісіне қарай әдетте өлшемі 384, 768, 1024 немесе 1536. BGE-M3 1024- dim; OpenAI Ada 1536. API жауапында өлшемі бар, сондықтан векторлық деректер қоры дұрыс индексті таңдайды.
Жаңа ендіру үлгілері (Free.ai- дегі параметрлердің көпшілігімен бірге) 100- ден астам тілде оқытылады. Тіларалық іздеу жұмыс істейді — ағылшын тілінде іздеу, испан тілінде құжаттарды сәйкестендіру.
Модельге қарай 512- ден 8192- ке дейін жетон. Ұзын құжаттар қысқартылып, ендірілу алдында абзацтарға бөлінеді.
Nomic Embed v2 біздің өз графикалық процессорларымызда жұмыс істейді және ең арзан құралдардың бірі — күнделікті тегін жинақтан бір шақыру үшін шамамен ~100 жетон. $5 = 200K жетон.
Иә — /v1/embeddings/ дегенге жолдар тізімі POST жіберіледі, ал Nomic Embed v2 деген осы ретпен векторлар тізімін қайтарады. Бір сұраныс бойынша пакеттің өлшемі 2048- ге дейін.
Әдетте L2- нормалауы - косинус ұқсастық = нүктелік қосынды. Егер басқа қашықтық метрикалық үшін қарапайым векторды алғыңыз келсе, 'normalize=false' дегенді келтіріңіз.
Барлық — Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. Nomic Embed v2 тек JSON мәндерін қайтарады; DB модельді ешқашан көрмейді.
Иә — POST to /v1/embeddings/ with model="Nomic Embed v2". OpenAI-ге сәйкес жауап пішіні, сондықтан бар клиент жиындары өзгеріссіз жұмыс істейді. /api/ толық сілтемесі бар.
Өз- өзімен жұмыс істейтін модельдер мәтініңізді графикалық процессорларда сақтап, шақыру қайтарылған соң оны ысырып тастайды. Premium DPA арқылы өтіп кетеді. Біз сіздің енгізіміңізді оқымаймыз.
Өз-өзіне қызмет көрсетуде қысқа мәтін үшін 100-500 мс, жоғары деңгейде 100-500 мс. Батты шақырулар шамамен сызықтық масштабта — 1000 фрагмент 2-10 секундта орындалады.
Иә — Free.ai ендірулерді коммерциялық пайдалануға рұқсат береді. Вектор бойынша авторлық ақысыз өндірістік іздеу, RAG конвейерлері, ұсыныс жүйелерін құру.