Nomic Embed v2
Free.ai (self-hosted)
·
embeddings
·
~100 бірліктегі жетондар call
Nomic Embed v2 — a ендіру моделі Nomic AI жасаған. Strongest at Retrieval augmented generation with flexible vector sizes.. Free.ai ГБ-қа дейінгі графикалық процессорларда өздігінен хостталған — күнделікті токендеріңізге қарсы тегін жұмыс істейді (100 токендері шақыру). Apache 2.0 лицензиясымен шығарылған - коммерциялық пайдалануға Free.ai-да рұқсат берілген.
Жиі қойылатын сұрақтар
Nomic Embed v2 мәтіннің мәнін сақтайтын тығыз векторға (жұмыс орны тізіміне) айналдырады. Оны семантикалық іздеу, топтау, ұсыныс, RAG және "мұның мәтініне ұқсас ма" деген сұрақтарға жауап беру үшін қолданыңыз.
Typical dimensions are 384, 768, 1024, or 1536 depending on the model. BGE-M3 emits 1024-dim; OpenAI Ada emits 1536. The API response includes the dimension so your vector DB picks the right index.
Жаңа ендіру модельдері (Free.ai- тың көп параметрлері қоса) 100- ден астам тілде оқытылады. Тіларалық іздеу жұмыс істейді - ағылшын тілінде іздеу, испан тілінде құжаттарды сәйкестендіру.
Модельге қарай 512- ден 8192- ке дейін жетон. Ұзын жазулар қысқартылып, ұзын құжаттарды ендіру алдында абзацтарға бөледі.
Nomic Embed v2 біздің өз графикалық процессорымызда жұмыс істейді және ең арзан құралдардың бірі - күнделікті тегін жинақтан бір шақыру үшін шамамен 100 жетон. $5 = 200K жетон.
Иә - POST / v1/ embeddings / дегенге жолдар тізімі мен Nomic Embed v2 дегенге сәйкес реттегі векторлар тізімі қайтарылады. Бір сұраныстағы дестенің өлшемі 2048- ке дейін.
Әдетте L2- нормалауы - косинус ұқсастық = нүктелік қосынды. Егер басқа қашықтық метрикалық үшін қарапайым векторды алғыңыз келсе, 'normalize=false' дегенді келтіріңіз.
Барлық - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. Nomic Embed v2 тек JSON жылжымалы мәндерін қайтарады; DB модельді көрмейді.
Иә - POST / v1/ embeddings / дегенге model=" Nomic Embed v2 "мен. OpenAI- ге сәйкесті жауап пішімі, сондықтан бар клиент жиындары өзгеріссіз жұмыс істейді. / api / толық сілтемесі бар.
Өзі хосттаған модельдер мәтініңізді графикалық процессорында сақтап, шақыру қайтарылған соң оны ысырып тастайды. Premium DPA арқылы өтіп кетеді. Біз енгізілгенін үйренбейміз.
Өзіңіздің хостта қысқа мәтін үшін 100 мсек- те, премиумда 100- 500 мсек- те. Батты шақыру шамамен сызықтық масштабта - 1000 фрагмент 2- 10 секундта орындалады.
Иә - Free.ai ендірулерді коммерциялық пайдалануға рұқсат береді. Вектор бойынша авторлық ақысыз өндірістік іздеу, RAG конвейерлері, ұсыныс жүйелерін құру.