Nomic Embed v2
Free.ai (self-hosted)
·
embeddings
·
~100 Тоглоомын тэмдэгт call
Nomic Embed v2 нь a Хуваалцах нь Nomic AI-ийн бүтээсэн. Хамгийн хүчтэй нь Retrieval augmented generation with flexible vector sizes.. Free.ai GPU дээр өөрийн хосттой — таны өдөр тутмын токен нөөц (100 токен дуудлага бүрт)-ийн эсрэг үнэгүй ажиллана. Apache 2.0 - Free.ai дээр худалдааны зорилгоор ашиглах зөвшөөрөлтэй.
Заримдаа асуудаг асуултууд
Nomic Embed v2 нь текстийг утга агуулсан нягт вектор (хөлсөгч тооны жагсаалт) болгон хувиргаж өгдөг. Энэхүү функцийг семантик хайлт, багцлах, зөвлөмж, олж авах- нэмэгдүүлсэн үүсгэх (RAG) болон "энэ текст нь энэ тексттэй адилхан уу" гэсэн асуултанд хариулах зорилгоор ашиглана.
Жишээ нь 384, 768, 1024, эсвэл 1536 хэмжээсүүд загвараас хамаарна. BGE-M3 нь 1024-dim, OpenAI Ada нь 1536-dim-ийг гаргана. API хариулт нь хэмжээсийг агуулдаг тул векторын өгөгдлийн сан зөв индексийг сонгоно.
Шинэ үеийн нийлэг загварууд (Free.ai дээрх олон сонголтуудыг багтаасан) 100+ хэл дээр сургагджээ. Хэл хоорондын олж авах ажил - Англиар хайх, Испаниар тохирох баримтууд.
Модельээс хамааран 512- 8192 тэмдэгт. Хэт урт бичлэгийг тасална - өргөтгөл оруулахаасаа өмнө урт баримтыг параграф болгон хуваана.
Nomic Embed v2 нь бидний GPU дээр ажилладаг бөгөөд хамгийн хямд хэрэгсэлүүдийн нэг юм - өдөр тутмын үнэгүй нөөцөөс дуудлага бүрт ~100 токен авч болно. $5 = 200K токен.
Тийм - POST strings list to /v1/embeddings/ and Nomic Embed v2 returns vector list in the same order. Batch size up to 2048 per request.
L2- нийцсэн - косинус адилтгал = цэг үржүүлэг. Хэрэв та өөр зайны метрикийн хувьд түүхий векторыг хүсвэл 'normalize=false' - ийг өгнө үү.
Any - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. Nomic Embed v2 нь JSON- ийн хөдөлгөөнт тоог эргүүлж өгдөг; DB- ийн загварыг хэзээ ч харахгүй.
Тийм ээ - POST to /v1/embeddings/ with model="Nomic Embed v2". OpenAI-тай нийцсэн хариултын хэлбэр, одоогийн үйлчлүүлэгчдийн сангууд өөрчлөгдөөгүйгээр ажиллана. /api/ нь бүрэн холбоостой.
Өөрийн сервертэй загварууд таны текстийг график процессороор хадгалж, дуудлага ирэхэд устгана. Premium нь DPA- гаар дамжуулна. Бид таны оруулсан мэдээллийг ашиглахгүй.
Өөрийн сервер дээр богино текстийн хувьд 100мс-ээс бага, үнэтэй сервер дээр 100-500мс. Бүтээгдэхүүний дуудлага нь ойролцоогоор шугаман хэмжээтэй - 1000 хэсгийг 2-10 секундэд гүйцэтгэнэ.
Тийм ээ - Free.ai нь нийлмэлүүдийг бизнесийн зорилгоор ашиглах эрх олгодог. Вектор бүрийн төлбөргүйгээр хайлт, RAG хоолой, зөвлөгөөний системийг бүтээ.