BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 توکي په call
BGE-M3 د a نغوتې لخوا جوړ شوی BAAI. په Text embeddings, semantic search کې تر ټولو قوي. په Free.ai GPUs کې ځان کوربه - ستاسو د ورځني ټوکن پوټ (100 ټوکنونه په اړيکنيو کې) په وړاندې وړیا چلیږي. د MIT لاندې خپور شوی - د سوداګرۍ کارولو لپاره اجازه ورکړل شوې Free.ai.
د API له لارې کارول
OpenAI-متوافق REST API. د کیلي تولید او په ثانیو کې دا ماډل ووایاست.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'ډېرې پوښتنې
BGE-M3 متن په یو کثافت وکتور (د بادونو لیست) بدلوي چې معنی یې نیولې. د سیمنټیک لټون، کلستر، وړاندیز، د راټولولو زیاتوالی نسل (RAG) لپاره یې وکاروئ، او هر هغه کار چې "دا متن د دې متن سره ورته دی" مهم دی.
د ماډل په اړه د 384، 768، 1024، یا 1536 ځانګړي ابعاد دي. BGE-M3 د 1024-dim خپروي؛ OpenAI Ada د 1536 خپروي. د API ځواب کې د ابعاد شامل دي نو ستاسو وکتور DB د ښي شاخص غوره کوي.
عصري embedding ماډلونه (په شمول د Free.ai په اړه ډیری اختیارونه) د 100 + ژبو کې روزل شوي. د کراس ژبې ترلاسه کولو کارونه - په انګلیسي کې لټون، په هسپانوي کې د سندونو مطابقت.
512 ته 8،192 توکي د ماډل پورې اړه لري. اوږدې ننوتې لنډ شوي - د embedding څخه مخکې په فقرو کې اوږدې اسناد.
BGE-M3 زموږ په خپلو GPUs کې چلیږي او د ارزانه وسیلو څخه دی - د ~ 100 توکو په اړه د هرې ورځې څخه د وړیا پوښ څخه راټول شوي. $ 5 = 200K توکو.
هو - د / v1 / embeddings / او BGE-M3 ته د تارونو لیست پوسټ کړئ په ورته ترتیب کې د وکتورونو لیست بیرته راځي. د هر غوښتنې لپاره تر 2,048 پورې اندازه اندازه.
L2-normalized په تلواله - cosine ورته = ټکی محصول. د `normalize = false` پاس که تاسو د يو مختلف واټن متريک خام وکتورونه غواړئ.
هرڅه - Pinecone، Weaviate، Qdrant، Chroma، pgvector، FAISS، LanceDB. BGE-M3 د ساده JSON فلوټونه بیرته ستنوي؛ DB هیڅکله ماډل نه ګوري.
هو - د / v1 / embeddings / سره د POST سره د ماډل "BGE-M3". د OpenAI-متوافق ځواب شکل، نو د موجوده پیرودونکي کتابتونونه کار کوي. / api / بشپړ حواله لري.
د ځان کوربه شوي ماډلونه ستاسو متن زموږ په GPUs کې وساتئ او د زنګ وروسته یې لرې کړئ. د DPA سره د پریمیم له لارې تیریږي. موږ ستاسو د انټرنیټونو پرمخ نه ځو.
د ځان کوربه کولو لپاره د لنډ متن لپاره د 100-500ms لپاره د 100-500ms لپاره. د ګروپ غږونه په خطي ډول اندازه کیږي - د 1,000 ټوټې په 2-10 ثانیو کې بشپړ شوي.
هو - Free.ai د embeddings سوداګریز کارولو ته اجازه ورکوي. د تولید لټون، د RAG پایپ لاینونه، د وړاندیز سیسټمونه پرته له کوم پر وکتور رییلټ سره.