BGE-M3
Free.ai (self-hosted)
·
embeddings
·
~100 토큰당 call
BGE-M3 는 a 임베디드 모델 로 BAAI 에 의해 만들어졌습니다. Strongest at Text embeddings, semantic search. Free.ai GPU에서 자체 호스팅 — 일일 토큰 풀(100 토큰 통화당)에서 무료로 실행됩니다. 라이선스 MIT - 상업적 사용은 Free.ai에 의해 허용.
API를 통해 사용
OpenAI 호환 REST API. 키를 생성하고 몇 초 안에 이 모델을 호출합니다.
curl -X POST https://api.free.ai/v1/image/generate/ \
-H "Authorization: Bearer sk-free-..." \
-H "Content-Type: application/json" \
-d '{"model":"bge-m3","prompt":"your prompt here"}'자주 묻는 질문
BGE-M3는 텍스트를 의미를 포착하는 밀도 벡터(부동수 목록)로 변환합니다. 의미 검색, 클러스터링, 추천, 검색 증강 생성(RAG) 및 "이 텍스트가 그 텍스트와 유사한가"가 중요한 모든 작업에 사용합니다.
일반적인 치수는 모델에 따라 384, 768, 1024 또는 1536입니다. BGE-M3는 1024-dim을 발생시키고 OpenAI Ada는 1536을 발생시킵니다. API 응답에는 치수가 포함되므로 벡터 DB가 올바른 인덱스를 선택합니다.
현대 삽입 모델 (Free.ai에 대부분의 옵션을 포함)은 100 개 이상의 언어로 훈련됩니다. 크로스 언어 검색 작업 - 영어로 검색, 스페인어로 문서를 일치.
모델에 따라 512에서 8,192 토큰까지 길어진 입력은 잘라집니다 - 길어진 문서를 삽입하기 전에 단락으로 쪼개십시오.
BGE-M3는 우리의 GPU에서 실행되며 가장 저렴한 도구 중 하나입니다 - 일일 무료 풀에서 콜당 ~ 100 토큰을 그립니다. $5 = 200K 토큰.
네 - /v1/embeddings/에 문자열 목록을 POST하고 BGE-M3는 동일한 순서로 벡터 목록을 반환합니다. 요청당 최대 2,048의 배치 크기.
기본적으로 L2-normalized - cosine similarity = dot product. 다른 거리 측정에 대한 원시 벡터를 원한다면 `normalize=false`를 전달합니다.
Any - Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. BGE-M3는 일반 JSON 부동수를 반환하며 DB는 모델을 보지 못합니다.
예 - model="BGE-M3"로 /v1/embeddings/에 POST. OpenAI 호환 응답 형태, 기존 클라이언트 라이브러리가 변경되지 않고 작동합니다. /api/는 전체 참조를 가지고 있습니다.
셀프 호스팅 모델은 텍스트를 GPU에 저장하고 호출이 돌아오면 삭제합니다. 프리미엄은 DPA를 통해 통과합니다. 우리는 귀하의 입력에 대해 트레이닝을 하지 않습니다.
자체 호스팅에서 짧은 텍스트에 대한 100ms 미만, 프리미엄에서 100-500ms. 일괄 호출은 대략 선형적으로 확장 - 1,000 chunk 2-10 초에 완료.
예 - Free.ai 임베딩의 상업적 사용을 부여합니다. 생산 검색, RAG 파이프 라인, 벡터 당 로열티없이 추천 시스템을 구축.