EmbeddingGemma 2

Free.ai (self-hosted) · embeddings · ~100 tokens por call
~100 tokens por call

EmbeddingGemma 2 é an embedding model construído por Google DeepMind. Máis forte en Multilingual semantic search, code search, clustering and RAG with smaller vectors.. Auto- hospedado en GPUs Free.ai - executa libremente contra o seu conxunto diario de tokens (100 tokens por chamada). Publicado baixo Apache 2.0 - uso comercial permitido baixo Free.ai.

Usar a API

API REST compatíbel con OpenAI. Xere unha chave e chame a este modelo en segundos.

curl -X POST https://api.free.ai/v1/embeddings/ \
  -H "Authorization: Bearer sk-free-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"embeddinggemma-2","input":["first text","second text"]}'
Documentación da API Obter clave de API

Preguntas frecuentes

EmbeddingGemma 2 converte texto nun vector denso (unha lista de números decimais) que recolle o significado. Úsao para busca semántica, agrupamento, recomendación, xeración aumentada por recuperación (RAG) e calquera tarefa na que importe saber se un texto é semellante a outro.

As dimensións habituais son 384, 768, 1024 ou 1536 segundo o modelo. BGE-M3 xera 1024 dimensións; OpenAI Ada xera 1536. A resposta da API inclúe a dimensión para que a túa base de datos vectorial escolla o índice correcto.

Os modelos de embeddings modernos (incluídas a maioría das opcións de Free.ai) están adestrados en máis de 100 idiomas. A recuperación entre idiomas funciona: busca en inglés e atopa documentos en español.

De 512 a 8,192 tokens segundo o modelo. As entradas máis longas trúncanse: divide os documentos longos en parágrafos antes de crear os embeddings.

EmbeddingGemma 2 funciona nas nosas propias GPU e é unha das ferramentas máis baratas: arredor de ~100 tokens por chamada, tomados da túa reserva gratuíta diaria. $5 = 200K tokens.

Si: fai un POST cunha lista de cadeas a /v1/embeddings/ e EmbeddingGemma 2 devolve unha lista de vectores na mesma orde. Tamaño de lote de ata 2,048 por solicitude.

Normalizados en L2 por defecto: a similitude do coseno = produto escalar. Pasa `normalize=false` se queres os vectores sen procesar para outra métrica de distancia.

Calquera: Pinecone, Weaviate, Qdrant, Chroma, pgvector, FAISS, LanceDB. EmbeddingGemma 2 devolve números decimais en JSON simple; a base de datos nunca ve o modelo.

Si: fai un POST a /v1/embeddings/ con model="EmbeddingGemma 2". A forma da resposta é compatible con OpenAI, así que as bibliotecas cliente existentes funcionan sen cambios. /api/ ten a referencia completa.

Os modelos autoaloxados manteñen o teu texto nas nosas GPU e descártano cando a chamada devolve o resultado. Os premium transmítense cun DPA. Non adestramos cos teus datos de entrada.

Menos de 100 ms para texto curto en autoaloxado e 100-500 ms en premium. As chamadas por lotes escalan case de forma lineal: 1,000 fragmentos complétanse en 2-10 segundos.

Si: Free.ai concede uso comercial dos embeddings. Crea buscadores, canalizacións RAG e sistemas de recomendación para produción sen dereitos por vector.

Amas a Free.ai?

Valora esta páxina