Embeddings: o que são e como funcionam na IA

Embedding é a representação de um texto, imagem ou som como um vetor de números — uma lista de centenas ou milhares de casas decimais que captura o significado daquele conteúdo em vez da sua forma literal. Dois textos com sentidos parecidos geram vetores próximos entre si nesse espaço, mesmo que usem palavras completamente diferentes. É essa propriedade que torna os embeddings a peça central por trás da busca semântica, dos sistemas de recomendação e do RAG (Retrieval-Augmented Generation), usado para dar contexto atualizado a um [LLM](/artigo/o-que-e-um-llm-guia-modelos-linguagem).

Como um embedding representa significado

Um modelo de embedding é treinado para posicionar conteúdos parecidos perto uns dos outros dentro de um espaço vetorial de muitas dimensões. Cada dimensão isolada não tem um rótulo interpretável por humanos — não existe uma 'dimensão de emoção' ou 'dimensão de formalidade' — mas, juntas, elas capturam nuances de significado, contexto e relação entre conceitos. Na prática, o vetor de 'gato' fica mais próximo do vetor de 'cachorro' do que do vetor de 'automóvel', porque o modelo aprendeu, a partir de bilhões de exemplos de texto, que os dois primeiros aparecem em contextos semelhantes.

Como os embeddings são gerados na prática

Existem duas formas comuns de gerar embeddings hoje. A primeira é por API paga: a OpenAI, por exemplo, oferece os modelos text-embedding-3-small e text-embedding-3-large, e o Google disponibiliza o gemini-embedding-001 na Gemini API. A segunda é rodar um modelo aberto localmente, como os da biblioteca sentence-transformers, sem custo por chamada, mas exigindo poder de processamento próprio (CPU ou GPU).

from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("all-MiniLM-L6-v2")

frases = [
    "Como funciona um empréstimo consignado?",
    "O que é crédito consignado e como solicitar",
    "Receita de bolo de chocolate fofinho",
]

vetores = model.encode(frases)

# Similaridade de cosseno entre a primeira frase e as demais.
# Frase 2 deve retornar um valor bem mais alto que a frase 3,
# mesmo sem compartilhar as mesmas palavras.
similaridade = util.cos_sim(vetores[0], vetores[1:])
print(similaridade)

Para usar uma API paga, a lógica é parecida: você envia o texto e recebe o vetor pronto.

from openai import OpenAI

client = OpenAI()

response = client.embeddings.create(
    model="text-embedding-3-small",
    input="Como funciona um empréstimo consignado?",
)

vetor = response.data[0].embedding
print(len(vetor))  # 1536 dimensões por padrão

Quantas dimensões um embedding tem — e por que isso importa

De acordo com a documentação da OpenAI, o text-embedding-3-small gera vetores com 1.536 dimensões por padrão, enquanto o text-embedding-3-large chega a 3.072. O Google segue um padrão parecido: segundo a empresa, o gemini-embedding-001 também produz até 3.072 dimensões por padrão, com suporte a mais de 100 idiomas. Ambos os provedores usam uma técnica chamada Matryoshka Representation Learning, que permite reduzir o número de dimensões do vetor (por exemplo, de 3.072 para 1.024) trocando um pouco de precisão por menos espaço de armazenamento e buscas mais rápidas — sem precisar treinar um modelo novo.

Como medir a distância entre dois embeddings

• Similaridade de cosseno — mede o ângulo entre dois vetores, ignorando o tamanho deles. É a métrica padrão da indústria para busca semântica e RAG, porque compara direção (contexto), não magnitude.
• Distância euclidiana — mede a distância em linha reta entre dois pontos no espaço vetorial. Costuma gerar o mesmo ranking que o cosseno quando os vetores já estão normalizados, como é o caso dos modelos da OpenAI.
• Produto escalar (dot product) — mais rápido de calcular que o cosseno; funciona como atalho quando os vetores já vêm normalizados para comprimento 1.

Para que embeddings são usados na prática

• Busca semântica — encontrar documentos, produtos ou tickets de suporte relevantes mesmo sem correspondência exata de palavras.
• RAG (Retrieval-Augmented Generation) — buscar os trechos mais relevantes de uma base de conhecimento para incluir no prompt enviado a um LLM, dando respostas atualizadas sem precisar retreinar o modelo.
• Sistemas de recomendação — sugerir produtos, artigos ou vídeos com embeddings parecidos com o que o usuário já consumiu.
• Detecção de duplicidade — identificar tickets de suporte, contratos ou registros que dizem a mesma coisa com palavras diferentes.
• Classificação e clustering — agrupar textos por tema sem precisar de categorias definidas manualmente.

Onde os embeddings falham

• Busca por termo exato — um código de erro, número de série ou CPF é melhor localizado por busca de palavra-chave; embeddings tendem a 'suavizar' esse tipo de correspondência exata.
• Textos muito longos — a maioria dos modelos tem um limite de tokens por entrada (2.048 tokens no caso do gemini-embedding-001, segundo o Google); documentos longos precisam ser divididos em pedaços menores antes de gerar o embedding.
• Troca de modelo tem custo — como vetores de modelos diferentes não são comparáveis, migrar de provedor de embedding significa reprocessar toda a base já indexada.
• Viés herdado dos dados de treino — se o texto de treinamento associa determinados grupos ou termos a contextos enviesados, o embedding carrega essa associação.

Embeddings não substituem fine-tuning

É comum confundir os dois. Embeddings resolvem um problema de busca: encontrar a informação certa para colocar no contexto de um prompt. Fine-tuning resolve um problema de comportamento: ajustar como o modelo responde, seu tom ou o formato de saída, retreinando parte dos seus parâmetros. Na prática, a maioria dos sistemas de produção usa embeddings (via RAG) para manter respostas atualizadas e reserva o fine-tuning para casos específicos, como ensinar um formato de resposta consistente ou um vocabulário técnico muito particular.

Próximos passos

Se você ainda não sabe como um modelo de linguagem processa texto antes de gerar embeddings, vale entender primeiro [o que é um LLM](/artigo/o-que-e-um-llm-guia-modelos-linguagem) e, num nível mais básico, [o que é inteligência artificial](/artigo/o-que-e-inteligencia-artificial-guia-completo-iniciantes). Para quem vai implementar isso em código, o guia [Python ou TypeScript para projetos de IA](/artigo/python-ou-typescript-para-ia) ajuda a escolher a linguagem certa para começar.