Gemini Embedding: habilitação do RAG e engenharia de contexto

Desde o anúncio da disponibilidade geral de nosso modelo de texto Gemini Embedding, ele tem sido adotado pelos desenvolvedores rapidamente para a criação de aplicativos de IA avançados. Além dos casos de uso tradicionais, como classificação, pesquisa semântica e geração aumentada de recuperação (RAG, na sigla em inglês), muitos já estão usando uma técnica chamada engenharia de contexto para fornecer aos agentes de IA um contexto operacional completo. As incorporações são cruciais aqui, pois identificam e integram de forma eficiente informações vitais, como documentos, histórico de conversas e definições de ferramentas, diretamente na memória funcional de um modelo.

Os exemplos a seguir mostram como as organizações de todos os setores já estão utilizando o modelo Gemini Embedding para habilitar sistemas sofisticados.

Gemini Embedding em ação

Liberação de capacidades em inteligência de conteúdo global

A Box, uma plataforma inteligente de gerenciamento de conteúdo, está integrando o Gemini Embedding para habilitar um caso de uso crítico: responder a perguntas e extrair insights de documentos complexos. Durante suas avaliações, o gemini-embedding-001 encontrou a resposta correta em mais de 81% das vezes, exibindo um aumento de 3,6% no recall em comparação com outros modelos de incorporação. Além desse aumento de desempenho, o suporte multilíngue integrado de nosso modelo é um avanço promissor para seus usuários globais, permitindo que a Box AI desbloqueie insights de conteúdo em diferentes idiomas e regiões.

Aumento da acurácia na análise de dados financeiros

A empresa de tecnologia financeira re:cap usa incorporações para classificar grandes volumes de transações bancárias B2B. Eles mediram o impacto do gemini-embedding-001 fazendo um comparativo de mercado com modelos anteriores do Google (text-embedding-004 e text-embedding-005) em um conjunto de dados com 21.500 transações, que revelou um aumento da pontuação F1 de 1,9% e 1,45%, respectivamente. A pontuação F1, que equilibra a precisão e o recall de um modelo, é crucial para as tarefas de classificação. Isso demonstra como um modelo de alta capacidade, como o Gemini Embedding, promove diretamente ganhos significativos de desempenho, ajudando a re:cap a fornecer insights de liquidez mais precisos a seus clientes.

Precisão semântica em descoberta legal

A Everlaw, uma plataforma que fornece RAG verificável para ajudar os profissionais do setor jurídico com a análise de grandes volumes de documentos de descoberta, requer correspondência semântica precisa em milhões de textos especializados. Por meio de comparativos de mercado internos, a Everlaw considerou o gemini-embedding-001 o melhor modelo, com 87% de acurácia na apresentação de respostas relevantes a partir de 1,4 milhão de documentos repletos de termos jurídicos complexos e específicos de setor, superando os modelos Voyage (84%) e OpenAI (73%). Além disso, a propriedade Matryoshka do Gemini Embedding permite que a Everlaw use representações compactas, concentrando-se em informações essenciais com menos dimensões. Isso leva a uma perda mínima de desempenho, custos de armazenamento reduzidos e recuperação e pesquisa mais eficientes.

Melhoria da pesquisa de bases de código para os desenvolvedores

O Roo Code, um assistente de codificação de IA de código aberto, usa o modelo Gemini Embedding para habilitar a indexação e a pesquisa semântica de bases de código. Os desenvolvedores que usam o Roo Code precisam de uma pesquisa que ajude a entender a intenção, e não apenas a sintaxe, pois o assistente interage com vários arquivos, como um colega de equipe humano. Ao parear o gemini-embedding-001 com o Tree-sitter para divisão lógica de código, o Roo Code fornece resultados altamente relevantes, mesmo para consultas imprecisas. Após os testes iniciais, eles descobriram que o Gemini Embedding melhorou significativamente a pesquisa de código orientada por LLM, tornando-a mais flexível, precisa e alinhada aos fluxos de trabalho dos desenvolvedores.

Suporte personalizado para o bem-estar mental

O companheiro de bem-estar de IA da Mindlid usa o gemini-embedding-001 para entender o histórico de conversas, habilitando insights significativos e sensíveis a contexto que se adaptam em tempo real aos usuários. Eles documentaram um desempenho impressionante: latência consistente inferior a um segundo (média: 420 ms) e uma taxa mensurável de recall dos 3 primeiros itens de 82%, um aumento de recall de 4% em relação ao text-embedding-3-small da OpenAI. Isso mostra como o Gemini Embedding melhora a relevância e a velocidade do suporte da IA, fornecendo as informações mais pertinentes.

Melhoria do contexto e da eficiência dos assistentes de IA

A Interaction Co. está desenvolvendo o Poke, um assistente de e-mail de IA que automatiza tarefas e extrai informações do Gmail. O Poke usa o Gemini Embedding para duas funções principais: recuperar "memórias" do usuário e identificar e-mails relevantes para melhorar o contexto. Ao integrar o gemini-embedding-001, o modelo de linguagem do Poke recupera dados com mais velocidade e precisão. Eles relataram uma redução significativa de 90,4% no tempo médio para incorporar 100 e-mails em comparação com o Voyage-2, concluindo a tarefa em apenas 21,45 segundos.

A base para futuros agentes

À medida que os sistemas de IA se tornam mais autônomos, sua eficácia será determinada pela qualidade do contexto que nós fornecemos a eles. Os modelos de incorporação de alto desempenho, como o gemini-embedding-001, são um componente fundamental para a criação da próxima geração de agentes capazes de raciocinar, recuperar informações e agir em nosso nome.

Para dar os primeiros passos com as incorporações, acesse a documentação da API Gemini.

_{As métricas de desempenho foram fornecidas pelos desenvolvedores e não foram confirmadas de forma independente pelo Google.}