La API de Gemini y Google AI Studio ahora ofrecen Conexión con la Búsqueda de Google

OCT 31, 2024
Shrestha Basu Mallick Group Product Manager Gemini API
Logan Kilpatrick Senior Product Manager Gemini API and Google AI Studio

Hoy, implementamos Conexión con la Búsqueda de Google en Google AI Studio y la API de Gemini, una solución que permite a los desarrolladores obtener respuestas más precisas y frescas de los modelos de Gemini con la ayuda de la Búsqueda de Google. Además de las respuestas más precisas, el modelo muestra fuentes de conexión (vínculos de respaldo en línea) y sugerencias de búsqueda que señalan a los usuarios los resultados de búsqueda correspondientes a la respuesta conectada.

Respuesta del modelo con fuentes de conexión y sugerencias de búsqueda cuando la función Conexión con la Búsqueda de Google está activada

Conexión con la Búsqueda de Google es compatible con todas las versiones generalmente disponibles de los modelos de Gemini 1.5. Los desarrolladores pueden activarla en Google AI Studio, en la sección “Herramientas” o en la API activando la herramienta 'google_search_retrieval'. La función está disponible para que la pruebes de forma gratuita en Google AI Studio. En la API, los desarrolladores pueden acceder a la herramienta con el nivel de pago por USD 35 por cada 1,000 consultas con conexión.


¿Cuándo deberían los desarrolladores usar la conexión?

Los desarrolladores deben activar Conexión con la Búsqueda de Google para consultas y aplicaciones que podrían beneficiarse en cualquiera de los siguientes casos:

  • Reducción de alucinaciones: la función de conexión ayuda a garantizar que las apps de IA proporcionen a los usuarios información más objetiva.

  • Información más actualizada: con la conexión, los modelos pueden acceder a información en tiempo real, lo que hace que las apps de IA sean relevantes y aplicables a una gama más amplia de escenarios.

  • Mayor confiabilidad y tráfico para los editores: al proporcionar vínculos de respaldo, la conexión brinda transparencia a las apps de IA, lo que las hace más confiables y alienta a los usuarios a hacer clic en las fuentes subyacentes para obtener más información.

  • Información más detallada: al extraer información de la Búsqueda de Google para mejorar la respuesta del modelo, la función de conexión puede proporcionar más detalles en muchas consultas.


Conexión con la Búsqueda de Google en acción

A continuación, mostramos un par de ejemplos en los que se utiliza el nuevo modo Comparar de AI Studio, donde la respuesta del modelo se beneficia de la función Conexión con la Búsqueda de Google. En el primer ejemplo, el modelo proporciona una respuesta desactualizada en función de su límite de conocimiento (a la izquierda), pero responde con mayor precisión en función de las últimas fuentes disponibles (a la derecha) cuando se activa la conexión.

Model response in Google AI Studio compare mode
Respuesta del modelo en el modo Comparar de Google AI Studio, sin conexión (izquierda) y con conexión (derecha)

En este ejemplo, sin la conexión activada (a la izquierda), el modelo presenta intencionalmente una respuesta mínima de forma predeterminada. Con la conexión activada (a la derecha), el modelo muestra una respuesta más detallada que incluye vínculos de respaldo.

Richer response by the latest Gemini 1.5 Flash model
Respuesta más detallada del último modelo Flash de Gemini 1.5 con Conexión con la Búsqueda de Google (derecha)

¿Cómo funciona Conexión con la Búsqueda de Google?

Cuando un usuario realiza una consulta con la conexión activada, el servicio utiliza el motor de búsqueda de Google para encontrar información actualizada y completa que sea relevante para la consulta y la envía al modelo. Luego, el modelo responde con mayor precisión y frescura, proporcionando fuentes de conexión en línea (vínculos de respaldo) y sugerencias de búsqueda.

import google.generativeai as genai
import os
 
genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')
 
 
response = model.generate_content(contents="Who won Wimbledon this year?",
                                  tools='google_search_retrieval')
 
print(response)
# Response contains `groundingMetadata` with grounding sources, confidence scores, and search suggestions

Consulta la documentación para obtener el código completo.


Incluso cuando la función Conexión con la Búsqueda de Google está activada, no todas las consultas de una sesión requieren necesariamente conexión, lo que genera un costo y una latencia adicionales. Aquí es donde los desarrolladores tienen una segunda capa de control con recuperación dinámica.

Cuando los desarrolladores solicitan una respuesta conectada, la configuración de recuperación dinámica asigna a la solicitud una puntuación de predicción, que es un valor de punto flotante entre 0 y 1. El valor es mayor cuando es más probable que una indicación se beneficie de la conexión. En sus solicitudes, los desarrolladores pueden establecer un umbral para las puntuaciones que deberían resultar en la conexión (el valor umbral predeterminado es 0.3). Deben probar varias opciones del valor umbral para ver qué funciona mejor en sus apps.

Dynamic retrieval for Grounding Search in Google AI Studio
Recuperación dinámica para Conexión con la Búsqueda de Google en Google AI Studio

Al utilizar los resultados de búsqueda de Google para conectar las apps basadas en Gemini, los desarrolladores pueden proporcionar a sus usuarios información más precisa, relevante y confiable. Consulta nuestra documentación para obtener ejemplos detallados de códigos e instrucciones paso a paso.


Esperamos tus comentarios y nos entusiasma ver lo que creas con esta nueva función.