Gemini API 和 Google AI Studio 现在提供“Grounding with Google Search”功能

2024年10月31日
Shrestha Basu Mallick Group Product Manager
Logan Kilpatrick Group Product Manager

今天,我们将在 Google AI StudioGemini API 中推出“Grounding with Google Search”功能,以帮助开发者获得更加准确和及时的 Gemini 模型响应。除了提高响应的准确性之外,该模型还会返回数据校验来源(内嵌支持链接)和搜索建议,引导用户查看与校验响应相关的搜索结果。

当开启“Grounding with Google Search”功能时,模型响应包含数据校验来源(内嵌支持链接)和搜索建议

“Grounding with Google Search”功能支持所有已发布的 Gemini 1.5 模型版本。开发者可以在 Google AI Studio 的“工具”部分开启此功能,或者在 API 中启用“google_search_retrieval”工具。在 Google AI Studio 中,该功能可供免费测试。而在 API 中,开发者可以通过付费层级以每 1,000 次校验查询 35 美元的价格访问该工具。


开发者何时应使用数据校验?

开发者应该为能够从以下任一方面获益的查询和应用启用“Grounding with Google Search”功能:

  • 减少幻觉:数据校验有助于确保 AI 应用向用户提供更准确的事实信息。

  • 更及时的信息:通过数据校验,模型可以访问实时信息,使 AI 应用更加相关并适用于更广泛的情景。

  • 提高可信度,为发布者带来更多流量:通过提供支持链接,数据校验增加了 AI 应用的透明度,使其更加可信,并引导用户点击底层来源以了解更多信息。

  • 更丰富的信息:通过从 Google 搜索中提取信息来增强模型响应,数据校验能够为许多查询提供更丰富的细节。


“Grounding with Google Search”功能的实际应用

在以下几个示例中,我们使用 AI Studio 的新比较模式,展示了模型响应如何从“Grounding with Google Search”功能中受益。在第一个例子中,模型根据其最后更新的知识库提供了过时的答案(左图),但在开启数据校验功能后,模型基于最新的可用来源提供了更准确的答案(右图)。

Model response in Google AI Studio compare mode
Google AI Studio 比较模式下的模型响应,左图未启用数据校验,右图启用了数据校验

在此示例中,未启用数据校验(左图)时,模型默认呈现一个简要的响应。启用数据校验后(右图),模型则返回一个更丰富的响应,且附带支持链接。

Richer response by the latest Gemini 1.5 Flash model
最新版 Gemini 1.5 Flash 模型通过“Grounding with Google Search”功能提供更丰富的响应(右图)

“Grounding with Google Search”的工作原理是什么?

当用户在开启数据校验功能的情况下进行查询时,服务会使用 Google 的搜索引擎全面查找与查询相关的最新信息,并将其发送给模型。模型会基于这些信息生成更准确和及时的回答,并提供内嵌的数据校验来源(支持链接)和搜索建议。

import google.generativeai as genai
import os
 
genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')
 
 
response = model.generate_content(contents="Who won Wimbledon this year?",
                                  tools='google_search_retrieval')
 
print(response)
# 响应包含 `groundingMetadata`,并附带数据校验来源、置信分数和搜索建议
Python

请参阅 文档 以获取完整代码。


即使在启用“Grounding with Google Search”功能时,也并非每个会话中的查询都一定需要数据校验,因为这会增加成本和处理时间。在这种情况下,开发者可以通过动态检索来获得第二层控制。

若开发者希望模型在生成回答时使用数据校验功能,动态检索配置会为提示分配一个预测分数,这是一个介于 0 和 1 之间的浮点值。当提示更有可能从数据校验中受益时,该值会更高。在请求中,开发者可以设置一个阈值,决定哪些分数应该触发数据校验(默认阈值为 0.3)。开发者应测试不同的阈值选项,以确定最适合其应用的设置。

Dynamic retrieval for Grounding Search in Google AI Studio
Google AI Studio 中“Grounding with Google Search”功能的动态检索

通过使用 Google 的搜索结果来校验基于 Gemini 的应用,开发者可以为其用户提供更准确、相关和可信的信息。请参阅我们的文档以获取详细的代码示例和逐步说明。


期待您的反馈,我们迫不及待看到您利用这一新功能来构建应用!