Gemini API 和 Google AI Studio 现在提供“Grounding with Google Search”功能

十月 31, 2024
Shrestha Basu Mallick Group Product Manager Gemini API
Logan Kilpatrick Senior Product Manager Gemini API and Google AI Studio

今天,我们将在 Google AI StudioGemini API 中推出“Grounding with Google Search”功能,以帮助开发者获得更加准确和及时的 Gemini 模型响应。除了提高响应的准确性之外,该模型还会返回数据校验来源(内嵌支持链接)和搜索建议,引导用户查看与校验响应相关的搜索结果。

当开启“Grounding with Google Search”功能时,模型响应包含数据校验来源(内嵌支持链接)和搜索建议

“Grounding with Google Search”功能支持所有已发布的 Gemini 1.5 模型版本。开发者可以在 Google AI Studio 的“工具”部分开启此功能,或者在 API 中启用“google_search_retrieval”工具。在 Google AI Studio 中,该功能可供免费测试。而在 API 中,开发者可以通过付费层级以每 1,000 次校验查询 35 美元的价格访问该工具。


开发者何时应使用数据校验?

开发者应该为能够从以下任一方面获益的查询和应用启用“Grounding with Google Search”功能:

  • 减少幻觉:数据校验有助于确保 AI 应用向用户提供更准确的事实信息。

  • 更及时的信息:通过数据校验,模型可以访问实时信息,使 AI 应用更加相关并适用于更广泛的情景。

  • 提高可信度,为发布者带来更多流量:通过提供支持链接,数据校验增加了 AI 应用的透明度,使其更加可信,并引导用户点击底层来源以了解更多信息。

  • 更丰富的信息:通过从 Google 搜索中提取信息来增强模型响应,数据校验能够为许多查询提供更丰富的细节。


“Grounding with Google Search”功能的实际应用

在以下几个示例中,我们使用 AI Studio 的新比较模式,展示了模型响应如何从“Grounding with Google Search”功能中受益。在第一个例子中,模型根据其最后更新的知识库提供了过时的答案(左图),但在开启数据校验功能后,模型基于最新的可用来源提供了更准确的答案(右图)。

Model response in Google AI Studio compare mode
Google AI Studio 比较模式下的模型响应,左图未启用数据校验,右图启用了数据校验

在此示例中,未启用数据校验(左图)时,模型默认呈现一个简要的响应。启用数据校验后(右图),模型则返回一个更丰富的响应,且附带支持链接。

Richer response by the latest Gemini 1.5 Flash model
最新版 Gemini 1.5 Flash 模型通过“Grounding with Google Search”功能提供更丰富的响应(右图)

“Grounding with Google Search”的工作原理是什么?

当用户在开启数据校验功能的情况下进行查询时,服务会使用 Google 的搜索引擎全面查找与查询相关的最新信息,并将其发送给模型。模型会基于这些信息生成更准确和及时的回答,并提供内嵌的数据校验来源(支持链接)和搜索建议。

import google.generativeai as genai
import os
 
genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')
 
 
response = model.generate_content(contents="Who won Wimbledon this year?",
                                  tools='google_search_retrieval')
 
print(response)
# 响应包含 `groundingMetadata`,并附带数据校验来源、置信分数和搜索建议

请参阅 文档 以获取完整代码。


即使在启用“Grounding with Google Search”功能时,也并非每个会话中的查询都一定需要数据校验,因为这会增加成本和处理时间。在这种情况下,开发者可以通过动态检索来获得第二层控制。

若开发者希望模型在生成回答时使用数据校验功能,动态检索配置会为提示分配一个预测分数,这是一个介于 0 和 1 之间的浮点值。当提示更有可能从数据校验中受益时,该值会更高。在请求中,开发者可以设置一个阈值,决定哪些分数应该触发数据校验(默认阈值为 0.3)。开发者应测试不同的阈值选项,以确定最适合其应用的设置。

Dynamic retrieval for Grounding Search in Google AI Studio
Google AI Studio 中“Grounding with Google Search”功能的动态检索

通过使用 Google 的搜索结果来校验基于 Gemini 的应用,开发者可以为其用户提供更准确、相关和可信的信息。请参阅我们的文档以获取详细的代码示例和逐步说明。


期待您的反馈,我们迫不及待看到您利用这一新功能来构建应用!