今天,我们将在 Google AI Studio 和 Gemini API 中推出“Grounding with Google Search”功能,以帮助开发者获得更加准确和及时的 Gemini 模型响应。除了提高响应的准确性之外,该模型还会返回数据校验来源(内嵌支持链接)和搜索建议,引导用户查看与校验响应相关的搜索结果。
“Grounding with Google Search”功能支持所有已发布的 Gemini 1.5 模型版本。开发者可以在 Google AI Studio 的“工具”部分开启此功能,或者在 API 中启用“google_search_retrieval”工具。在 Google AI Studio 中,该功能可供免费测试。而在 API 中,开发者可以通过付费层级以每 1,000 次校验查询 35 美元的价格访问该工具。
开发者应该为能够从以下任一方面获益的查询和应用启用“Grounding with Google Search”功能:
在以下几个示例中,我们使用 AI Studio 的新比较模式,展示了模型响应如何从“Grounding with Google Search”功能中受益。在第一个例子中,模型根据其最后更新的知识库提供了过时的答案(左图),但在开启数据校验功能后,模型基于最新的可用来源提供了更准确的答案(右图)。
在此示例中,未启用数据校验(左图)时,模型默认呈现一个简要的响应。启用数据校验后(右图),模型则返回一个更丰富的响应,且附带支持链接。
当用户在开启数据校验功能的情况下进行查询时,服务会使用 Google 的搜索引擎全面查找与查询相关的最新信息,并将其发送给模型。模型会基于这些信息生成更准确和及时的回答,并提供内嵌的数据校验来源(支持链接)和搜索建议。
import google.generativeai as genai
import os
genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')
response = model.generate_content(contents="Who won Wimbledon this year?",
tools='google_search_retrieval')
print(response)
# 响应包含 `groundingMetadata`,并附带数据校验来源、置信分数和搜索建议
请参阅 文档 以获取完整代码。
即使在启用“Grounding with Google Search”功能时,也并非每个会话中的查询都一定需要数据校验,因为这会增加成本和处理时间。在这种情况下,开发者可以通过动态检索来获得第二层控制。
若开发者希望模型在生成回答时使用数据校验功能,动态检索配置会为提示分配一个预测分数,这是一个介于 0 和 1 之间的浮点值。当提示更有可能从数据校验中受益时,该值会更高。在请求中,开发者可以设置一个阈值,决定哪些分数应该触发数据校验(默认阈值为 0.3)。开发者应测试不同的阈值选项,以确定最适合其应用的设置。
通过使用 Google 的搜索结果来校验基于 Gemini 的应用,开发者可以为其用户提供更准确、相关和可信的信息。请参阅我们的文档以获取详细的代码示例和逐步说明。
期待您的反馈,我们迫不及待看到您利用这一新功能来构建应用!