이제 Gemini API와 Google AI Studio에서 Google 검색으로 그라운딩 제공

10월 31, 2024

Shrestha Basu Mallick Group Product Manager Gemini API

Logan Kilpatrick Senior Product Manager Gemini API and Google AI Studio

오늘 Google AI Studio와 Gemini API에서 Google 검색으로 그라운딩 기능을 선보입니다. 덕분에 개발자는 Google 검색의 지원을 받아 Gemini 모델에서 더 정확한, 더 최신의 응답을 얻을 수 있게 되었습니다. 더 정확한 응답뿐만 아니라, 모델은 그라운딩 소스(인라인 지원 링크)와 더불어 사용자에게 그라운딩된 응답에 해당하는 검색 결과를 제시하는 추천 검색어를 반환합니다.

Google 검색으로 그라운딩이 켜질 때 그라운딩 소스와 추천 검색어를 사용한 모델 응답

Google 검색으로 그라운딩은 Gemini 1.5 모델의 모든 정식 출시 버전에서 지원됩니다. 개발자는 'google_search_retrieval' 도구를 활성화하여 Google AI Studio의 'Tools' 섹션이나 API에서 이 기능을 켤 수 있습니다. 그라운딩은 Google AI Studio에서 무료로 테스트할 수 있습니다. API에서는 개발자가 그라운딩된 질문 1,000개당 35달러에 유료 티어를 통해 이용할 수 있습니다.

개발자는 언제 그라운딩을 사용해야 하나요?

개발자는 아래 나열된 이점을 누릴 수 있는 질문과 애플리케이션에 대해 Google 검색으로 그라운딩 기능을 활성화해야 합니다.

할루시네이션 감소: 그라운딩은 AI 애플리케이션이 사용자에게 더 사실에 입각한 정보를 제공하는 데 도움이 됩니다.

더욱 최신의 정보: 모델은 그라운딩을 사용해 실시간 정보에 접근할 수 있습니다. 이를 통해 AI 애플리케이션을 더 광범위한 시나리오에 적용 가능하고 관련성이 높아지게 만듭니다.

게시자에 대한 신뢰성과 트래픽 향상: 그라운딩은 지원 링크를 제공함으로써 AI 애플리케이션에 투명성을 제공합니다. 이는 AI 애플리케이션의 신뢰성을 더욱 높이고 사용자가 기본 소스를 클릭하여 더 자세한 내용을 살펴보도록 합니다.

더욱 풍부한 정보: 그라운딩은 모델 응답 향상을 위해 Google 검색에서 정보를 가져옴으로써 많은 질문에 다채로움을 더합니다.

Google 검색으로 그라운딩의 실제 사용

아래에 제시된 AI Studio의 새로운 비교 모드를 사용하는 몇 가지 예에서 모델 응답에 Google 검색으로 그라운딩을 활용합니다. 첫 번째 예시에서는 모델이 지식 컷오프(왼쪽)를 기반으로 오래된 답변을 제공하지만 그라운딩을 활성화하면 사용 가능한 최신 소스(오른쪽)를 기반으로 더 정확하게 답변합니다.

Model response in Google AI Studio compare mode

Google AI Studio 비교 모드에서 그라운딩을 사용하지 않는 경우(왼쪽)와 사용하는 경우(오른쪽)의 모델 응답

이 예시에서 그라운딩을 활성화하지 않은 경우(왼쪽)에는 모델이 의도적으로 최소의 응답을 기본으로 제시하지만, 그라운딩을 활성화한 경우(오른쪽)에는 지원 링크를 포함하여 더욱 풍부한 응답을 제공합니다.

Richer response by the latest Gemini 1.5 Flash model

Google 검색으로 그라운딩을 사용한 최신 Gemini 1.5 Flash 모델의 더욱 풍부한 응답(오른쪽)

Google 검색으로 그라운딩은 어떻게 작동하나요?

사용자가 그라운딩 기능을 켜고 질문하는 경우, 이 서비스는 Google의 검색 엔진을 사용하여 질문과 관련된 포괄적인 최신 정보를 찾아 모델로 전송합니다. 그러면 모델이 더 정확하고 더 최신의 응답을 제공하여 인라인 그라운딩 소스(지원 링크) 및 추천 검색어를 제시합니다.

import google.generativeai as genai
import os
 
genai.configure(api_key=os.environ["API_KEY"])
model = genai.GenerativeModel('models/gemini-1.5-flash-002')
 
 
response = model.generate_content(contents="올해 윔블던 우승자는 누구인가요?",
                                  tools='google_search_retrieval')
 
print(response)
# 응답에는 그라운딩 소스, 신뢰도 점수, 추천 검색어와 함께 `groundingMetadata`가 포함됩니다

^{전체 코드는} ^문서^{를 참조하세요.}

Google 검색으로 그라운딩이 활성화된 경우에도 세션의 모든 질문이 꼭 그라운딩 되어야 하는 것은 아니므로 추가 비용과 지연 시간이 발생합니다. 바로 이 지점에서 개발자는 동적 검색으로 제2의 컨트롤 레이어를 갖게 됩니다.

개발자가 그라운딩된 답변을 요청하는 경우, 동적 검색 구성은 0과 1 사이의 부동 소수점 값인 예측 점수를 프롬프트에 할당합니다. 프롬프트가 그라운딩의 이점을 얻을 가능성이 더 크면 더 높은 값이 할당됩니다. 개발자는 요청에서 몇 점이 되면 그라운딩이 될지에 대한 임계값을 설정할 수 있습니다(기본 임계값은 0.3). 개발자는 임계값에 대한 다양한 옵션을 테스트하여 애플리케이션에 가장 적합한 값을 확인해야 합니다.

Dynamic retrieval for Grounding Search in Google AI Studio

Google AI Studio에서 Google 검색으로 그라운딩의 동적 검색

개발자는 Gemini 기반 애플리케이션을 그라운딩하기 위해 Google의 검색 결과를 사용함으로써 사용자에게 보다 정확하고 관련성이 높으며 신뢰할 수 있는 정보를 제공할 수 있습니다. 자세한 코드 예제와 단계별 안내는 문서를 참조하세요.

개발자 여러분의 많은 의견 부탁드립니다. 이 새로운 기능으로 무엇을 개발하실지 무척 기대됩니다!

게시 위치: