Google I/O에서 저희는 Google의 차세대 모델인 PaLM 2가 Google 전반에서 제품 개선에 어떻게 사용되고 있는지 소개했습니다. 오늘날 저희는 PaLM API와 MakerSuite를 통해 나만의 생성형 AI 애플리케이션을 빌드할 수 있도록 개발자에게 PaLM 2를 제공하고 있습니다. Google Cloud 고객의 경우 Vertex AI에서 PaLM API를 사용할 수도 있습니다.
저희는 지침에 근거해 PaLM 2를 조정하여 개발자의 사용 편의성을 높였으며, PaLM 2의 추론 및 코드 생성 기능을 향상하고 개발자가 자연어 프롬프트를 사용하여 콘텐츠 및 코드 생성, 대화 에이전트, 요약, 분류 등과 같은 사용 사례에 PaLM API를 쉽게 사용할 수 있도록 지원했습니다. PaLM 2는 새로운 모델 아키텍처 개선 덕분에 효율성이 우수하여 복잡한 프롬프트와 지침을 처리할 수 있으며, TPU 기술과 결합될 경우 초당 토큰 75개 이상의 빠른 속도와 8k 컨텍스트 창을 지원합니다.
저희는 3월부터 PaLM API에 대해 비공개 미리보기를 진행해 왔으며, 개발자들이 자신의 애플리케이션에 이를 빠르게 사용하는 것을 보며 놀랐습니다. 몇 가지만 소개하자면 다음과 같습니다.
개발자 도구 커뮤니티의 반응 역시 고무적이었습니다. 개발자들은 언어 모델에 대해 선택권을 갖기 원하며, 저희는 개발자가 사용 중인 공통 프레임워크, 도구 및 서비스에서 PaLM API에 액세스할 수 있도록 하기 위해 다양한 파트너와 협력하고 있습니다. 또한 Firebase 및 Colab과 같은 Google 개발자 도구에서도 PaLM API를 사용할 수 있도록 하고 있습니다.
PaLM API와 MakerSuite를 사용하면 Google의 대규모 언어 모델을 빠르고 쉽게 사용하여 혁신적인 AI 애플리케이션을 빌드할 수 있습니다.
이제 PaLM API와 MakerSuite를 공개적으로 미리 볼 수 있습니다. 미국에 거주하는 개발자의 경우, 문서를 활용하고 무료 가입을 통해 나만의 프로토타입을 테스트할 수 있습니다. 저희는 Google I/O에서 생성형 AI 애플리케이션을 빌드하는 것이 얼마나 쉬운지 알 수 있도록 두 가지 데모를 소개했습니다.
저희는 Google I/O 2023에서 Project Tailwind를 시연했습니다. Project Tailwind는 노트와 소스를 사용하여 더 빠르게 학습할 수 있도록 도와주는 AI 기반 노트북입니다.
Project Tailwind는 개인 노트와 소스를 사용하여 더 빠르게 학습할 수 있도록 도와주는 AI 기반 노트북입니다. 이는 단 몇 주 만에 Google의 엔지니어 5명으로 구성된 핵심 팀이 PaLM API를 사용하여 빌드한 프로토타입입니다. Google 드라이브에서 노트와 문서를 가져오기만 하면 기본적으로 소스에 기반을 둔 맞춤형 비공개 AI 모델이 생성됩니다. 그런 다음, 제공한 정보와 관련된 모든 정보에 관해 학습하도록 AI 모델에 안내할 수 있습니다. 지금 가입하면 테스트해 보실 수 있습니다.
MakerSuite를 사용하여 I/O FLIP에서 설명을 제작했습니다.
앞으로 몇 달 동안 PaLM API와 MakerSuite에 대한 접근 경로를 계속 확대할 예정입니다. Google 개발자 Discord의 #palm-api 채널에서 의견을 계속 공유해 주세요. 코드 생성, 콘텐츠 제작, 앱 또는 웹사이트에 대한 아이디어 도출 등, 생산성과 창의성을 최대한 발휘할 수 있도록 도와드리겠습니다.