API PaLM & MakerSuite em migração para pré-lançamento público

MAI 11, 2023
Barnaby James Director Engineering, Google Labs
Simon Tokumine Director of Product Management

No Google I/O, mostramos como o PaLM 2, nosso modelo de última geração, está sendo usado para melhorar os produtos do Google. Hoje, disponibilizamos o PaLM 2 para desenvolvedores, de modo que você possa criar seus próprios apps de IA generativa por meio da API PaLM e do MakerSuite. Se você é cliente do Google Cloud, também pode usar a API PaLM no Vertex AI.

A API PaLM, agora com tecnologia PaLM 2

Ajustamos as instruções do PaLM 2 para facilitar o uso pelos desenvolvedores, desbloqueando os recursos aprimorados de raciocínio e geração de código do PaLM 2 e permitindo que os desenvolvedores usem facilmente a API PaLM para casos de uso como geração de conteúdo e código, agentes de diálogo, resumo, classificação e muito mais usando comandos de linguagem natural. Isso é altamente eficiente, graças às novas melhorias na arquitetura do modelo, permitindo lidar com instruções e comandos complexos que, quando combinados com nossas tecnologias TPU, chegam a velocidades de até mais de 75 tokens por segundo e janelas de contexto de 8k.

Integração da API PaLM ao ecossistema de desenvolvedores

Desde março, executamos um pré-lançamento particular com a API PaLM, e tem sido incrível ver a rapidez com que os desenvolvedores a usaram em seus apps. Confira alguns casos de uso:

  • A GameOn Technology usou o endpoint de chat para criar uma experiência de última geração a fim de reunir fãs e resumir eventos esportivos ao vivo
  • A Vercel usou o endpoint de texto para criar um gerador de título de vídeo
  • A Wendy's usou incorporações para que os clientes possam fazer o pedido correto com o recurso de falar com o menu

Também ficamos entusiasmados com a resposta da comunidade de ferramentas para desenvolvedores. Esses profissionais querem opções de modelos de linguagem, e estamos trabalhando com diversos parceiros para poder acessar a API PaLM em frameworks, ferramentas e serviços comumente usados. Também estamos disponibilizando a API PaLM nas ferramentas para desenvolvedores do Google, como Firebase e Colab.

A API PaLM e o MakerSuite tornam rápido e fácil o uso dos modelos de linguagem grandes do Google para criar apps inovadores de IA

palmPartners
A API PaLM e o MakerSuite tornam rápido e fácil o uso dos modelos de linguagem grandes do Google para criar apps inovadores de IA

Criar protótipos poderosos com a API PaLM e o MakerSuite

A API PaLM e o MakerSuite agora estão disponíveis para pré-lançamento público. Os desenvolvedores nos EUA podem acessar a documentação e se inscrever para testar os próprios protótipos sem nenhum custo. Mostramos duas demonstrações no Google I/O para dar uma ideia de como é fácil começar a criar apps de IA generativa.

Demonstramos o Project Tailwind no Google I/O 2023, um notebook que prioriza IA e ajuda você a aprender mais rápido usando suas anotações e fontes

palmAPI2
Demonstramos o Project Tailwind no Google I/O 2023, um notebook que prioriza IA e ajuda você a aprender mais rápido usando suas anotações e fontes

O Project Tailwind é um notebook que prioriza IA e ajuda você a aprender mais rápido usando suas anotações e fontes pessoais. Esse é um protótipo criado com a API PaLM por uma equipe principal de cinco engenheiros do Google em apenas algumas semanas. Basta você importar suas anotações e documentos do Google Drive para criar um modelo de IA personalizado e particular com base em suas fontes. Em seguida, é possível solicitar que o sistema aprenda sobre qualquer coisa relacionada às informações concedidas. Você pode se cadastrar para testar agora.

O MakerSuite foi usado para ajudar a criar as descrições no I/O FLIP

image1.png

Nos próximos meses, vamos continuar expandindo o acesso à API PaLM e ao MakerSuite. Continue compartilhando seu feedback no canal #palm-api no Discord do Google Developers. Seja ao gerar código, criar conteúdo ou ter ideias para seu app ou site, queremos ajudar você a ter mais produtividade e criatividade do que nunca.