Ajuste o Gemini Pro no Google AI Studio ou com a API Gemini

A postagem a seguir foi publicada originalmente em outubro de 2023. Hoje, nós a atualizamos para compartilhar como você pode ajustar modelos do Gemini facilmente no Google AI Studio ou com a API Gemini.

No ano passado, lançamos o Gemini 1.0 Pro, nosso modelo multimodal de médio porte otimizado para escalonamento em uma ampla gama de tarefas. E, com o 1.5 Pro lançado este ano, demonstramos tudo o que os modelos de linguagem grandes podem fazer com uma janela de contexto experimental de um milhão de palavras. Agora, para personalizar com rapidez e facilidade o modelo do Gemini 1.0 Pro (texto) de disponibilidade geral de acordo com as suas necessidades específicas, adicionamos o ajuste do Gemini ao Google AI Studio e à API Gemini.

O que é o ajuste?

Os desenvolvedores geralmente precisam de uma saída de qualidade mais alta para casos de uso personalizados do que aquela que pode ser obtida por meio do few-shot prompting. O ajuste aprimora essa técnica, treinando o modelo de base com um número muito maior de exemplos específicos de tarefa, que não cabem todos no prompt.

Refinamento versus ajuste eficiente de parâmetros

Você talvez já tenha ouvido falar sobre o clássico "refinamento" de modelos. É nele que um modelo pré-treinado é adaptado a uma tarefa específica por meio do treinamento com um conjunto menor de dados identificados e específicos de tarefa. Mas, com os LLMs atuais e seu grande número de parâmetros, o refinamento é complexo e requer experiência em aprendizado de máquina, muitos dados e muita potência de computação.

O ajuste no Google AI Studio usa uma técnica chamada ajuste eficiente de parâmetros (PET, na sigla em inglês) para produzir modelos personalizados de qualidade mais alta, com latência menor do que o few-shot prompting e sem os custos e a complexidade adicionais do refinamento tradicional. Além disso, o PET produz modelos de alta qualidade com apenas algumas centenas de pontos de dados, reduzindo a sobrecarga da coleta de dados para o desenvolvedor.

Por que o ajuste?

O ajuste permite que você personalize os modelos do Gemini com seus próprios dados para obter um desempenho melhor em tarefas específicas, além de reduzir o tamanho do contexto dos prompts e a latência da resposta. Os desenvolvedores podem usar o ajuste em uma variedade de casos de uso, incluindo os seguintes:

• Classificação: execute tarefas de linguagem natural, como a classificação de dados em categorias predefinidas, sem precisar de toneladas de trabalho manual ou ferramentas.
• Extração de informações: extraia informações estruturadas de fontes de dados não estruturadas para dar suporte a tarefas de downstream no produto.
• Geração de saída estruturada: gere dados estruturados, como tabelas, com rapidez e facilidade.
• Modelos de avaliação: use o ajuste para criar modelos de avaliação para a saída de outros modelos.

Dê os primeiros passos com o Google AI Studio

1. Crie um modelo ajustado

É fácil ajustar modelos no Google AI Studio. Isso elimina qualquer necessidade de experiência em engenharia para criar modelos personalizados. Comece selecionando "New tuned model" na barra de menu à esquerda.

2. Selecione os dados a serem ajustados

Você pode ajustar um modelo a partir de um prompt estruturado existente ou importar dados do Planilhas Google ou de um arquivo CSV. Você pode começar com apenas 20 exemplos e, para obter o melhor desempenho, recomendamos fornecer um conjunto de dados com, pelo menos, 100 exemplos.

3. Visualize o modelo ajustado

Visualize o progresso do ajuste na biblioteca. Assim que o modelo concluir o ajuste, você poderá visualizar os detalhes clicando nele. Comece gerando o modelo ajustado por meio de um prompt estruturado ou de forma livre.

4. Gere o modelo ajustado a qualquer momento

Você também pode acessar o modelo recém-ajustado criando um prompt estruturado ou de forma livre e selecionando o modelo ajustado na lista de modelos disponíveis.

Ajuste com a API Gemini

O Google AI Studio é a maneira mais rápida e fácil de começar a ajustar modelos do Gemini. Você também pode acessar o recurso por meio da API Gemini transmitindo os dados de treinamento na solicitação da API ao criar um modelo ajustado. Saiba mais sobre como dar os primeiros passos aqui.

Estamos empolgados com as possibilidades que o ajuste cria para os desenvolvedores e ansiosos para ver o que você vai criar com o recurso. Se você tiver ideias ou casos de uso em mente, compartilhe-os conosco no X (antigo Twitter) ou no LinkedIn.