Use o Beeuni para executar e avaliar um experimento de ajuste fino de modelo

O script de treinamento termina durante a noite. A pasta de saída contém um checkpoint, ou seja, o estado do modelo salvo em um ponto do treinamento, mas o registro termina antes da avaliação. O treinamento foi concluído? É possível carregar esse modelo salvo? Quais configurações foram usadas? Um agente do Beeuni pode inspecionar os arquivos e os registros, tentar carregar o checkpoint e informar o que foi concluído antes de você decidir se executa o trabalho novamente.

Com acesso ao computador de treinamento, o agente pode inspecionar o código e os dados, executar comandos, ler registros e coletar resultados de avaliação. Você escolhe o modelo e define o que conta como melhoria. O Beeuni usa o software de treinamento e os recursos computacionais disponíveis nesse computador para realizar o trabalho.

Comece com um comportamento que você queira alterar

Considere o classificador de solicitações de suporte do guia do conjunto de dados. Ele atribui as solicitações às categorias cobrança, acesso à conta, ajuda com o produto ou análise. Você quer testar se um modelo ajustado coloca as solicitações na categoria certa com mais consistência do que o modelo base com instruções. Mantenha exemplos que envolvam tanto acesso quanto cobrança: eles mostrarão se o modelo aprendeu qual categoria tem prioridade quando uma solicitação contém vários problemas.

Forneça ao agente as definições dos rótulos, os registros de treinamento revisados e um conjunto de avaliação separado. Peça que ele execute o modelo base nesse conjunto de avaliação antes de alterar os pesos. Salve o identificador do modelo, as instruções, as configurações de geração e as previsões. Sem essa linha de base, um comando de treinamento concluído diz muito pouco sobre se o trabalho adicional ajudou.

Configure o acesso ao computador de treinamento

Conecte o computador que executará o experimento por meio do Computer Tunnel e selecione-o no perfil ativo. Permita acesso ao sistema de arquivos e ao shell no diretório de treinamento. Informe ao agente o repositório, o local do conjunto de dados e o ambiente Python. Para um treinamento com GPU, peça que ele verifique o dispositivo disponível, a memória, os drivers e a compatibilidade do framework antes de escolher as configurações.

O modelo base e o método de treinamento determinam a memória e a capacidade de processamento necessárias. Com um método de adaptadores, você treina um pequeno conjunto de parâmetros adicionais e mantém fixos os pesos do modelo base. Atualizar todos os pesos costuma exigir mais recursos. Peça ao agente do Beeuni que inspecione o script de treinamento e o hardware disponível e explique se as configurações planejadas são adequadas. Revise qualquer proposta de instalar pacotes, baixar modelos ou alterar o ambiente antes de começar.

Use the connected training computer and repository I specify.
Inspect the training script, model access, Python environment, and available devices.
Validate the reviewed dataset and keep the evaluation set separate.
Run the base-model evaluation and save its predictions.
Propose a small fine-tuning run with the settings and output directory shown.
Wait for my approval before starting training or changing the environment.
Save the command, configuration, logs, and evaluation results for each run.

Faça uma primeira execução pequena o bastante para inspecionar

Antes de executar o treinamento completo, use um pequeno subconjunto dos dados para verificar o fluxo de trabalho. O tokenizador consegue ler os registros? Os rótulos estão representados de forma consistente? O modelo está sendo treinado para prever o texto pretendido? O script consegue salvar um checkpoint e carregá-lo para responder a uma solicitação? Essas verificações detectam problemas de configuração antes que você gaste tempo treinando com o conjunto de dados inteiro.

Peça ao agente do Beeuni que mostre um exemplo exatamente como o script de treinamento vai lê-lo. Ele deve marcar o texto que o modelo aprende a prever e o texto fornecido apenas como contexto. A perda de treinamento mede os erros nessas previsões. Se o script incluir os campos errados, o treinamento pode rodar normalmente e ainda assim ensinar o comportamento errado. Inspecione esse exemplo antes de confiar em um gráfico de perda.

Mantenha cada experimento em um diretório de saída separado. Registre a revisão do código, a versão do conjunto de dados, o modelo base, o método de treinamento, a semente e as configurações. Se o método salvar apenas um adaptador, registre também qual modelo base ele exige. Uma pasta de pesos deve conter informações suficientes para que seja possível carregar o modelo novamente.

Consulte o progresso do treinamento sem iniciar o trabalho de novo

Use o gerenciador de trabalhos do computador de treinamento ou uma sessão de terminal persistente, com os registros gravados em disco. Peça ao agente que registre como inspecionar e interromper o trabalho. Um comando iniciado durante uma chamada de ferramenta precisa de gerenciamento próprio de processos; a conexão do chat não deve ser o único registro de que ele foi iniciado.

Quando você pedir uma atualização, o agente poderá verificar o trabalho registrado, ler o registro mais recente e inspecionar os checkpoints salvos. Se a conexão cair, verifique se o mesmo trabalho ainda está em execução antes de iniciar outro. A retomada de um checkpoint depende do que o framework de treinamento salvou, inclusive o estado do otimizador e do escalonador, quando necessário.

Se ocorrer um erro de falta de memória, peça ao agente que preserve a configuração que falhou e leia o erro antes de propor uma alteração. Reduzir o tamanho do lote, encurtar as sequências ou mudar o método de treinamento pode afetar tanto o uso de memória quanto o experimento. Registre as novas configurações como outra execução para que a comparação continue compreensível.

Compare os erros e decida o que manter

Execute o modelo ajustado nos mesmos exemplos de avaliação usados para o modelo base. Não inclua esses exemplos nos dados de treinamento e mantenha fixas as configurações de previsão e as regras de pontuação. No classificador de suporte, compare os resultados de cada categoria e inspecione as solicitações cuja categoria mudou. Um aumento na precisão geral pode esconder um desempenho pior nos casos raros que são importantes para você.

Peça ao Beeuni que prepare um relatório vinculando as previsões alteradas aos exemplos de origem e às configurações da execução. Se você revisar o conjunto de dados depois de inspecionar esses erros, use um conjunto de teste separado para a decisão final. Ajustar o modelo repetidamente com base nos mesmos exemplos pode fazer a avaliação parecer melhor sem melhorar o desempenho em novas solicitações.

Mantenha juntos os pesos ou o adaptador escolhidos, as instruções de carregamento, os detalhes do ambiente e o relatório de avaliação. Teste o carregamento do resultado em um processo novo. Você pode implantá-lo depois de aceitar a comparação; até lá, o modelo existente pode continuar atendendo à sua aplicação enquanto o experimento permanece separado.