Utiliser Beeuni pour mener et évaluer une expérience de réglage fin d’un modèle

Le script d’entraînement s’arrête pendant la nuit. Le dossier de sortie contient un point de contrôle, c’est-à-dire l’état du modèle enregistré à un moment de l’entraînement, mais le journal s’interrompt avant l’évaluation. L’entraînement est-il terminé ? Peut-on charger ce modèle enregistré ? Quels paramètres ont été utilisés ? Un agent Beeuni peut examiner les fichiers et les journaux, essayer de charger le point de contrôle et indiquer ce qui s’est terminé avant que vous ne décidiez de relancer le travail.

Avec l’accès à votre ordinateur d’entraînement, l’agent peut examiner le code et les données, exécuter des commandes, lire les journaux et recueillir les résultats d’évaluation. Vous choisissez le modèle et définissez ce qui constitue une amélioration. Beeuni s’appuie sur les logiciels d’entraînement et les ressources de calcul disponibles sur cet ordinateur pour effectuer le travail.

Commencez par définir un comportement à modifier

Prenons le classificateur de demandes d’assistance du guide sur les jeux de données. Il répartit les demandes entre facturation, accès au compte, aide sur le produit et examen. Vous voulez vérifier si un modèle ajusté classe les demandes dans la bonne catégorie plus régulièrement que le modèle de base guidé par des instructions. Conservez des exemples qui combinent accès au compte et facturation : ils montreront si le modèle a appris quelle catégorie doit avoir la priorité lorsqu’une demande contient plusieurs problèmes.

Fournissez à l’agent les définitions des étiquettes, les exemples d’entraînement vérifiés et un jeu d’évaluation distinct. Demandez-lui d’exécuter le modèle de base sur ce jeu avant de modifier ses poids. Enregistrez l’identifiant du modèle, les instructions, les paramètres de génération et les prédictions. Sans cette référence, une commande d’entraînement qui aboutit ne vous apprend pas grand-chose sur l’utilité du travail supplémentaire.

Configurez l’accès à l’ordinateur d’entraînement

Connectez l’ordinateur qui exécutera l’expérience à l’aide de Computer Tunnel, puis sélectionnez-le dans le profil actif. Autorisez l’accès au système de fichiers et au shell pour le répertoire d’entraînement. Indiquez à l’agent le dépôt, l’emplacement du jeu de données et l’environnement Python. Pour un entraînement sur GPU, demandez-lui de vérifier le périphérique disponible, la mémoire, les pilotes et la compatibilité du framework avant de choisir les paramètres.

Le modèle de base et la méthode d’entraînement déterminent la mémoire et la puissance de calcul nécessaires. Avec une méthode par adaptateur, vous entraînez un petit ensemble de paramètres supplémentaires sans modifier les poids du modèle de base. Mettre à jour tous les poids demande généralement davantage de ressources. Demandez à l’agent Beeuni d’examiner votre script d’entraînement et le matériel disponible, puis d’expliquer si les paramètres prévus sont adaptés. Vérifiez toute proposition d’installation de paquet, de téléchargement de modèle ou de changement d’environnement avant de commencer.

Use the connected training computer and repository I specify.
Inspect the training script, model access, Python environment, and available devices.
Validate the reviewed dataset and keep the evaluation set separate.
Run the base-model evaluation and save its predictions.
Propose a small fine-tuning run with the settings and output directory shown.
Wait for my approval before starting training or changing the environment.
Save the command, configuration, logs, and evaluation results for each run.

Faites en sorte que le premier essai soit assez petit pour pouvoir l’examiner

Avant un entraînement complet, utilisez un petit sous-ensemble de données pour vérifier les étapes du traitement. Le tokenizer peut-il lire les exemples ? Les étiquettes sont-elles représentées de façon cohérente ? Entraîne-t-on le modèle à prédire le texte prévu ? Le script peut-il enregistrer un point de contrôle et le charger pour répondre à une demande ? Ces vérifications repèrent les problèmes de configuration avant que vous ne consacriez du temps à l’ensemble du jeu de données.

Demandez à l’agent Beeuni de montrer un exemple exactement tel que le script d’entraînement le lira. Faites-lui distinguer le texte que le modèle doit apprendre à prédire de celui qui sert uniquement de contexte. La fonction de perte mesure les erreurs sur ces prédictions. Si le script inclut les mauvais champs, l’entraînement peut se dérouler normalement tout en enseignant le mauvais comportement. Examinez cet exemple avant de vous fier à une courbe de perte.

Enregistrez chaque expérience dans un répertoire de sortie distinct. Notez la révision du code, la version du jeu de données, le modèle de base, la méthode d’entraînement, la graine aléatoire et les paramètres. Si la méthode n’enregistre qu’un adaptateur, indiquez le modèle de base dont il dépend. Un dossier de poids doit être accompagné des informations nécessaires pour recharger le modèle.

Consultez l’avancement de l’entraînement sans le relancer

Utilisez le gestionnaire de tâches de l’ordinateur d’entraînement ou une session de terminal persistante, et enregistrez les journaux sur le disque. Demandez à l’agent de noter comment examiner et arrêter la tâche. Une commande lancée lors d’un appel d’outil doit faire l’objet d’une gestion de processus propre ; la connexion de chat ne doit pas être la seule trace de son démarrage.

Lorsque vous demandez une mise à jour, l’agent peut vérifier la tâche enregistrée, lire le journal le plus récent et examiner les points de contrôle sauvegardés. Si la connexion est interrompue, vérifiez si la tâche en cours tourne toujours avant d’en lancer une autre. La reprise à partir d’un point de contrôle dépend des éléments enregistrés par le framework d’entraînement, notamment de l’état de l’optimiseur et de l’ordonnanceur lorsque ceux-ci sont nécessaires.

En cas d’erreur de mémoire insuffisante, demandez à l’agent de conserver la configuration qui a échoué et de lire l’erreur avant de proposer une modification. Réduire la taille des lots, raccourcir les séquences ou changer de méthode d’entraînement peut influer à la fois sur l’utilisation de la mémoire et sur l’expérience. Enregistrez les nouveaux paramètres dans une autre exécution afin que la comparaison reste compréhensible.

Comparez les erreurs, puis décidez quoi conserver

Exécutez le modèle ajusté sur les mêmes exemples d’évaluation que le modèle de base. N’incluez pas ces exemples dans les données d’entraînement et gardez les paramètres de prédiction et les règles de notation identiques. Pour le classificateur d’assistance, comparez les résultats de chaque catégorie et examinez les demandes dont la catégorie a changé. Une hausse de la précision globale peut masquer une moins bonne gestion des cas rares qui vous importent.

Demandez à Beeuni de rédiger un rapport reliant les prédictions modifiées aux exemples sources et aux paramètres de chaque exécution. Si vous révisez le jeu de données après avoir examiné ces erreurs, utilisez un jeu de test distinct pour prendre la décision finale. Régler plusieurs fois le modèle à partir des mêmes exemples peut embellir les résultats de l’évaluation sans améliorer ses performances sur de nouvelles demandes.

Conservez ensemble les poids ou l’adaptateur retenus, les instructions de chargement, les détails de l’environnement et le rapport d’évaluation. Testez le chargement du résultat dans un processus vierge. Vous pourrez passer au déploiement une fois la comparaison acceptée ; d’ici là, le modèle existant peut continuer à servir votre application, tandis que l’expérience reste à part.