Les clients d’OpenAI peuvent désormais apporter des données personnalisées à la version allégée de GPT-3.5, GPT-3.5 Turbo, ce qui facilite l’amélioration de la fiabilité du modèle d’IA génératrice de texte tout en intégrant des comportements spécifiques.
OpenAI affirme que les versions affinées de GPT-3.5 peuvent égaler ou même dépasser les capacités de base de GPT-4, le modèle phare de l’entreprise, sur « certaines tâches étroites ».
« Depuis la sortie de GPT-3.5 Turbo, les développeurs et les entreprises ont demandé à pouvoir personnaliser le modèle afin de créer des expériences uniques et différenciées pour leurs utilisateurs », écrit l’entreprise dans un billet de blog publié cet après-midi. « Cette mise à jour donne aux développeurs la possibilité de personnaliser des modèles plus performants pour leurs cas d’utilisation et d’exécuter ces modèles personnalisés à l’échelle. »
Grâce à un réglage fin, les entreprises qui utilisent GPT-3.5 Turbo via l’API d’OpenAI peuvent faire en sorte que le modèle suive mieux les instructions, par exemple qu’il réponde toujours dans une langue donnée. Elles peuvent également améliorer la capacité du modèle à formater les réponses de manière cohérente (par exemple, pour compléter des extraits de code), ainsi qu’affiner la « sensation » des résultats du modèle, comme son ton, afin qu’il corresponde mieux à une marque ou à une voix.
En outre, le réglage fin permet aux clients d’OpenAI de raccourcir leurs invites textuelles afin d’accélérer les appels d’API et de réduire les coûts. « Les premiers testeurs ont réduit la taille des messages-guides jusqu’à 90 % en affinant les instructions dans le modèle lui-même », affirme OpenAI dans son billet de blog.
Le réglage fin nécessite actuellement de préparer les données, de télécharger les fichiers nécessaires et de créer une tâche de réglage fin via l’API d’OpenAI. Toutes les données de réglage fin doivent passer par une API de « modération » et un système de modération alimenté par GPT-4 pour voir si elles sont en conflit avec les normes de sécurité d’OpenAI, explique l’entreprise. Mais OpenAI prévoit de lancer une interface utilisateur de réglage fin à l’avenir, avec un tableau de bord permettant de vérifier l’état des charges de travail de réglage fin en cours.
Les coûts de la mise au point sont les suivants :
- Formation : 0,008 $ / 1k tokens
- Utilisation de l’entrée : 0,012 $ / 1k jeton
- Utilisation en sortie : 0,016 $ / 1 000 jetons
Les « tokens » représentent du texte brut – par exemple « fan », « tas » et « tic » pour le mot « fantastique ». Selon OpenAI, un travail de réglage fin GPT-3.5 avec un fichier d’entraînement de 100 000 tokens, soit environ 75 000 mots, coûterait environ 2,40 dollars.
Par ailleurs, OpenAI a mis à disposition aujourd’hui deux modèles de base GPT-3 mis à jour (babbage-002 et davinci-002), qui peuvent également être affinés, avec la prise en charge de la pagination et « plus d’extensibilité ». Comme annoncé précédemment, OpenAI prévoit de retirer les modèles de base GPT-3 originaux le 4 janvier 2024.
OpenAI a indiqué que la prise en charge du réglage fin pour GPT-4 – qui, contrairement à GPT-3.5, peut comprendre des images en plus du texte – arrivera dans le courant de l’automne, mais n’a pas fourni d’autres détails.