Dans un communiqué de presse sorti cette semaine, OpenAI annonce plusieurs améliorations concernant ses API de chatbot. Parmi ces nouveautés, on retrouve une mémoire plus longue et de nouvelles fonctionnalités ?
De nouvelles fonctionnalités ?
Dans son communiqué, OpenAI présente les nouveautés qui viendront s’ajouter à ces modules d’API sur GPT 4 et GPT 3.5. Dans son billet, l’entreprise parle tout d’abord d’une augmentation de la fenêtre contextuelle. Cette fenêtre représente la mémoire de conversation en cours pour les chatbots, dépasser cette limite l’outil ne se souviendra plus de la discussion. Pour GPT 4, cette limite passe à 32 000 mots, malgré qu’il faille être sélectionné pour l’utiliser. Pour GPT 3.5, la limitation passe de 4 000 mots à 16 000. Une augmentation intéressante, mais toujours inférieure à Anthropic et son LLM Claude à 75 000 mots de mémoire.
Et pour les développeurs ?
En plus de ce rehaussement de la mémoire des chatbots, OpenAI parle aussi de 4 changements pour les développeurs:
- Une fonction d’appel pour l’API Chat Completions
Cet ajout permettra aux développeurs de créer plus facilement des chatbots performants. De cette façon, les nouveaux chatbots pourront accéder à des outils externes, concevoir des réponses en langage naturel plus développées et sélectionner des informations dans des bases de données mises à leur disposition.
- Une orientation plus facile
L’orientation d’un chatbot lui permet de prendre un rôle ou un style d’écriture lorsqu’il rédige une réponse. OpenAI offre désormais une orientation plus malléable, ce qui permet d’expliquer plus simplement quel rôle doit prendre le chatbot. Cette mise à jour arrivera avec le nouveau modèle API “gpt-3.5-turbo-0613”.
- Réduction du prix de 75% du modèle “text-embedding-ada-002”
- Réduction du prix de 25% des jetons pour l’API GPT 3.5
OpenAI a également indiqué la suppression de certains modèles obsolètes. Nous pouvons donc dire adieu aux modèles “gpt-3.5-turbo-0301” et “gpt-4-0314”, utilisables jusqu’au 13 septembre. En attendant qu’OpenAI prépare sa prochaine mise à jour majeure, vous avez encore le temps de vous former à la création et à l’utilisation de l’intelligence artificielle. C’est pourquoi, si cet article vous a plu et si vous envisagez une carrière dans la Data Science, n’hésitez pas à découvrir nos articles ou nos offres de formations sur DataScientest.
Source : openai.com
