Après avoir publié en open source l’intégralité de son LLM Grok-1, xAI, la société d’Elon Musk, annonce sa nouvelle version Grok-1.5. Ce modèle de dernière génération cherchant, comme beaucoup, à égaler la puissance de GPT-4 pourrait être introduit dans le réseau social X.
Une nouvelle version de Grok
La version Grok-1.5 est un nouveau LLM développé par xAI, l’entreprise d’intelligence artificielle d’Elon Musk. Cette nouvelle version, développée sur Kubernetes, JAX et Rust, présente des performances remarquables en mémorisation de contexte. Sa mémoire s’étend sur 128 000 tokens, une capacité 16 fois supérieure à son prédécesseur.
Côté performances, Grok-1.5 montre des résultats impressionnants en mathématiques et en codage. Ayant réalisé plusieurs benchmark dont deux en mathématiques, Grok-1.5 s’en sort avec 50,6% pour le test MATH et 90% sur le test GSM8K. Des résultats qui tendent à se rapprocher des autres LLM d’entreprises comme Google avec Gemini ou OpenAI et le très puissant GPT-4 comme le présente le graphique ci-dessous.
Selon les équipes de développement, de nombreuses fonctionnalités sont à venir dans les prochaines semaines. xAI prévoit également de donner bientôt un accès public à Grok-1.5 et viendrait remplacer la version antérieure de Grok qui alimente actuellement le chatbot de X.
Grok la révolution de l’open source
Annoncé il y a presque un mois, le 11 mars, Elon Musk offrait la version complète de Grok en open source. Son objectif, concurrencer ChatGPT. Pour cela, il donne accès à son LLM, de 314 milliards de paramètres, une version totale qui bouscule les autres versions “limitées” des entreprises demandant un abonnement ou un paiement pour accéder à plus de paramètres. Cette version se veut façonnable ou commercialisable, fournissant ainsi un outil très puissant et gratuit aux entreprises.
Pour autant, Elon Musk ne fait pas ça par bonté de cœur. Son plan est de diminuer la dépendance des entreprises aux API d’OpenAI, de Google, etc. tout en renforçant les capacités de son modèle. De cette façon, le milliardaire espère pouvoir concurrencer OpenAI et ses modèles GPT dans les mois à venir.
Si cet article vous a plu et si vous envisagez une carrière dans la Data Science ou tout simplement une montée en compétences dans votre domaine, n’hésitez pas à découvrir nos offres de formations ou nos articles de blog sur DataScientest.
