Alors que les grandes capacités d’intelligence artificielle sont rares sur le continent européen, la start-up française Mistral annonce la disponibilité d’un grand modèle de langage open source affichant des performances similaires à Llama. Toujours dans l’Hexagone, le groupe Iliad s’est équipé d’un supercalculateur taillé pour l’IA qu’il proposera via sa filiale Scaleway.
La société française Mistral AI a dévoilé son premier grand modèle de langage. Basé sur 7 milliards de paramètres, le modèle affiche des performances en ligne ou supérieures aux modèles open source Llama développés par Meta exploitant pourtant davantage de paramètres.
La recette réside notamment dans l’emploi d’un mécanisme de “fenêtre d’attention glissante”, explique Mistral. Le modèle présente également des performances analogues à ses concurrents lorsqu’il est amélioré (fine-tuned) avec des jeux de données d’instruction publics. Proposé sous licence Apache, le modèle peut être téléchargé pour être mis en œuvre dans les entreprises ou déployé dans le cloud (AWS, GCP et Azure).
Comparatif des performances de Mistral 7B et de Llama 2 (7B, 13B et 70B).
Iliad s’offre un supercalculateur pour l’IA
Dans le chapitre IA made in France, l’autre nouvelle de la semaine concerne le groupe Iliad dirigé par Xavier Niel, qui a annoncé le déploiement dans l’un de ses datacenters parisiens, d’un supercalculateur DGX SuperPOD de NVIDIA dédié à l’IA. Ce dernier comporte 127 systèmes DGX H100 (prix à l’unité plus de 250 000 francs) comptant chacun 8 processeurs graphiques NVIDIA H100 Tensor Core. “Avec ce supercalculateur, le Groupe se dote de la plus grande puissance de calcul cloud dédiée aux applications IA déployée à date en Europe”, explique l’entreprise.
Via sa filiale Scaleway, le groupe français permettra aux entreprises d’exploiter la puissance du calculateur dans le cloud pour entraîner leurs modèles. Le fournisseur indique qu’il proposera également d’une puissance de calcul plus réduite (2 systèmes DGX H100 connectés), pour l’entraînement de modèles plus petits et ciblés.
Le groupe Iliad a par ailleurs annoncé être à l’initiative de la création d’un laboratoire de recherche en IA à Paris, déjà doté à plus de 100 millions d’euros.
#Avec #superordinateur #dIliad #modèle #Mistral #France #profile #dans #lIA
publish_date] pt]
