ORNL rejoint un consortium pour s’attaquer à l’IA scientifique

Le laboratoire national d’Oak Ridge du ministère de l’Énergie a rejoint un consortium mondial de scientifiques issus de laboratoires fédéraux, d’instituts de recherche, du monde universitaire et de l’industrie pour relever les défis liés à la construction de systèmes d’intelligence artificielle à grande échelle et à la promotion d’une IA digne de confiance et fiable pour la découverte scientifique.

Le partenariat, connu sous le nom de Trillion Parameter Consortium, ou TPC, vise à développer et à améliorer des modèles d’IA générative à grande échelle visant à relever des défis scientifiques complexes. Ceux-ci incluent le développement d’architectures de modèles évolutives et de stratégies de formation associées, ainsi que l’organisation et la conservation des données pour la formation des modèles ; l’optimisation des bibliothèques d’IA pour les plates-formes informatiques exascale actuelles et futures ; et l’évaluation des progrès en matière d’apprentissage des tâches scientifiques, de fiabilité et de confiance.

Il s’agit d’un partenariat logique, car la mission documentée de l’ORNL consistant à développer une IA sûre, fiable et économe en énergie renforcera les objectifs du consortium en matière d’IA responsable. En outre, le laboratoire abrite plus de 300 chercheurs qui utilisent l’IA pour relever des défis importants pour le DOE, et il héberge le superordinateur le plus puissant au monde, Frontier, qui a été construit en partie pour faciliter les algorithmes et les algorithmes basés sur l’IA économes en énergie et évolutifs. simulations.

Les axes de recherche de l’ORNL en IA, lorsqu’ils seront déployés parallèlement à ces ressources, seront essentiels pour aider le consortium à relever un certain nombre de défis, notamment :

• Construire une communauté ouverte de chercheurs intéressés par la création de modèles d’IA génératifs de pointe à grande échelle visant largement à faire progresser les problèmes scientifiques et techniques en partageant des méthodes, des approches, des outils, des informations et des flux de travail.

• Incuber, lancer et coordonner des projets volontairement pour éviter la duplication des efforts et maximiser l’impact des projets dans la communauté scientifique et de l’IA au sens large.
• Créer un réseau mondial de ressources et d’expertise pour faciliter la prochaine génération d’IA et rassembler les chercheurs intéressés par le développement et l’utilisation de l’IA à grande échelle pour la science et l’ingénierie.

« Une approche intégrée et communautaire axée sur la sécurité, la fiabilité et l’efficacité énergétique est cruciale pour exploiter tout le potentiel de l’IA pour la découverte scientifique et la sécurité nationale », a déclaré Prasanna Balaprakash, éminente scientifique de l’ORNL en R&D et directrice de l’Initiative IA du laboratoire. « Pour cette raison, l’ORNL espère devenir une ressource essentielle pour le consortium à l’avenir, et nous sommes impatients d’assurer l’avenir de l’IA dans l’ensemble du spectre scientifique. »

Plus précisément, TPC vise à fournir à la communauté un lieu dans lequel plusieurs grandes initiatives de création de modèles peuvent collaborer pour tirer parti des efforts mondiaux, avec la flexibilité nécessaire pour s’adapter aux divers objectifs des initiatives individuelles. Le consortium comprend des équipes qui entreprennent des initiatives visant à tirer parti des plates-formes informatiques exascale émergentes pour former des LLM – ou des architectures de modèles alternatives – sur la recherche scientifique, notamment des articles, des codes scientifiques et des données d’observation et expérimentales pour faire progresser l’innovation et les découvertes. Les modèles comportant des milliards de paramètres représentent la prochaine grande étape dans l’IA scientifique à grande échelle, car seuls les plus grands outils d’IA commerciaux s’approchent actuellement de cette échelle.

La formation de LLM avec autant de paramètres nécessite des ressources informatiques de classe exascale telles que Frontier. Cependant, même avec de telles ressources, la formation d’un modèle de pointe comportant des milliards de paramètres nécessitera des mois de temps dédié, ce qui est insoluble sur tous les systèmes, sauf sur les plus grands. Par conséquent, de tels efforts impliqueront de grandes équipes multidisciplinaires et multi-institutionnelles, et PTC est envisagé comme un moyen de soutenir les efforts de collaboration et de coopération entre et au sein de ces équipes.

Le portefeuille de recherche de l’ORNL sur l’IA remonte à plus de quatre décennies, jusqu’en 1979, lorsque le laboratoire a lancé le projet d’intelligence artificielle appliquée d’Oak Ridge. L’AAIP a évalué le potentiel de l’IA pour faire progresser la recherche scientifique, en particulier dans quatre domaines clés : la spectroscopie, la gestion environnementale, le retraitement du combustible nucléaire et l’assistance à la programmation.

Aujourd’hui, l’Initiative IA du laboratoire se concentre sur le développement d’une IA sécurisée, fiable et économe en énergie dans un large éventail d’applications au laboratoire, de la biologie à la chimie en passant par la sécurité nationale.

Parmi les autres partenaires de TPC figurent l’Allen Institute for AI ; Laboratoire National d’Argonne : Centre de Supercalcul de Barcelone ; Laboratoire national de Brookhaven ; Caltech ; CEA ; Cérébraux ; Cinéca ; CSC – Centre informatique pour la science ; Organisation de recherche scientifique et industrielle du Commonwealth ; ETH Zurich; Université Flinders ; Fujitsu ; Intel ; Juelich; Technologie Kotoba ; Laboratoire national Lawrence Berkeley ; Laboratoire national de Los Alamos ; Microsoft ; Centre national pour les applications du calcul intensif ; Laboratoire national des énergies renouvelables ; NCI Australie ; Infrastructure eScience néo-zélandaise : NVIDIA ; Laboratoire national du Nord-Ouest du Pacifique ; Institut Pawsey ; Laboratoire de physique des plasmas de Princeton ; Université Rutgers ; SambaNova ; Laboratoire national des accélérateurs du SLAC ; Université de Stanford; Laboratoire STFC Rutherford Appleton, UKRI ; Centre informatique avancé du Texas ; Installation d’accélérateur national Thomas Jefferson ; Ensemble IA ; Institut de technologie de Tokyo ; Université de Montréal; l’Université de Chicago ; l’Université du Delaware ; l’Université de l’Illinois à Chicago ; l’Université de l’Illinois Urbana-Champaign ; l’Université de Tokyo ; et l’Université de l’Utah.

UT-Battelle gère ORNL pour l’Office of Science du ministère de l’Énergie, le plus grand partisan de la recherche fondamentale en sciences physiques aux États-Unis. Le Bureau des sciences s’efforce de relever certains des défis les plus urgents de notre époque. Pour plus d’informations, s’il vous plaît visitez énergie.gov/science.

Clause de non-responsabilité: AAAS et EurekAlert! ne sommes pas responsables de l’exactitude des communiqués de presse publiés sur EurekAlert! par les institutions contributrices ou pour l’utilisation de toute information via le système EurekAlert.