L’intelligence artificielle sur l’appareil, Qualcomm et Meta ensemble

Qualcomm Technologies et Meta ont annoncé une collaboration pour optimiser l’exécution des grands modèles de langage Llama 2 de Meta directement sur l’appareil, sans compter uniquement sur les services cloud. La possibilité d’exécuter des modèles d’IA génératifs comme Llama 2 sur des appareils tels que les smartphones, les PC, les casques VR/AR et les véhicules permet aux développeurs d’économiser sur les coûts du cloud et de fournir aux utilisateurs des expériences privées, plus fiables et personnalisées. En conséquence, Qualcomm Technologies prévoit de rendre disponibles les implémentations d’IA basées sur Llama 2 sur les appareils pour permettre la création de nouvelles applications d’intelligence artificielle. Cela permettra aux clients, partenaires et développeurs de créer des cas d’utilisation tels que des assistants virtuels intelligents, des applications de productivité, des outils de création de contenu, des divertissements et plus encore. Ces nouvelles expériences d’IA sur appareil alimentées par Snapdragon peuvent fonctionner dans des zones sans connectivité ou même en mode avion.

« Nous apprécions l’approche de Meta en matière d’IA ouverte et responsable et nous nous engageons à favoriser l’innovation et à réduire les barrières à l’entrée pour les développeurs de toutes tailles en apportant l’IA générative aux appareils », a déclaré Durga Malladi, vice-présidente principale et directrice générale de la technologie de pointe, planification et l’activité solutions de Qualcomm Technologies, Inc. “Pour intégrer efficacement l’IA générative dans le courant dominant, l’IA devra fonctionner à la fois dans le cloud et sur les appareils périphériques, tels que les smartphones, les ordinateurs portables, les véhicules et les appareils IoT”. Qualcomm Technologies prévoit de rendre l’implémentation de l’IA basée sur Llama 2 disponible sur les appareils compatibles Snapdragon à partir de 2024. Les développeurs peuvent commencer à optimiser les applications pour l’IA sur l’appareil dès aujourd’hui à l’aide de Qualcomm AI Stack, un ensemble d’outils dédiés qui permettent de traiter l’IA. plus efficacement sur Snapdragon, ce qui rend possible l’IA sur l’appareil même dans les appareils petits, fins et légers.