En plus de son dernier lot de nouvelles plateformes mobiles pour smartphones de milieu de gamme, Qualcomm a fait une annonce encore plus importante lors de son AI Day à San Francisco. Après avoir abandonné sa gamme Centriq en 2018, le géant des puces mobiles fait un autre jeu pour les serveurs. Cette fois, la société exploite ses technologies dans le domaine de l'IA pour pénétrer dans le cloud computing. La première puce que nous avons baptisée Qualcomm Cloud AI 100.
La plate-forme Cloud AI 100 n’est pas un reconditionnement de puces mobiles, c’est une conception compacte de 7 nm pour les tâches d’inférence AI, plutôt que la formation. Cela signifie que la puce analysera les nombres qui passent par les réseaux de neurones plutôt que de les utiliser pour les entraîner. Cela semble mettre en concurrence directe Qualcomm avec les puces d’inférence TPU Google Edge de Nvidia, conçues pour les serveurs et l’informatique en nuage. A l'instar de ses concurrents, Qualcomm a compris que le traitement de l'IA le plus efficace ne se fait pas sur les processeurs, les GPU et les FGPA, mais nécessite un accélérateur d'IA dédié.
En termes de performances, Qualcomm estime que les performances de son Snapdragon 855 ont été multipliées par 50. Le Snapdragon 855 offre environ 7 TOPS de performances, ce qui suggère que le Cloud AI 100 se situe dans la gamme des 350TOPS. Cela donnera certainement une chance au T4 de Nvidia. Qualcomm estime avoir également un avantage en termes de performances par watt, avec une amélioration de 10 fois supérieure à celle des solutions d’inférence AI les plus avancées du marché actuellement déployées. Lorsque vous calculez de gros chiffres, l'efficacité énergétique peut faire économiser aux entreprises des sommes énormes sur leurs factures d'électricité. En outre, Qualcomm souhaite tirer parti de son expertise en traitement du signal et en 5G afin que sa plate-forme cloud puisse fonctionner à la pointe des futurs réseaux à très faible latence.
Interrogé, Qualcomm n’a pas voulu savoir si l’architecture utilisée dans le Cloud AI 100 était propriétaire ou sous licence ailleurs. Je me demande s’il s’agit là de la première apparition de l’architecture Arm’s Trillium AI, qui est également conçue spécifiquement pour les charges de travail d’inférence sur un faible budget de puissance. Mais assez de spéculation, Qualcomm dit qu’elle partagera plus d’informations sur son architecture d’IA à l’avenir.
Enfin, pour aider les développeurs, le Cloud AI 100 de Qualcomm fonctionne avec la plupart, voire la totalité, des piles de logiciels leaders du marché. Les frameworks Caffe, Keras, mxnet, TensorFlow, PaddlePaddle et Cognitive Toolkit sont pris en charge, ainsi que les environnements d’exécution de Glow, OnnX et XLA.
Qualcomm Cloud AI 100 devrait commencer à échantillonner ses clients
