Quelle puce AI est la plus puissante ? Les Jeux olympiques du monde de l'intelligence artificielle ont annoncé la réponse

Financial Associated Press, 4 avril (éditeur Huang Junzhi) Selon les derniers résultats de MLPerf, le test de référence mondial de l'IA faisant autorité, la puce d'intelligence artificielle de Qualcomm Inc a battu Nvidia dans deux des trois indicateurs d'efficacité énergétique. Et une start-up taïwanaise est arrivée en tête dans l'un des indicateurs restants.

Il est rapporté que Nvidia occupe une position dominante sur le marché de la formation de modèles d'intelligence artificielle. Mais une fois ces modèles d'IA formés, ils sont largement utilisés dans les travaux dits "d'inférence", tels que la génération de réponses textuelles aux invites et la détermination si une image contient un chat.

Les analystes estiment qu'à mesure que les entreprises appliquent la technologie de l'intelligence artificielle à leurs produits, le marché des puces d'inférence pour centres de données se développera rapidement, mais de nombreuses entreprises, dont Google, ont commencé à explorer comment contrôler les coûts supplémentaires qui augmenteront.

Il est entendu que l'un des principaux coûts est l'électricité. Qualcomm a utilisé son expérience dans la conception de puces pour les appareils alimentés par batterie tels que les smartphones pour développer une puce appelée CloudAI100, qui vise à réduire la consommation d'énergie.

L'AI100 de Qualcomm a battu la puce phare de Nvidia, la H100, lors de la classification des images dans les données de test publiées par MLCommons mercredi, en fonction du nombre de requêtes de serveur de centre de données que chaque puce peut effectuer par watt. La puce Qualcomm a atteint 197,6 requêtes de serveur par watt, contre 108,4 par watt pour Nvidia. La startup taïwanaise Neuchips est en tête de liste avec 227 requêtes par watt.

MLCommons est une organisation tierce qui mesure la vitesse de traitement de l'intelligence artificielle. Sa filiale MLPerf a été lancée par le lauréat du prix Turing David Patterson (David Patterson) en collaboration avec Google, Stanford, l'Université de Harvard et d'autres institutions universitaires de premier plan. Il s'agit du test de référence international de performance de l'IA le plus influent et le plus influent, et son statut équivaut aux "Jeux olympiques" mondiaux dans le domaine de l'IA.

De plus, Qualcomm a battu Nvidia dans la détection d'objets avec un score de 3,2 par watt par rapport aux 2,4 par watt de Nvidia. La détection d'objets peut être utilisée dans des applications telles que l'analyse de séquences vidéo d'un magasin de détail pour voir où les acheteurs sont les plus fréquentés.

Pourtant, Nvidia est arrivé en tête à la fois en termes de performances absolues et d'efficacité énergétique lors d'un test de traitement du langage naturel, la technologie d'intelligence artificielle la plus largement utilisée dans des systèmes tels que les chatbots. Nvidia a atteint 10,8 échantillons par watt, tandis que Neuchips est arrivé deuxième avec 8,9 échantillons par watt, et Qualcomm a terminé troisième avec 7,5 échantillons par watt.