Jack Dongarra, lauréat du prix Turing : il reste encore beaucoup de place au sommet du calcul intensif

Les superordinateurs peuvent être considérés comme les champions olympiques du calcul scientifique. Grâce aux simulations numériques, les superordinateurs enrichissent notre compréhension du monde : qu’il s’agisse des étoiles à des années-lumière de l’univers, de la météo et du climat de la Terre ou du fonctionnement du corps humain.

Jack Dongarra est une force motrice du calcul haute performance depuis plus de quatre décennies. Plus tôt cette année, le prix ACM A.M. Turing 2021 a été décerné à Dongarra « pour ses contributions pionnières aux algorithmes numériques et aux bibliothèques d'outils qui ont permis aux logiciels de calcul haute performance de suivre le rythme des progrès exponentiels du matériel pendant plus de quatre décennies ».

Bennie Mols, l'auteur de cet article, a rencontré Dongarra lors du 9e Heidelberg Laureate Forum en Allemagne en septembre et a discuté du présent et de l'avenir du calcul haute performance. Dongarra, 72 ans, est un professeur distingué de l’Université du Tennessee et un chercheur distingué au Laboratoire national d’Oak Ridge du Département américain de l’énergie depuis 1989. Bennie Mols est un écrivain scientifique et technologique basé à Amsterdam, aux Pays-Bas.

Voici le contenu de l'interview

Q1 : Quelle a été votre motivation pour la recherche scientifique au cours des dernières décennies ?

A : Mon principal domaine de recherche est les mathématiques, notamment l'algèbre linéaire numérique. Tous mes travaux en découlent. Pour des matières telles que la physique et la chimie qui nécessitent des calculs - en particulier la résolution de systèmes d'équations linéaires - un logiciel capable de calculer les réponses est sans aucun doute très important. Dans le même temps, vous devez également vous assurer que le fonctionnement du logiciel est cohérent avec l'architecture de la machine, afin que vous puissiez réellement obtenir les hautes performances que la machine peut atteindre.

Q2 : Quelles sont les exigences les plus importantes pour que les logiciels fonctionnent sur des superordinateurs ?

A : Nous espérons que les résultats de calcul de ce logiciel sont exacts. Nous espérons que la communauté scientifique utilisera et comprendra ce logiciel et même contribuera à son amélioration. Nous voulons que le logiciel fonctionne bien et soit portable sur différentes machines. Nous voulons que le code soit lisible et fiable. En fin de compte, nous voulons que les logiciels rendent ceux qui les utilisent plus productifs.

Développer un logiciel qui répond à toutes ces exigences est un processus non trivial. Ce niveau d’ingénierie comporte souvent des millions de lignes de code et tous les 10 ans environ, nous assistons à des changements majeurs dans l’architecture des machines. Cela conduira à la nécessité de refactoriser à la fois les algorithmes et les logiciels qui les incarnent. Le logiciel suit le matériel, et il reste encore beaucoup de place au sommet du calcul intensif pour obtenir de meilleures performances des machines.

Q3 : Y a-t-il des développements actuels dans le domaine du calcul haute performance qui vous passionnent ?

A : Nos supercalculateurs hautes performances sont construits sur des composants tiers. Par exemple, vous et moi pouvons également acheter des puces haut de gamme, mais les ordinateurs hautes performances en nécessitent beaucoup. Nous utilisons généralement des accélérateurs sous forme de GPU sur des ordinateurs hautes performances. Nous plaçons plusieurs cartes de développement de puces sur un rack, et plusieurs de ces racks forment ensemble un supercalculateur. La raison pour laquelle nous utilisons des composants tiers est que c'est moins cher, mais si vous concevez une puce spécifiquement pour faire du calcul scientifique, vous obtenez un supercalculateur avec de meilleures performances, ce qui est une idée passionnante.

En fait, c'est exactement ce que font des entreprises comme Amazon, Facebook, Google, Microsoft, Tencent, Baidu et Alibaba : elles fabriquent leurs propres puces. Ils peuvent le faire parce qu’ils disposent d’énormes fonds, alors que les universités ont des fonds limités et doivent donc malheureusement recourir à des produits tiers. Cela rejoint une autre de mes préoccupations : comment retenir les talents dans le domaine scientifique, plutôt que de les voir travailler pour de plus grandes entreprises mieux rémunérées ?

Q4 : Quels sont les autres développements importants pour l'avenir du calcul haute performance ?

A : Il y a effectivement des choses importantes. Il est clair que l’apprentissage automatique a déjà un impact majeur sur le calcul scientifique, et cet impact ne fera que croître. Je considère l’apprentissage automatique comme un outil qui aide à résoudre les problèmes que les informaticiens souhaitent résoudre.

Cela va de pair avec un autre développement important. Traditionnellement, notre matériel utilise des opérations à virgule flottante sur 64 bits, les nombres sont donc représentés en 64 bits. Cependant, si vous utilisez moins de bits, comme 32, 16 ou même 8 bits, vous pouvez accélérer le calcul. Mais en accélérant les calculs, on perd en précision. Cependant, il semble que les calculs d’IA puissent souvent être effectués avec moins de bits, 16 voire 8 bits. C’est un domaine qui doit être exploré, et nous devons découvrir où la réduction des bits fonctionne bien et où elle ne fonctionne pas.

Un autre domaine de recherche concerne la façon de commencer avec des calculs de faible précision, d'obtenir une approximation, puis d'utiliser des calculs de plus haute précision pour affiner les résultats.

Q5 : Quelle est la consommation électrique des supercalculateurs ?

A : Les meilleurs supercalculateurs consomment aujourd'hui 20 ou 30 mégawatts pour réaliser des exaflops. Si tout le monde sur Terre faisait un calcul toutes les secondes, il faudrait plus de quatre ans pour faire ce qu'un ordinateur à très grande échelle fait en une seconde. Peut-être que d’ici 20 ans, nous atteindrons l’échelle du zettaflop, qui est 10 puissance 21 opérations en virgule flottante. Cependant, la consommation électrique peut être un facteur limitant. Il faudrait une machine de 100 ou 200 mégawatts, ce qui est actuellement trop énergivore.

Q6 : Comment voyez-vous le rôle de l’informatique quantique dans le futur calcul haute performance ?

A : Je pense que les problèmes que l'informatique quantique peut résoudre sont limités, elle ne résoudra pas des problèmes comme les équations aux dérivées partielles tridimensionnelles, pour lesquelles nous utilisons souvent des superordinateurs, comme la modélisation climatique.

À l'avenir, nous construirons un outil intégré contenant différents types d'outils de calcul. Nous aurons des processeurs et des accélérateurs, nous aurons des outils pour aider à l'apprentissage automatique, nous aurons très probablement des appareils pour faire du calcul neuromorphique à la manière du cerveau, nous aurons des ordinateurs optiques, et en plus, nous aurons des ordinateurs quantiques pour résoudre des problèmes spécifiques.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!