Aller au contenu
ELECTRONICS ENGINEERINGelectronics-engineering.com
Architecture des ordinateurs

Processeurs superscalaires, VLIW et multithreading simultané

Émission multiple et IPC, coût quadratique du contrôle avec démonstration, architectures VLIW et leurs limites, multithreading simultané, murs de l'ILP, de la mémoire et de la puissance, virage vers le multicœur.

https://www.electronics-engineering.com/fr/superscalaire-vliw-multithreading-simultane/

Pas encore de vote : soyez le premier à noter cette page.

Un pipeline parfait termine une instruction par cycle. Pour faire mieux, il faut chercher, décoder et exécuter plusieurs instructions par cycle : c’est le processeur superscalaire. Sinon, le parallélisme peut être décidé par le compilateur et écrit explicitement dans les instructions : c’est l’approche VLIW. Ou encore, on peut remplir les emplacements vides avec des instructions d’un autre programme : le multithreading simultané. Dans cette leçon, nous regardons les trois voies, nous démontrons pourquoi la complexité du contrôle croît avec le carré de la largeur, et nous voyons les limites qui ont poussé l’industrie vers le multicœur.

Le processeur superscalaire

Un processeur superscalaire à W voies cherche et décode jusqu’à W instructions par cycle, les renomme et les envoie aux unités fonctionnelles, dont il y a plus d’une par type. Dans le cas idéal, il termine W instructions par cycle : le CPI tombe à 1/W, et l’on préfère parler de son inverse, l’IPC (instructions par cycle).

Diagramme temporel d'un pipeline superscalaire à deux voies
Chaque ligne est une instruction, chaque colonne un cycle d’horloge ; F recherche, D décodage, E exécution, M accès mémoire, W écriture du résultat. Les instructions entrent par paires : une fois le pipeline plein, deux se terminent à chaque cycle.

L’IPC réel est bien inférieur à W : les vraies dépendances, les branchements mal prédits et surtout les attentes de la mémoire laissent beaucoup d’emplacements vides. Un processeur à 6-8 voies atteint typiquement un IPC entre 2 et 4 sur des programmes courants.

Le coût du contrôle

Émettre plusieurs instructions ensemble exige de vérifier, dans le même cycle, les dépendances entre les instructions du groupe : si la deuxième lit un registre écrit par la première, elle doit recevoir le nouveau registre physique attribué à la première, non l’ancien de la table de renommage.

Théorème. Renommer en un cycle un groupe de W instructions à deux opérandes source chacune exige W(W-1) comparaisons de registres.

Démonstration. L’instruction en position i du groupe (de 1 à W) doit comparer chacun de ses deux registres source avec le registre destination de chacune des i - 1 instructions qui la précèdent dans le groupe. Le total est \sum_{i=1}^{W}2(i-1) = 2\cdot\frac{W(W-1)}{2} = W(W-1). ∎

Le nombre de comparaisons croît avec le carré de la largeur, de même que les ports de lecture et d’écriture du fichier de registres, les chemins de propagation entre unités et la logique qui choisit quelles instructions prêtes envoyer. La puissance et la difficulté de respecter le cycle d’horloge croissent plus que linéairement, alors que l’IPC croît moins que linéairement. C’est pourquoi les largeurs se sont arrêtées entre 4 et 10.

VLIW : laisser le travail au compilateur

Dans l’architecture VLIW (very long instruction word), chaque instruction est un paquet d’opérations que le compilateur garantit indépendantes, une pour chaque unité fonctionnelle. Le processeur ne vérifie rien : il exécute les paquets tels quels, avec un matériel simple et peu gourmand. Le compilateur doit trouver le parallélisme par le déroulage de boucles et l’ordonnancement des instructions (leçon sur les dépendances), en remplissant de no-op les emplacements qu’il ne peut pas utiliser.

Le VLIW a eu beaucoup de succès dans les DSP et les accélérateurs, où le code est fait de boucles régulières et prévisibles. Dans les processeurs généralistes, en revanche, il s’est heurté à deux problèmes : le compilateur ne connaît pas les latences de la mémoire, qui changent à chaque exécution, et le code compilé pour une génération n’exploite pas la suivante, qui a des unités différentes. L’exemple le plus connu est l’Itanium d’Intel et HP, abandonné en 2021.

Le multithreading simultané

Même le meilleur superscalaire laisse vides beaucoup de ses W emplacements à chaque cycle, parce qu’un seul programme n’a pas assez d’instructions indépendantes. Le multithreading simultané (SMT, commercialisé par Intel sous le nom d’Hyper-Threading) fait paraître un cœur comme deux (ou plus) processeurs : il a deux copies de l’état architectural (registres, compteur de programme) et cherche des instructions dans les deux threads, en les mélangeant dans la même fenêtre d’exécution dans le désordre. Les instructions des deux threads n’ont pas de dépendances entre elles et remplissent les emplacements laissés libres par l’autre, surtout quand l’un des deux attend la mémoire.

Le gain typique est de 15-30 % de débit global pour quelques pour cent de surface en plus. Le prix est que les deux threads se disputent les caches, les prédicteurs et les unités : chacun va plus lentement que seul, et un thread peut espionner l’autre en mesurant les temps, c’est pourquoi certains systèmes le désactivent par sécurité.

Les limites et le virage vers le multicœur

Jusqu’au début des années 2000, les performances des processeurs croissaient d’environ 50 % par an grâce à des fréquences plus élevées et à plus d’ILP. Puis elles ont buté sur trois murs :

  • le mur de l’ILP : au-delà d’une certaine largeur, l’IPC ne croît plus ;
  • le mur de la mémoire : la DRAM est restée lente, des centaines de cycles par accès ;
  • le mur de la puissance : augmenter la fréquence exige d’augmenter la tension, et la puissance croît à peu près comme le cube de la fréquence (leçon sur l’énergie).

La réponse de l’industrie a été de mettre plusieurs cœurs sur la même puce : au lieu d’un cœur toujours plus grand et plus chaud, plusieurs cœurs de taille raisonnable. Mais le parallélisme doit devenir explicite, écrit par le programmeur avec des threads, et la mémoire partagée apporte les problèmes de cohérence et de consistance de la leçon qui leur est consacrée.

S’abonner
Notifier de
guest
1 commentaire
Le plus ancien
Plus récent Les plus votés
1
0
Vous avez apprécié cet article ? Merci de laisser un commentaire.x