Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών

Slides:



Advertisements
Παρόμοιες παρουσιάσεις
Εισαγωγή στις Τεχνολογίες της Πληροφορικής και των Επικοινωνιών
Advertisements

1 Α. Βαφειάδης Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Δεύτερο.
Pipeline: Ένα παράδειγμα από ….τη καθημερινή ζωή
Το υλικο του Υπολογιστη
Handling Local Variables General Purpose Registers
Δυναμική Δρομολόγηση Εντολών (Dynamic Scheduling)
Υποθετική Εκτέλεση Εντολών (Hardware-Based Speculation)‏
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) Σχεδίαση datapath 4 κατηγορίες εντολών: Αριθμητικές-λογικές.
Ανίχνευση κίνδυνου Επίλυση με προώθηση. Μπλέ: Εξαρτήσεις. Εξαρτήσεις προς προηγούμενα CC είναι κίνδυνοι δεδομένων Kόκκινο: Προώθηση IF/ID ID/EX EX/MEM.
Λύση: Multicycle υλοποίηση Single-cyle υλοποίηση: Διάρκεια κύκλου ίση με τη μεγαλύτερη εντολή-worst case delay (εδώ η lw) = χαμηλή.
ΠΡΟΣΟΜΟΙΩΣΗ ΑΡΧΙΤΕΚΤΟΝΙΚΗΣ. Εισαγωγή Έρευνα στην Αρχιτεκτονική Υπολογιστών – Σχεδίαση επεξεργαστή για την εκτέλεση 1 thread (pipeline, branch prediction)
© Pipeline: Ένα παράδειγμα από ….τη καθημερινή ζωή 1.Πλυντήριο 2.Στεγνωτήριο 3.Δίπλωμα 4.αποθήκευση 30 min κάθε «φάση» Σειριακή προσέγγιση.
1 Pipeline: Ένα παράδειγμα από ….τη καθημερινή ζωή 1.Πλυντήριο 2.Στεγνωτήριο 3.Δίπλωμα 4.αποθήκευση 30 min κάθε «φάση» Σειριακή προσέγγιση για 4 φορτία.
1 Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Τέταρτο Pipelining –
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Οργάνωση και Αρχιτεκτονική Υπολογιστών Βασικές αρχές Αρχιτεκτονικής
© Ασκήσεις στα Προηγμένα Θέματα Αρχιτεκτονικής Υπολογιστών ακ. έτος Νεκτάριος Κοζύρης Νίκος Αναστόπουλος
Multi-threading Κορομηνάς Κωνσταντίνος – Μ437
Υπερβαθμωτή Οργάνωση Υπολογιστών. Περιορισμοί των βαθμωτών αρχιτεκτονικών Μέγιστο throughput: 1 εντολή/κύκλο ρολογιού (IPC≤1) Υποχρεωτική ροή όλων των.
1 Α. Βαφειάδης Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Τρίτο Συστήματα.
Multi-threading Κορομηνάς Κωνσταντίνος – Μ437 Χατζηανδρέου Ελένη - Μ400 Χήνου Διονυσία – Μ364.
© Υπερβαθμωτή Οργάνωση Υπολογιστών Από τις βαθμωτές στις υπερβαθμωτές αρχιτεκτονικές αγωγού…
Εισαγωγή Σύνοψη βασικών εννοιών, 5-stage pipeline, επεκτάσεις για λειτουργίες πολλαπλών κύκλων.
1 Α. Βαφειάδης Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Δεύτερο.
Implicitly Multithreaded Processors Νίκος Ιωάννου EΠΛ605 Παρουσίαση άρθρου “IMT processors”
1 EPIC Νάνου Σπυριδούλα Α.Μ Explicitly Parallel Instruction Computing Ένα νέο στυλ αρχιτεκτονικής που σκοπό έχει: Τη δυνατότητα υψηλότερου επιπέδου.
1 Α. Βαφειάδης Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Τρίτο Συστήματα.
© Processor-Memory (DRAM) Διαφορά επίδοσης Performance
1 Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Τέταρτο Οι κίνδυνοι της.
1 Α. Βαφειάδης Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Τ.Ε.Ι Θεσσαλονίκης Μάθημα Προηγμένες Αρχιτεκτονικές Υπολογιστών Κεφαλαίο Δεύτερο.
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών.
ΗΥ Παπαευσταθίου Γιάννης1 Clock generation.
ΗΥ Καλοκαιρινός Γιώργος1 PCI Bus Pin List. ΗΥ Καλοκαιρινός Γιώργος2 Initiator Target.
ΗΥ Καλοκαιρινός Γιώργος1 Bus. ΗΥ Καλοκαιρινός Γιώργος2 MCS51.
6/26/2015HY220: Ιάκωβος Μαυροειδής1 HY220 Asynchronous Circuits.
Week 11 Quiz Sentence #2. The sentence. λαλο ῦ μεν ε ἰ δότες ὅ τι ὁ ἐ γείρας τ ὸ ν κύριον Ἰ ησο ῦ ν κα ὶ ἡ μ ᾶ ς σ ὺ ν Ἰ ησο ῦ ἐ γερε ῖ κα ὶ παραστήσει.
Αρχιτεκτονική Υπολογιστών Ενότητα # 3: Ιεραρχία Μνήμης Διδάσκων: Γεώργιος Κ. Πολύζος Τμήμα: Πληροφορικής.
Αρχιτεκτονική Υπολογιστών Ενότητα # 2: Datapath & Control Διδάσκων: Γεώργιος Κ. Πολύζος Τμήμα: Πληροφορικής.
Αρχιτεκτονική Υπολογιστών DATAPATH & CONTROL. Αρχιτεκτονική Υπολογιστών DATAPATH & CONTROL Για κάθε εντολή υπάρχουν δυο βήματα που πρέπει να γίνουν: –Προσκόμιση.
Guide to Business Planning The Value Chain © Guide to Business Planning A principal use of value chain analysis is to identify a strategy mismatch between.
Chapter 16 Control Unit Implemntation. A Basic Computer Model.
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) 4 κατηγορίες εντολών: Αριθμητικές-λογικές εντολές (add, sub, slt κλπ) –R Type.
ΤΕΧΝΙΚΕΣ Αντικειμενοστραφουσ προγραμματισμου
Υποθετική Εκτέλεση Εντολών (Hardware-Based Speculation)‏
Εξέλιξη Υπολογιστικών Συστημάτων
Είδη των Cache Misses: 3C’s
Single-cyle υλοποίηση:
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Παράγοντες που επηρεάζουν την επίδοση της CPU
Pipeline: Ένα παράδειγμα από ….τη καθημερινή ζωή
1 Οργάνωση και Αρχιτεκτονική Υπολογιστών A. Βαφειάδης Πρόγραμμα Αναβάθμισης Προγράμματος Σπουδών Τμήματος Πληροφορικής Α.Τ.Ε.Ι Θεσσαλονίκης Μάθημα Οργάνωση.
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) 4 κατηγορίες εντολών: Αριθμητικές-λογικές εντολές (add, sub, slt κλπ) –R Type.
Single-cyle υλοποίηση:
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Άσκηση Pipeline 1 Δεδομένα Έχουμε ένα loop... Rep: lw $2,100($3)
Είδη των Cache Misses: 3C’s
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Αρχιτεκτονική Υπολογιστών
Single-cyle υλοποίηση:
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) 4 κατηγορίες εντολών: Αριθμητικές-λογικές εντολές (add, sub, slt κλπ) –R Type.
Είδη των Cache Misses: 3C’s
Single-cyle υλοποίηση:
Single-cyle υλοποίηση:
Deriving the equations of
Είδη των Cache Misses: 3C’s
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) 4 κατηγορίες εντολών: Αριθμητικές-λογικές εντολές (add, sub, slt κλπ) –R Type.
O επεξεργαστής: Η δίοδος δεδομένων (datapath) και η μονάδα ελέγχου (control) 4 κατηγορίες εντολών: Αριθμητικές-λογικές εντολές (add, sub, slt κλπ) –R Type.
Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών
Ανίχνευση Προσωρινών Σφαλμάτων μέσω Ταυτόχρονης Πολυνηματικής Εκτέλεσης (Transient Fault Detection via Simultaneous Multithreading) «Προχωρημένα Θέματα.
Μεταγράφημα παρουσίασης:

Υπερβαθμωτή (superscalar) Οργάνωση Υπολογιστών cslab@ntua 2016-2017

Περιορισμοί των βαθμωτών αρχιτεκτονικών Μέγιστο throughput: 1 εντολή/κύκλο ρολογιού (IPC≤1) Υποχρεωτική ροή όλων των (διαφορετικών) τύπων εντολών μέσα από κοινή σωλήνωση Εισαγωγή καθυστερήσεων σε ολόκληρη την ακολουθία εκτέλεσης λόγω stalls μίας εντολής (οι απόλυτα βαθμωτές αρχιτεκτονικές πραγματοποιούν εν σειρά (in-order) εκτέλεση των εντολών) cslab@ntua 2016-2017

Πώς μπορούν να ξεπεραστούν οι περιορισμοί; Ενσωμάτωση διαφορετικών αγωγών ροής δεδομένων, ο καθένας με όμοιες (πολλαπλή εμφάνιση του ίδιου τύπου) ή και ετερογενείς λειτουργικές μονάδες → multicycle operations Εκτέλεση πολλαπλών εντολών ανά κύκλο μηχανής (παράλληλη εκτέλεση) → υπερβαθμωτές αρχιτεκτονικές Δυνατότητα εκτέλεσης εκτός σειράς (out-of-order) των εντολών → δυναμικές αρχιτεκτονικές cslab@ntua 2016-2017

Παραλληλισμός Επιπέδου Εντολών ILP: Instruction-Level Parallelism Average ILP = #instructions / #cycles required code1: ILP = 1 οι εντολές πρέπει να εκτελεστούν σειριακά code2: ILP = 3 οι εντολές μπορούν να εκτελεστούν παράλληλα code1: r1  r2 + 1 r3  r1 / 17 r4  r0 - r3 code2: r1  r2 + 1 r3  r9 / 17 r4  r0 - r10 cslab@ntua 2016-2017

ILP parameters (Jouppi and Wall, 1989) Operation Latency (OL) Number of machine cycles until a result is available for use by a subsequent instruction Machine Parallelism (MP) Max number of simultaneously executing instructions the machine can support Issue Latency (IL) Number of machine cycles required between issuing two consecutive instructions Issue Parallelism (ΙP) Max number of instructions that can be issued in every cycle cslab@ntua 2016-2017

Κατηγοριοποίηση επεξεργαστών με βάση τον ILP [Jouppi, DECWRL 1991] Baseline Scalar pipeline (π.χ. κλασικό 5-stage ΜIPS) Παραλληλισμός διανομής IP (Issue Parallelism) = 1 εντολή/κύκλο IL (Issue Latency) = 1 cycle MP (Machine Parallelism) = k (k stages in the pipeline) OL (operation latency) = 1 cycle Μέγιστο IPC = 1 εντολή/κύκλο IP = max instructions/cycle Op latency = # cycles till result available Issuing latency cslab@ntua 2016-2017

Κατηγοριοποίηση επεξεργαστών με βάση τον ILP [Jouppi, DECWRL 1991] Superpipelined: κύκλος ρολογιού = 1/m του baseline Issue Parallelism IP = 1 εντολή / minor κύκλο Operation Latency OL = 1 major cycle = m minor κύκλοι Issue Latency IL = 1 minor cycle MP = m x k Μέγιστο IPC = m εντολές / major κύκλο (m x speedup?) major cycle = m minor cycles minor cycle Superpipelining: issues instructions faster than they are executed! Pipelining of the execution stage into multiple stages Issuing m times faster cslab@ntua 2016-2017

Superpipelining “Superpipelining is a new and special term meaning pipelining. The prefix is attached to increase the probability of funding for research proposals. There is no theoretical basis distinguishing superpipelining from pipelining. Etymology of the term is probably similar to the derivation of the now-common terms, methodology and functionality as pompous substitutes for method and function. The novelty of the term superpipelining lies in its reliance on a prefix rather than a suffix for the pompous extension of the root word.” - Nick Tredennick, 1991 cslab@ntua 2016-2017

Superpipelining: Hype vs. Reality baseline η ταχύτητα διανομής των εντολών δεν ακολουθεί το ρυθμό επεξεργασίας τους underpipelined τα αποτελέσματα μιας εντολής δεν είναι διαθέσιμα στις επόμενες m-1 διαδοχικές εντολές superpipelined cslab@ntua 2016-2017

Κατηγοριοποίηση επεξεργαστών με βάση τον ILP [Jouppi, DECWRL 1991] Superscalar: Παραλληλισμός διανομής = IP = n εντολές / κύκλο Καθυστέρηση λειτουργίας = OP = 1 κύκλος Μέγιστο IPC = n εντολές / κύκλο (n x speedup?) n Full replication => OK Partial replication (specialized execution units) => must manage structural hazards cslab@ntua 2016-2017

Κατηγοριοποίηση επεξεργαστών με βάση τον ILP [Jouppi, DECWRL 1991] VLIW: Very Long Instruction Word Παραλληλισμός διανομής = IP = n εντολές / κύκλο Καθυστέρηση λειτουργίας = OP = 1 κύκλος Μέγιστο IPC = n εντολές / κύκλος = 1 VLIW / κύκλο Early – Multiflow Trace (8 wide), later Cydrome (both folded) Later – Philips Trimedia – for media/image processing, GPUs, etc. Just folded last year Current- Intel IA-64 Characteristics: -parallelism packaged by compiler, hazards managed by compiler, no (or few) hardware interlocks, low code density (NOPs), clean/regular hardware cslab@ntua 2016-2017

Κατηγοριοποίηση επεξεργαστών με βάση τον ILP [Jouppi, DECWRL 1991] Superpipelined-Superscalar Παραλληλισμός διανομής = IP = n εντολές / minor κύκλο Καθυστέρηση λειτουργίας = OP = m minor κύκλοι Μέγιστο IPC = n x m εντολές / major κύκλο Superduper cslab@ntua 2016-2017

Superscalar vs. Superpipelined Περίπου ισοδύναμη επίδοση Αν n = m τότε και οι δύο έχουν περίπου το ίδιο IPC Παραλληλισμός στο «χώρο» vs. παραλληλισμός στον χρόνο Space vs. time: given degree of concurrency can be achieved in either dimension cslab@ntua 2016-2017

Μοντέλο ροών στους Superscalars I-cache Instruction Branch FETCH Flow Predictor Instruction Buffer DECODE Integer Floating-point Media Memory Memory Data EXECUTE Flow Reorder Register Buffer (ROB) Data COMMIT Flow Store D-cache Queue cslab@ntua 2016-2017

Παράλληλες αρχιτεκτονικές αγωγού Βαθμός παραλληλισμού μηχανήματος: ο μέγιστος αριθμός εντολών που μπορούν ταυτόχρονα να είναι σε εξέλιξη Σε ένα μια βαθμωτή αρχιτεκτονική ισούται με τον αριθμό σταδίων του pipeline (pipeline depth) cslab@ntua 2016-2017

Παράδειγμα βαθμωτής αρχιτεκτονικής αγωγού 6 σταδίων Παράδειγμα βαθμωτής αρχιτεκτονικής αγωγού 6 σταδίων IF: instruction fetch ID: instruction decode RD: register read ALU: ALU op/address generation MEM: read/write memory WB: register write cslab@ntua 2016-2017

H ίδια σωλήνωση με πλάτος 3 Πολλαπλά δομικά στοιχεία (functional units) στο hardware Αυξάνεται η λογική πολυπλοκότητα των σταδίων του pipeline Απαιτούνται πολλαπλές θύρες ανάγνωσης/εγγραφής του register file για την ταυτόχρονη προσπέλαση από όλους τους αγωγούς Επιτυγχάνεται στην καλύτερη περίπτωση επιτάχυνση ίση με 3 σε σύγκριση με την αντίστοιχη βαθμωτή σωλήνωση cslab@ntua 2016-2017

Intel Pentium (2 i486 pipelines) Inorder Pipelines IF D1 D2 EX WB Intel i486 Intel Pentium (2 i486 pipelines) U - Pipe V - Pipe cslab@ntua 2016-2017

Ετερογενείς υπερβαθμωτές σωληνώσεις επέκταση των βαθμωτών σωληνώσεων πολλαπλών κύκλων (π.χ. FP MIPS pipeline) στa στάδια IF, ID, RD,WB μετά το RD, κάθε εντολή γίνεται issue μέσα στον αγωγό που αντιστοιχεί στον τύπο της Unified pipelines are inefficient and unnecessary. In a scalar organization they make sense. With multiple issue, specialized pipelines make much more sense. Note that all instructions are treated identically in IF, ID, (also RD, more or less), and WB. Why? Because they behave very much the same way. What mix? 1st generation: Int & FPU, later: more; must determine for your workload. cslab@ntua 2016-2017

CDC 6600-1964 ο πρώτος υπολογιστής που κατασκευάστηκε στα πρότυπα ενός «υπερ-υπολογιστή» 1964 (πριν από τους επεξεργαστές RISC): περιείχε 10 διαφορετικές λειτουργικές μονάδες έξω από τη σωλήνωση, με διαφορετικό latency η κάθε μία στόχος η διεκπεραίωση 1 εντολής ανά κύκλο μηχανής 8 address registers (18 bits) cslab@ntua 2016-2017

CDC 6600 10 functional units/non pipelined/variable exec latency 1x Fixed-point adder (18 bits)-3 cycles 1 x Floating-point adder (60 bits) 2 x Multiply unit (60 bits)-10 cycles Divide unit (60 bits)-29 cycles Shift unit (60 bits) Logical unit (60 bits) 2 x increment units Branch unit cslab@ntua 2016-2017

Source: Diefendorf and Allen (1992) Motorola 88110-1992 ένας από τους πλατύτερους αγωγούς (most wider pipelines) περιέχει 10 λειτουργικές μονάδες, στην πλειοψηφία τους με latency ενός κύκλου όλες είναι pipelined, εκτός της μονάδας για διαίρεση Source: Diefendorf and Allen (1992) cslab@ntua 2016-2017

Ετερογενής σωλήνωση του Power4 PC I-Cache BR Scan Predict Fetch Q Decode Reorder Buffer BR/CR Issue Q CR Unit FX/LD 1 FX1 LD1 FX/LD 2 LD2 FX2 FP FP1 FP2 StQ D-Cache cslab@ntua 2016-2017