Ένα νέο πλαίσιο αξιολόγησης για πολύπλοκα συστήματα υψηλών υπολογιστικών επιδόσεων επιχειρεί να συνδέσει την υπολογιστική ισχύ με την ενεργειακή αποδοτικότητα, την ακρίβεια και τη βιωσιμότητα, προσφέροντας έναν πιο ολοκληρωμένο τρόπο κατανομής πόρων σε απαιτητικές εφαρμογές όπως η τεχνητή νοημοσύνη και το quantum computing.
.
Σύμφωνα με δημοσίευμα του Quantum Zeitgeist, ερευνητές ανέπτυξαν ένα multidimensional metric framework για την αξιολόγηση σύγχρονων υπολογιστικών συστημάτων πολλαπλών κλιμάκων, στα οποία συνδυάζονται διαφορετικοί τύποι hardware, όπως CPUs και GPUs.
Η προσέγγιση επιχειρεί να ξεπεράσει την παραδοσιακή αξιολόγηση των συστημάτων υψηλών επιδόσεων με βάση μόνο τη μέγιστη υπολογιστική ισχύ, όπως τα peak FLOPS. Αντίθετα, εξετάζει ταυτόχρονα παράγοντες όπως η ταχύτητα επεξεργασίας, η αξιοποίηση των διαθέσιμων πόρων, η κατανάλωση ηλεκτρικής ενέργειας και η ακρίβεια των υπολογισμών.
Το ζήτημα αποκτά ιδιαίτερη σημασία καθώς οι εφαρμογές AI, high-performance computing και quantum computing απαιτούν ολοένα μεγαλύτερη υπολογιστική ισχύ, αυξάνοντας παράλληλα τις ενεργειακές απαιτήσεις των υποδομών.
Τα σύγχρονα υπολογιστικά συστήματα γίνονται όλο και περισσότερο ετερογενή. Αντί να βασίζονται αποκλειστικά σε έναν τύπο επεξεργαστή, συνδυάζουν διαφορετικές μονάδες υπολογισμού, καθεμία από τις οποίες μπορεί να είναι αποτελεσματικότερη για συγκεκριμένο τύπο εργασίας.
Η πρόκληση είναι επομένως να αποφασίζεται ποιο workload θα εκτελείται σε ποιο hardware, ώστε να επιτυγχάνεται η καλύτερη δυνατή σχέση μεταξύ απόδοσης, κατανάλωσης ενέργειας και ακρίβειας.
Οι ερευνητές παρομοιάζουν αυτή τη λογική με ένα δίκτυο μεταφορών μιας πόλης: αυτοκίνητα, τρένα και λεωφορεία δεν είναι εξίσου κατάλληλα για κάθε διαδρομή. Αντίστοιχα, CPUs, GPUs και άλλα υπολογιστικά modules δεν αποδίδουν με τον ίδιο τρόπο σε κάθε workload.
Ένα από τα βασικά μεγέθη που εξετάζει το νέο πλαίσιο είναι το throughput, δηλαδή ο όγκος υπολογιστικής εργασίας που μπορεί να ολοκληρώσει ένα σύστημα σε συγκεκριμένο χρονικό διάστημα. Ωστόσο, αντί να αξιολογείται αυτό το μέγεθος απομονωμένα, συνδυάζεται με την ηλεκτρική κατανάλωση και την απαιτούμενη ακρίβεια.
Τα πειράματα των ερευνητών σε modular hybrid testbed έδειξαν ότι υπάρχουν σημαντικά trade-offs μεταξύ ακρίβειας και ενεργειακής κατανάλωσης.
Ειδικότερα, η μείωση της αριθμητικής ακρίβειας κατά μόλις ένα bit οδήγησε σε μείωση της κατανάλωσης ισχύος έως και 15%, χωρίς, σύμφωνα με τα πειράματα, απότομη επιδείνωση των συνολικών αποτελεσμάτων.
Το εύρημα είναι ιδιαίτερα σημαντικό για εφαρμογές στις οποίες δεν απαιτείται πάντοτε η μέγιστη δυνατή αριθμητική ακρίβεια. Σε τέτοιες περιπτώσεις, μικρές προσαρμογές στο precision των υπολογισμών θα μπορούσαν να μεταφραστούν σε αισθητή εξοικονόμηση ενέργειας.
Οι ερευνητές διαπίστωσαν επίσης ότι το throughput διαφοροποιείται σημαντικά ανάλογα με τη διαμόρφωση των hybrid nodes.
Σε ορισμένες περιπτώσεις, συστήματα που συνδύαζαν CPUs και GPUs εμφάνισαν βελτίωση της scalability άνω του 40% σε workloads μαζικά παράλληλης επεξεργασίας σε σύγκριση με διαμορφώσεις που βασίζονταν αποκλειστικά σε CPUs.
Παράλληλα, η βελτιστοποίηση της κατανομής των πόρων σύμφωνα με τα χαρακτηριστικά κάθε workload οδήγησε σε μέση μείωση του latency κατά 22% σε διαφορετικές εφαρμογές, μεταξύ των οποίων και εργασίες τεχνητής νοημοσύνης.
Τα αποτελέσματα ενισχύουν την άποψη ότι η βιωσιμότητα των υπολογιστικών συστημάτων δεν εξαρτάται μόνο από την ενεργειακή αποδοτικότητα του hardware μεμονωμένα, αλλά και από το πόσο αποτελεσματικά κατανέμονται οι εργασίες ανάμεσα στις διαθέσιμες υπολογιστικές μονάδες.
Σε αυτό το σημείο αποκτούν σημασία πλατφόρμες orchestration όπως το Kubernetes. Το νέο framework θα μπορούσε, σύμφωνα με τους ερευνητές, να χρησιμοποιηθεί για τη βελτίωση μηχανισμών scheduling, ώστε ένα σύστημα να αναθέτει δυναμικά διαφορετικά workloads στο hardware που προσφέρει τον καλύτερο συνδυασμό ταχύτητας, ενεργειακής κατανάλωσης και ακρίβειας.
Για παράδειγμα, ένα AI workload θα μπορούσε να μεταφέρεται σε GPU όταν αυτό προσφέρει σημαντικά καλύτερη απόδοση ανά μονάδα ενέργειας, ενώ άλλη εργασία θα μπορούσε να παραμένει σε CPU εάν η μεταφορά της δεν προσφέρει πραγματικό όφελος.
Η προσέγγιση αποκτά ακόμη μεγαλύτερη βαρύτητα καθώς αυξάνεται η συζήτηση γύρω από το ενεργειακό αποτύπωμα της τεχνητής νοημοσύνης και των data centers. Η ταχεία ανάπτυξη των AI models αυξάνει τη ζήτηση ηλεκτρισμού, γεγονός που δημιουργεί πίεση όχι μόνο για περισσότερη παραγωγή ενέργειας αλλά και για καλύτερη αξιοποίηση της ήδη διαθέσιμης υπολογιστικής υποδομής.
Υπό αυτή την έννοια, η βελτιστοποίηση του software και του workload allocation μπορεί να λειτουργήσει συμπληρωματικά προς τις επενδύσεις σε ενεργειακά αποδοτικότερο hardware και καθαρότερες πηγές ηλεκτρικής ενέργειας.
Το ίδιο ζήτημα αναμένεται να αποκτήσει σημασία και για το quantum computing, ιδιαίτερα καθώς οι μελλοντικές υποδομές πιθανότατα θα συνδυάζουν κλασικά και κβαντικά συστήματα σε υβριδικές αρχιτεκτονικές.
Οι ίδιοι οι ερευνητές, πάντως, επισημαίνουν ότι τα αποτελέσματα προέρχονται από ένα συγκεκριμένο modular hybrid testbed. Κατά συνέπεια, δεν είναι ακόμη σαφές αν οι ίδιες σχέσεις μεταξύ ακρίβειας, ενεργειακής κατανάλωσης και απόδοσης θα εμφανιστούν με τον ίδιο τρόπο σε πολύ μεγαλύτερα data centers ή σε διαφορετικές αρχιτεκτονικές hardware.
Η συγκεκριμένη επιφύλαξη είναι κρίσιμη, καθώς εργαστηριακές υποδομές δεν μπορούν να αναπαράγουν πλήρως την πολυπλοκότητα των πραγματικών συστημάτων μεγάλης κλίμακας.
Παρά τον περιορισμό αυτό, η έρευνα αναδεικνύει μια σημαντική αλλαγή στον τρόπο με τον οποίο μπορεί να αξιολογείται η πρόοδος στην υπολογιστική ισχύ: το ταχύτερο σύστημα δεν είναι απαραίτητα και το αποδοτικότερο ή το περισσότερο βιώσιμο.
Καθώς AI και προηγμένα υπολογιστικά συστήματα αυξάνουν τις ανάγκες σε ηλεκτρική ενέργεια, η δυνατότητα μέτρησης της απόδοσης με βάση πολλαπλές παραμέτρους —και όχι μόνο την καθαρή ταχύτητα— μπορεί να αποτελέσει σημαντικό εργαλείο για τη δημιουργία υποδομών που συνδυάζουν υψηλές επιδόσεις με χαμηλότερο ενεργειακό κόστος.
Η σχετική ερευνητική εργασία, με τίτλο «Measuring Sustainability in Multi-Scale High-Performance Computing», υπογράφεται από τους Carlos J. Barrios, Frédéric Le Mouël και Yves Denneulin.
Πηγή: Quantum Zeitgeist
Η προσέγγιση αποκτά ακόμη μεγαλύτερη βαρύτητα καθώς αυξάνεται η συζήτηση γύρω από το ενεργειακό αποτύπωμα της τεχνητής νοημοσύνης και των data centers.